Introducing Falcon-H1-Arabic: Pushing the Boundaries of Arabic Language AI with Hybrid Architecture
Hugging Face Blog148d agoRelease阿聯酋技術創新研究所（TII）於 Hugging Face 宣布推出全新「Falcon-H1-Arabic」模型。該模型專為阿拉伯語設計，旨在突破現有技術瓶頸。其最大亮點在於採用了「混合架構（Hybrid Architecture）」，預期將在運算效率與語言理解上帶來顯著提升，為開源社群提供強大的多語言支援。
Falcon-H1: A Family of Hybrid-Head Language Models Redefining Efficiency and Performance★ 75
Hugging Face Blog377d agoRelease阿聯酋技術創新研究所（TII）在 Hugging Face 上發布了全新的 Falcon-H1 系列模型。該系列主打「混合頭（Hybrid-Head）」架構，旨在解決傳統 Transformer 模型在處理長文本時的運算瓶頸。透過結合不同的注意力機制或序列處理技術，Falcon-H1 成功在推論效率、記憶體佔用與模型性能之間取得全新平衡，為開源 AI 社群注入高效能的新選擇。
Falcon-Arabic: A Breakthrough in Arabic Language Models
Hugging Face Blog377d agoRelease阿布達比技術創新研究所（TII）在 Hugging Face 上發布了專為阿拉伯語設計的 Falcon-Arabic 模型。該模型旨在解決阿拉伯語在自然語言處理（NLP）中因複雜語法與方言多樣性帶來的挑戰。作為開源 Falcon 家族的新成員，Falcon-Arabic 將為中東及全球開發者提供更精準、高效的阿拉伯語 AI 解決方案。
Falcon-Edge: A series of powerful, universal, fine-tunable 1.58bit language models.★ 82
Hugging Face Blog383d agoRelease阿聯酋技術創新研究所（TII）發表 Falcon-Edge 系列模型，採用 1.58-bit（三進制）權重技術。該系列模型不僅體積小、運算速度快且功耗極低，非常適合在手機與筆電等邊緣設備上運行，同時還支援高效的微調，打破了以往極低位元模型難以微調的限制，為本地端 AI 應用帶來全新可能。
Spread Your Wings: Falcon 180B is here★ 75
Hugging Face Blog1000d agoRelease阿聯酋技術創新研究所（TII）推出全新開源大語言模型 Falcon 180B，擁有 1800 億參數，並在 3.5 兆 Token 的 RefinedWeb 數據集上進行訓練。該模型在 Hugging Face Open LLM 排行榜上名列前茅，性能超越 LLaMA 2 70B，直逼 Google 的 PaLM-2。然而，其龐大的體積也對硬體提出了極高要求，推論至少需要 640GB 顯存（約 8 張 A100 80GB）。