跳到正文
Hugging Face 社区博客·· 2025-05-15精选AI 评分64

TII 发布 Falcon-Edge 系列 1.58bit BitNet 语言模型,含 1B 和 3B 两种规格

Falcon-Edge: A series of powerful, universal, fine-tunable 1.58bit language models.

AI 导读

TII 的 Falcon-Edge 系列基于 BitNet 架构,以三值权重 {-1, 0, 1} 直接预训练,提供 1B 和 3B 两种参数规格,各含 base 和 instruct 版本,模型在约 1.5 Tera Tokens 的内部数据混合上预训练。

推荐理由

原文解释了 BitNet 三值权重的训练范式和微调路径,读者可以据此判断 1.58bit 模型在端侧部署的适用性。

来源:Hugging Face 社区博客 · huggingface.co