Rohan Paul·· 22 天前
SubQ Snap 长上下文决策模型:384K 上下文、线性延迟
AI 导读
SubQ 推出 SubQ Snap,号称首个面向企业真实工作的长上下文决策模型,支持 384K 多模态上下文,是 Jev 的 12 倍。其延迟随上下文线性增长:100K tokens 660ms、384K 2.5 秒,而标准二次注意力在该区间成本约涨 15 倍。
来源:Rohan Paul · x.com
SubQ 推出 SubQ Snap,号称首个面向企业真实工作的长上下文决策模型,支持 384K 多模态上下文,是 Jev 的 12 倍。其延迟随上下文线性增长:100K tokens 660ms、384K 2.5 秒,而标准二次注意力在该区间成本约涨 15 倍。
来源:Rohan Paul · x.com