Altman 称本地推理浪费 DRAM 与算力
热点事件历史事件
Altman 称本地推理浪费 DRAM 与算力
2 篇报道2 个报道来源3 天前更新
先了解这件事
AI 综述
OpenAI CEO Sam Altman 称，从全球资源分配看，把有限的 DRAM 放在个人电脑里、却只有 5% 的时间在用，这相当糟糕；按每 token 算，数据中心轻松胜出，batch size 为 1 的本地模型按任何利用率指标看都是浪费。他在 X 上评论本地推理时同时承认，本地推理是整个技术栈中唯一没人能对你弃用的部分。 The Verge 报道称，Altman 是在 Cheeky Pint 播客访谈中被问及供应链短缺（如持续的 RAM 短缺）时作出上述表态的，他认为在供应紧张环境下，云端最大化利用率才是更优解。
AI 根据报道生成 · 3 天前更新
最新进展10月31日 04:48
Sam Altman 称 RAM 放在数据中心比放在个人电脑上更好报道时间线
沿着报道，了解事件的不同侧面。
10月31日
- The Verge：AISam Altman 称 RAM 放在数据中心比放在个人电脑上更好
OpenAI CEO Sam Altman 在 Cheeky Pint 播客访谈中表示，在供应紧张环境下，让全球有限的 DRAM 留在个人电脑里且大部分时间闲置是“糟糕的”，云端最大化利用率才是更优解。
10月30日
- Rohan PaulSam Altman 谈本地推理的浪费
Sam Altman 谈本地推理。 “从全球资源分配的角度看，让每个人、让世界上有限 DRAM 供应中的一大批都放在自己的电脑里、却只有 5% 的时间在用，这相当糟糕” 按每 token 算，数据中心轻松胜出。batch size 为 1 的本地模型按任何利用率指标看都是浪费，但它也是整个技术栈中唯一没人能对你弃用的部分。https://x.com/morqon/status/2115838856524120128/video/1
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 911月1日 00:00
- 近 24 小时变化
- -67%
02.557.510
11月1日06:0012:0018:0011月2日
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。