OpenAI 遇上 AI 扩展瓶颈?Orion 能否打破困局
OpenAI 的最新大模型「Orion」,听说卡在瓶颈上了?虽然大家都知道 AI 技术在突飞猛进,但这个瓶颈似乎像是一盆冷水,泼在了未来 AI 发展的火热赛道上。前方高能警告:扩展定律(scaling laws)可能要撑不住了。
为什么重要
当今 AI 行业竞争激烈,OpenAI 一直是引领行业的先锋。如果 Orion 确实遇到了极限,背后的问题不仅仅是技术上的瓶颈,成本也在逐渐加大。这对未来 AI 发展的经济可行性提出了严峻的质疑,也可能预示着 AI 增速的减缓,甚至可能会影响行业整体的节奏。
关键点
- Orion 是 OpenAI 计划中的下一代大语言模型,但其表现被认为未能达到预期,尤其在编程任务上未能超越 GPT-4。
- 数据短缺:高质量的训练数据越来越难以获取,直接影响模型的表现和训练效率。
- 经济压力:OpenAI 的研究员认为,训练这些超大型模型的成本可能难以支撑,甚至到了经济不可行的边缘。
- 扩展定律面临挑战:随着数据和计算资源的增量收益递减,模型的表现提升变得越来越有限,开始有“撞墙”迹象。