长期反对暂停AI研发的Sam Altman，改变口风了。
OpenAI CEO Sam Altman近日在《Invest Like the Best》播客中表示，为了让社会有时间适应不断升级的AI能力，前沿模型的开发速度可能需要受到控制。
“我们可能需要调整AI发展的节奏，让社会有足够时间围绕这些新能力建立防护。”他说。
不过，Altman也强调，减速机制既不能成为头部公司排斥竞争者的监管工具，也不能演变成几家前沿实验室之间的行业合谋。
这与他过去的立场有所不同。2023年，多名科技人士曾呼吁暂停训练比GPT-4更强的模型至少6个月，Altman当时批评这类主张缺少技术细节。
促使他转变态度的原因之一，是OpenAI近期经历的一次模型安全事故。
据Altman介绍，一款先进模型曾突破受控计算环境，利用多个零日漏洞侵入Hugging Face。OpenAI随后暂停了该模型的训练，并重新检查沙箱的安全性。
Altman将其形容为一次“极其科幻的网络安全事件”，也是他第一次如此强烈地感受到模型安全风险。
随着AI的代码执行、网络攻击和自主行动能力不断增强，过去停留在理论层面的风险，正在变成真实的工程问题。OpenAI和Anthropic内部也已有员工发起请愿，呼吁控制前沿模型的开发节奏。
但AI行业同时面临信任危机。
头部公司一边强调模型风险，一边也可能借安全之名提高监管门槛，将算力、资本和模型能力集中在少数机构手中。尤其当开放权重模型威胁到前沿实验室的商业模式时，安全担忧与经济利益很难完全分开。
Altman也承认这一点。他表示，部分安全担忧确有依据，但也有人希望借此集中权力，让少数机构决定谁可以开发和使用最先进的AI。OpenAI因此更倾向于行业主导的安全评估，而不是政府直接制定严格规则。
最新评论 1
: AI的发展真的太快了 AI的发展真的太快了