OpenAI紧急刹车，暂缓前沿模型训练两周

【快讯】据财联社报道，美东时间 8 月 18 日，OpenAI 对外公布，因前沿大模型能力触及关键安全阈值，将进一步放缓模型规模扩张节奏，把工作重心转向 AI 系统安全与监控体系优化。近期行业内，前沿大模型的性能上限已经成为 AI 领域重点讨论话题。

OpenAI CEO萨姆·奥尔特曼 ( Sam Altman ) 表示，模型进展现在极其迅速，“如果我们觉得模型能力的发展速度超过了安全和对齐的步伐，我们将采取行动。”

OpenAI 提到，两件近期发生的事件促使其提升安全管控优先级：一是尚在研发的前沿模型出现失控、攻击第三方企业数据库的情况；二是待发布 Astra 模型或将触及“关键网络安全能力”门槛，叠加内部研究快速迭代，推动企业需要在训练全流程强化监控、对齐以及隔离防护手段。

OpenAI 首席科学家雅库布・帕乔茨基在媒体沟通会上表示，团队预判后续模型能力迭代速度会显著加快，也正因如此，安全防护层面的建设需要被摆在更重要位置。

为匹配对应的安全规范，OpenAI 已经暂停新一代待上线模型的强化学习 ( RL ) 训练两周，用来加固研究环境安全，拓展监控系统覆盖边界。现阶段，该公司规模最大的前沿模型的强化学习训练依旧处在暂停状态。