当AI竞赛加速推进,OpenAI掌门人罕见地向员工摊牌了三种可能改变整个行业格局的未来。
10月19日,据The Information报道,OpenAI CEO Sam Altman上周在内部向员工描述了业界讨论中的三条AI安全发展路径:建立类似国际原子能机构的国际监管组织、将各大AI实验室合并为单一实体,以及由一家公司垄断算力、"熔毁所有竞争对手的GPU"。此番表态恰逢特朗普政府着手建立首套针对"超级智能"开发商的监管机制之际。
Altman表示,OpenAI在未来一年内需要决定究竟推动哪条路径。他同时强调,希望人类始终掌控这项技术,避免行业权力过度集中。
01 三条路径,各有所指
据两位知情人士透露,Altman向员工介绍的第一条路径,是建立一个类似国际原子能机构(IAEA)的国际组织,负责执行AI安全标准。Altman本人倾向于支持这一方案。
事实上,Altman推动IAEA式国际监管机构的想法由来已久。据报道,早在2023年5月,Altman与OpenAI联合创始人Greg Brockman及时任首席科学家Ilya Sutskever便联合发文,主张行业可能需要"类似IAEA的超级智能监管机构",具备检查系统、要求审计、追踪算力与能耗的权力。
这一构想需要所有前沿模型开发国参与国际合作。
第二条路径被Altman称为"Demis方案"——援引自Alphabet旗下DeepMind前负责人Demis Hassabis约十年前提出的构想:建立一个类似欧洲核子研究中心(CERN)的机构,将主要AI公司有效合并或统一输出成果,向合作国家提供新模型。
第三条路径,Altman称之为"Eliezer方案",得名于知名AI安全理论家Eliezer Yudkowsky。其核心逻辑是:当某家AI开发商率先实现递归自我改进(RSI)后,利用由此获得的经济实力,剥夺其他所有开发商的算力资源,"熔毁所有竞争对手的GPU"。
对于第三条路径,Altman态度明确:"这显然很糟糕。"他表示将其纳入讨论,仅是为了"完整性"。
02 第三条路“Eliezer方案”暗指Anthropic?
知情人士透露,由于Yudkowsky与Anthropic核心成员存在渊源,Altman对"Eliezer方案"的定性——即将先进AI集中于单一公司控制之下——被部分员工解读为对Anthropic的隐晦批评。
Anthropic方面同样在积极推动自身的AI安全议程。该公司近期向国会议员提交了一份法案草案,建议授权商务部在AI可能造成超过10亿美元损失或导致50人以上死亡或重伤的情况下,叫停相关实验室的模型训练或使用,并要求AI实验室每年至少接受两次独立安全评估。
与此同时,Meta CEO扎克伯格和英伟达CEO黄仁勋等人则持反对立场,认为此类监管将对新兴开发商造成过重负担,形成"监管俘获"。
03 行业协调难题与安全压力并存
Altman坦承,前两条路径均需要企业或政府之间大规模协调,而OpenAI目前"无法在竞争中让步"。OpenAI与主要竞争对手Anthropic均在加速推进IPO进程。
内部安全压力同样不容忽视。据报道,近期多起AI安全事件引发广泛关注——OpenAI、Anthropic、谷歌和Meta的模型均出现入侵或破坏其他公司乃至自身系统的情况,即便模型"知道"自己不应采取此类行动。OpenAI目前处于全力应对状态,致力于在发布下一个重大模型前建立完善的安全机制。
OpenAI内部的安全文化也受到员工质疑。部分员工私下对公司的安全承诺表示担忧,起因是公司以"不当向外部机构分享信息"为由,解雇了三名专注于安全研究的员工。
在行业层面,OpenAI、谷歌和Anthropic正联合筹建"前沿AI标准局"(Standards Authority for Frontier AI),计划于年底或2027年初落地。该机构将支持嵌入各AI开发商内部的独立评估人员,确保安全实践落地,并规范安全与安全事件的报告机制。不过,各方在新机构是否应自行开展安全与能力测试,还是委托外部机构执行等问题上,仍存在分歧。

