奥特曼给「AI 造 AI」踩刹车,方向盘必须握在人类手中
31 分钟前

OpenAI已让AI参与下一代GPT研发,但未允许其在无人监督下自主递归自我改进。CEO奥特曼明确安全红线,拒绝将未来决策权移交AI,优先攻坚对齐问题。OpenAI引入四家外部评估机构驻场,在模型训练、强化学习训练、对齐评测质量、模型内部机制四个环节嵌入全流程安全核查,替代成品出厂前才测试的旧模式。但外部评估方无独立叫停权,核心内部模型评估结果不对外公开,仅提交给OpenAI安全委员会。当前AI能力进化不均衡,在AI自我迭代飞轮可能启动的背景下,安全兜底成为更紧迫的核心问题。

简体中文 English