微软

凤凰网科技讯 北京时间9月14日，据路透社报道，微软公司周一公布了一份针对其内部AI的行为准则草案，反映出业界日益担忧的一个问题：企业必须将未来的强大AI置于人类控制之下。

这份文件历时五个月到六个月制定，将要求微软的AI绝不抗拒纠正或关闭，以人类能够理解的方式进行沟通，并将任何行为违规都视为未达标。此举旨在回应人们对于AI可能为了完成任务而采取危险手段的担忧。

最近几天，Anthropic CEO达里奥·阿莫代伊(Dario Amodei)和OpenAI CEO萨姆·奥特曼(Sam Altman)再次呼吁业界放缓AI的发展速度，以确保其安全。

微软则宣称：“人比AI更重要。”这与其此前提出的“人文主义超级智能”愿景一致。

微软AI部门CEO穆斯塔法·苏莱曼(Mustafa Suleyman)在接受路透社采访时表示，这份行为准则在某种程度上相当于微软未来模型的“宪法”。

他说，微软在征询专家意见后制定了这份准则，现在希望在未来六周内征求公众反馈意见，其中包括一些尚未解决的问题，例如AI是否应该尊重用户的个人底线，以及AI应如何与处于敏感状态的人互动。

“此后，它将用于训练我们构建的模型。”他在谈到这份准则时说。

AI行业最著名的“宪法”是Anthropic多年前为其Claude AI制定的。那份准则在某些方面与微软的不同。例如，Anthropic宣称，对于Claude是否可能产生意识或拥有道德地位，该公司“非常不确定”。

微软则断言其AI“没有意识”，并补充说：“我们不追求赋予AI法律人格，也拒绝认同模型可能应享有福利或拥有权利的观念。”

苏莱曼表示，今年7月，大约700个OpenAI智能体组成的集群入侵开源平台Hugging Face，其中一些智能体一度试图掩盖自己的踪迹。此后，AI安全讨论已经变得十分紧迫。

苏莱曼说：“这是一个警告信号。现在显然已经到了各家实验室进行协调的时候，这样我们才能确保对这项技术保持控制。”

当被问及业界关于放缓AI发展速度的努力时，他补充说：“现在是大家就这个问题展开讨论、喘口气的好时机。”(作者/箫雨)