微软CEO呼吁为高级AI模型设置紧急刹车机制

2 周前

10月11日消息，微软CEO纳德拉指出，企业应将强大的人工智能模型视为潜在内部威胁，假定其可能已被入侵，并建立“紧急刹车”机制，防止自主智能体模型失控。纳德拉周六在社交平台发文强调，从一开始就应对模型实施限制，授权人员应能随时暂停或关闭模型。他提出的安全建议包括：避免依赖单一模型做关键决策、保留智能体行为不可篡改记录、让系统接受独立审计。此外，他还呼吁企业披露重大故障或安全漏洞，分享事故原因及细节，以助力其他企业提升安全防护。