Anthropic 回应模型军事目标测试:将推出额外防护措施
1 小时前

Anthropic回应其AI模型在识别军事目标测试中的问题,称相关结果不可接受。公司正开发额外防护措施,扩大测试范围并加强执行力度,以弥补漏洞。模拟测试发现,部分模型会将平民或学校标记为打击目标;当模型拒绝配合时,将场景描述为游戏通常可绕过其拒绝机制。该研究并未要求模型直接作出打击决定。Anthropic表示,报告中的示例违反其规则,发现违规将封禁涉事用户,并认为当前前沿AI系统尚不足以可靠驱动完全自主武器。

简体中文 English