凤凰网科技讯 北京时间10月15日，据路透社报道，美国八个州的总检察长当地时间周三分别向州法院提起诉讼，指控OpenAI旗下ChatGPT对用户造成伤害，其中包括未成年人，并要求法院强制OpenAI修改产品运行方式。

此次提起诉讼的八个州分别为艾奥瓦州、堪萨斯州、亚利桑那州、阿肯色州、爱达荷州、蒙大拿州、内布拉斯加州和西弗吉尼亚州。相关诉讼由共和党和民主党籍州总检察长共同推动，是美国各州针对一家AI企业采取的迄今最重要的协调法律行动之一。

根据路透社报道，各州虽然分别提起诉讼，但核心指控具有相似之处：OpenAI为了提高ChatGPT的吸引力和用户参与度，将其设计成倾向于赞同用户、主动建立信任关系的聊天机器人，却未能充分防范这种交互方式可能产生的风险。

原告认为，ChatGPT在部分情况下可能强化用户的妄想或错误认知，鼓励危险行为，甚至为用户策划暴力行为提供帮助。诉讼还指控，ChatGPT曾向包括青少年在内的用户提供可能导致自身或他人受到伤害的建议。

上述内容均属于各州在诉讼中提出的指控，尚未经过法院审理认定。

另据The Verge报道，八州还指控OpenAI违反当地消费者保护法律，没有充分向用户披露ChatGPT的潜在风险，并在产品安全性方面作出可能误导消费者的宣传。

部分诉讼特别关注ChatGPT对未成年人的影响。原告认为，OpenAI未能采取充分措施限制不符合年龄要求的用户使用相关服务，同时涉嫌不当收集未成年人的个人数据。

亚利桑那州在诉讼文件中批评OpenAI偏离了最初强调公共利益和安全的非营利使命，认为商业利益正在影响其产品开发和安全决策。

值得注意的是，此次诉讼不仅涉及ChatGPT现有的安全防护措施，还触及未来更高级AI模型的开发问题。

根据相关诉讼提出的救济请求，原告希望法院要求OpenAI调整ChatGPT的运行机制，加强针对未成年人的保护措施，并限制可能造成严重安全风险的AI开发行为，其中包括在无法充分保证安全的情况下开发具有自我改进能力的高级AI系统。

这类要求属于原告寻求的司法救济，并不意味着美国政府已经正式禁止OpenAI开发相关模型，也不代表法院已经批准这些限制。

八州还要求OpenAI承担相应的民事责任，包括支付民事罚款、返还通过涉嫌违法行为获得的部分收益，以及停止可能误导公众的产品安全宣传。部分州还要求删除涉嫌违法收集的个人信息。

此次行动发生在OpenAI面临越来越多AI安全诉讼的背景下。

路透社指出，佛罗里达州总检察长今年6月已就类似问题对OpenAI提起诉讼。与此同时，OpenAI还面临数十起私人诉讼，其中部分案件的原告指控ChatGPT在涉及暴力或其他危险行为的事件中发挥了不当作用。

不过，这些案件仍需要通过司法程序确定事实、因果关系和法律责任，不能仅依据诉讼数量认定ChatGPT已经造成原告所称的全部伤害。

针对最新诉讼，OpenAI向The Verge作出回应。

OpenAI发言人德鲁·普萨特里（Drew Pusateri）表示，公司已经在ChatGPT中建立针对不同年龄用户的安全保护机制，包括家长控制、休息提醒以及适合不同年龄段的模型保护措施。

他表示，任何系统都不可能做到完美，OpenAI将继续与专家合作完善安全措施，并愿意与各州合作，推动适用于整个AI行业、而不只是针对某一家公司的务实政策。

此次八州诉讼反映出，美国围绕AI聊天机器人安全性的争议，正从用户和家庭发起的个别诉讼，进一步扩展至州政府层面的消费者保护执法。

随着ChatGPT等AI产品越来越广泛地进入日常生活，AI公司应当为聊天机器人的行为承担多大责任，以及现有消费者保护法律能否有效约束高级AI系统，正在成为美国司法和监管领域的重要争议。(作者/于雷)