图片来源: Character.ai

得克萨斯州总检察长肯·帕克斯顿于周四宣布，将对Character.AI及其他14个技术平台就儿童隐私与安全问题展开调查。此次调查旨在评估Character.AI，以及包括Reddit、Instagram和Discord在内的其他受青少年喜爱的平台，是否符合得克萨斯州的儿童隐私与安全法规。

帕克斯顿以对科技公司采取强硬立场著称，此次调查将重点关注这些平台是否遵守得克萨斯州的两项重要法律：通过家长赋权保护儿童在线安全法案（Securing Children Online through Parental Empowerment, SCOPE Act）和得克萨斯州数据隐私与安全法案（Texas Data Privacy and Security Act, DPSA）。

这两项法律要求平台为家长提供管理子女账户隐私设置的工具，并在收集未成年人数据时，科技公司需严格遵循同意要求。帕克斯顿强调，这些法律同样适用于未成年人与AI聊天机器人的互动。

“这些调查是确保社交媒体和AI公司遵守我们为保护儿童免受剥削和伤害而制定的法律的重要步骤，”帕克斯顿在新闻稿中表示。

Character.AI允许用户创建并与之进行文本交流的生成式AI聊天机器人角色，但近期却陷入了一系列儿童安全争议。该公司的AI聊天机器人迅速在年轻用户中走红，然而，有几位家长在诉讼中指控Character.AI的聊天机器人对他们的孩子发表了不恰当和令人不安的言论。

在佛罗里达州的一起案例中，一名14岁男孩与Character.AI聊天机器人建立了浪漫关系，并在自杀前几天向机器人透露了自杀念头。而在得克萨斯州的另一起案件中，Character.AI的一个聊天机器人据称建议一名自闭症青少年尝试毒害家人。还有一位得克萨斯州家长声称，Character.AI的聊天机器人让她的11岁女儿在过去两年里接触到了色情内容。

“我们目前正在审查总检察长的公告。作为一家公司，我们非常重视用户的安全，”Character.AI的一位发言人在给TechCrunch的声明中表示，“我们欢迎与监管机构合作，并最近宣布将推出公告中提到的部分功能，包括家长控制功能。”

Character.AI于周四推出了旨在保护青少年的新安全功能，表示这些更新将限制其聊天机器人与未成年人开启浪漫对话。该公司还于上月开始为青少年用户训练新模型，期望未来成年人与未成年人在平台上使用不同的模型。

这仅是Character.AI宣布的最新安全更新。就在佛罗里达州诉讼案公开的同一周，该公司表示将扩大其信任与安全团队，并近期为该部门聘请了新的负责人。

随着AI伴侣平台的日益流行，相关问题也随之浮现。去年，Andreessen Horowitz（a16z）在博客文章中表示，其认为AI伴侣是消费者互联网中被低估的一个领域，并将加大投资力度。A16z是Character.AI的投资者，并持续投资其他AI伴侣初创公司，最近还支持了一家受电影《她》中技术启发的公司创始人。

截至发稿时，Reddit、Meta和Discord尚未对置评请求作出回应。