OpenAI 扩展零数据留存安全机制,自动化分析跨交互风险
来源:IT之家 8 小时前
感谢IT之家网友 乌蝇哥的左手 的线索投递!

IT之家 8 月 20 日消息,OpenAI 公司今天(8 月 20 日)发布博文,宣布面向符合资格的前沿模型 API 客户,扩展“零数据留存”(Zero Data Retention)服务,自动化系统可识别跨交互风险模式。

IT之家援引博文介绍,OpenAI 公司强调请求处理完成后,不保留提示词或模型回复,员工无法审阅客户内容,企业数据也不会用于训练模型(除非客户明确选择加入)。

OpenAI 指出随着模型承担更长、更复杂的任务,部分严重安全风险可能要在多轮交互后才会显现。现有兼容 ZDR 的安全系统通常逐条评估交互,难以识别跨对话、跨账户或持续试探安全机制的行为模式。

OpenAI 公司为解决该问题,以预览版的形式推出私密安全处理(Private Safety Processing),该机制会在不让 OpenAI 员工接触底层内容的前提下,利用自动化系统分析关联交互中的风险模式。

该系统适用于客户自行控制基础设施中的内容,也适用于 OpenAI 提供的存储。在后者场景中,客户内容由客户控制的密钥加密,OpenAI 员工不持有这些密钥,因此无法访问底层提示词和回复。

当系统识别出风险后,OpenAI 只会收到范围受限的安全信号,用于说明涉及的活动类型,并据此判断是否需要采取处置措施。

即使内容被标记,员工仍无法查看客户内容。客户可通过自身系统中的信息调查警报和处置决定;如需申诉、说明合法活动,或协助核查已确认的滥用行为,客户可自行选择向 OpenAI 提供相关信息。

OpenAI 称,私密安全处理目前正与早期客户测试。该公司计划于 9 月开始推出该能力,并发布技术白皮书。OpenAI 表示,后续会向客户提前说明更新内容、其对既有承诺的影响,以及客户规划所需的时间和支持。

简体中文 English