OpenAI创始人遭燃烧瓶攻击!他发长文回击:我理解你们的恐惧
来源:凤凰网 9 小时前

AI 时代的焦虑,还是砸向了现实。

据外媒 CNBC 报道,凌晨 3 点 45 分,美国旧金山北滩社区。一枚燃烧瓶砸向大门,火苗蹿起,随即熄灭。

住在里面的,是全球最具争议的科技公司掌舵人:OpenAI CEO Sam Altman(山姆·奥特曼)。

幸运的是,燃烧瓶弹开了,没有人受伤。一个多小时后,同一名嫌疑人出现在 OpenAI 旧金山总部门口,扬言要烧掉这栋楼。美国警方随即拘押了一名 20 岁的男性。

这条新闻本来可以就这样结束:「AI 公司高管遭遇袭击,嫌疑人落网,暂无人伤亡。」但奥特曼没有选择沉默。他于一个小时前发了一篇博客作为回应。

「这是我家人的照片。他们是我的一切。」

开头就是这句话,配了一张他和伴侣、儿子的合照。他解释为什么要公开这张平时刻意藏起来的照片:「希望能让下一个人在冲我家扔燃烧瓶之前三思,无论他们对我有什么看法。」

然后他说,几天前有一篇「针对我的煽动性文章」,有人提醒过他,那篇文章的发布时机,恰逢公众对 AI 极度焦虑的节点,可能让他陷入更危险的处境。他当时没当回事。

「现在我在深夜辗转难眠,怒火中烧,开始意识到自己低估了文字与叙事的力量。」

这是 AI 时代第一次,一位 CEO 在「有人想烧死我」之后,没有选择报警声明加公关稿的标准流程,而是把这种恐惧、愤怒和反思,原原本本地写出来。

他在深夜说了什么

文章分三部分:信念、个人反思、行业思考。

信念部分其实没什么新鲜的。AI 是人类能力的最强扩展工具,必须民主化,权力不能过度集中,社会需要适应机制……这些他说过很多次了。真正值得停下来读的,是「个人反思」这一段。

他说自己「有很多值得骄傲的事,也有不少错误」。骄傲的是什么?他提到了和马斯克的那场纠纷。当年马斯克试图对 OpenAI 谋求单方面控制权,奥特曼拒绝了。他说:「我为自己当时守住的那条底线感到自豪,也为我们走出的那条窄路感到自豪,正是那条路让 OpenAI 得以延续。」

不骄傲的是什么?他说自己「回避冲突」,给公司和自己都带来了巨大痛苦。他说在与前任董事会的冲突中「处置失当」,造成了混乱。他说自己是「一个有缺陷的人,身处一个异常复杂的处境」。

对于那些他曾经伤害过的人,他道了歉。这是这篇文章里最罕见的部分。科技圈的高管道歉,通常要么是 PR 危机后的被迫姿态,要么措辞模糊到没有任何实质性认错。奥特曼这段话说得不算完整,但至少是真实的。

文章最后一部分,他还说他理解过去几年为什么会上演这么多「莎士比亚式戏剧」:「一旦看见 AGI,就再也无法视而不见。它有一种真实的『权力之戒』式动力,会让人做出疯狂之举。」

正如他所理解的那样,成为掌控 AGI 之人这种执念,它能腐蚀任何人。

包括 OpenAI 的历史本身就是一部权力争夺的纪录片。马斯克的出走与反目、前董事会的突然解雇风波、微软的深度绑定、Ilya Sutskever 的离开……每一段都牵涉到对「谁掌控 AI 未来」这个问题的不同答案。

奥特曼说,唯一的解法是「把技术向更广泛的人群开放,让任何人都无法独握那枚戒指」。

那名 20 岁的嫌疑人,没有留下任何宣言。我们不知道他为什么去扔那枚燃烧瓶。是被那篇文章激怒?是对 AI 夺走工作的恐惧?是某种更私人的偏执?但这件事本身,代表了一种真实存在的社会情绪。

失业焦虑、技术恐惧、对少数人掌控未来的愤怒,这些情绪在过去两年被 AI 的爆发式发展急剧放大。

当 OpenAI 每隔几个月就发布一款能取代某类工作的新产品,当 ChatGPT 出现在每个行业的重组报告里,当「你的岗位会被 AI 替代吗」成为刷屏话题,情绪 也在不断蓄积。

奥特曼在文章里说,他现在担心的已经不只是「模型对齐」,而是整个社会层面能否及时建立起应对机制。

这不是什么新发现,但由奥特曼在凌晨、在燃烧瓶的余温里说出来,分量就不一样了。过去几年,科技圈惯用的叙事是「我们在解决问题」。

监管跟不上?我们自律。就业冲击?我们会创造新岗位。每一次质疑,都有一套对应的话术。如今燃烧瓶的出现说明,有一部分人的愤怒,已经溢出了「理性讨论」的范围。

暴力当然没有任何正当性。

无论动机如何,向一个熟睡婴儿的家投掷燃烧瓶,都应受到谴责和处罚。虽然警方尚未确认此次袭击是与 AI 反对情绪有关,还是受近期《纽约客》负面报道影响,但这件事本身已折射出 AI 发展带来的社会焦虑正在升温。

那种不安是可以理解的,从没有一项技术像 AI 一样以疯狂的速度改变世界,这种恐惧是真实的。

奥特曼这篇文章,是他少有的一次没有站在「我们在解决问题」的位置上发言。他承认了错误,承认了恐惧,也承认了自己也不完全知道前路在哪里。

人和 AI 应该如何相处,可能是比实现 AGI 更大的难题。

附上 Sam Altman 博客原文:

这是我家人的照片。他们是我的一切。

图像有力量,我希望如此。平时我们都很注重隐私,但这次我选择公开这张照片,希望能让下一个人在冲我家扔燃烧瓶之前三思——无论他们对我有什么看法。

第一个人昨晚凌晨 3 点 45 分这么做了。幸好燃烧瓶弹开了,没有人受伤。

文字同样有力量。几天前有一篇针对我的煽动性文章。昨天有人跟我说,他认为这篇文章发布的时机恰逢公众对 AI 极度焦虑之际,可能会让我陷入更危险的处境。我当时没放在心上。

现在我在深夜辗转难眠,怒火中烧,开始意识到自己低估了文字与叙事的力量。趁这个机会,我想说几件事。

一、我的信念

推动全民繁荣、赋能所有人、推进科学与技术的进步,对我来说是道义上的责任。

AI 将是有史以来最强大的人类能力扩展工具。对这一工具的需求几乎没有上限,人们将用它创造出令人惊叹的成就。世界需要大量的 AI,我们必须想清楚如何实现这一目标。

这条路不会一帆风顺。人们对 AI 的恐惧与焦虑是有根据的——我们正在经历人类社会很长时间以来,乃至有史以来最大的变革。安全问题必须做好,这不只是模型对齐的问题——我们迫切需要整个社会层面的应对机制,以抵御新型威胁,包括出台新政策,帮助我们渡过艰难的经济转型期,走向更美好的未来。

AI 必须实现民主化,权力不能过度集中。未来的掌控权属于所有人及其制度。AI 需要赋能每一个个体,我们需要集体做出关于未来走向与新规则的决策。我认为,由几家 AI 实验室来主导塑造我们未来的最关键决策,是不正确的。

适应能力至关重要。我们都在以极快的速度学习全新的事物;有些判断会对,有些会错,有时我们需要随着技术发展和社会演进迅速调整认知。目前没有人真正理解超级智能的影响,但这种影响将是深远的。

二、个人反思

回顾我在 OpenAI 头十年的工作,有很多值得骄傲的事,也有不少错误。

我想起我们即将与埃隆对簿公堂,想起当年我如何坚守底线,拒绝接受他对 OpenAI 谋求的单方面控制权。我为此感到自豪,也为我们当时走出的那条窄路感到自豪——正是那条路让 OpenAI 得以延续,并取得了此后的一切成就。

我并不为自己的回避冲突感到自豪,那给我和 OpenAI 都带来了巨大的痛苦。我也不为自己在与前任董事会的冲突中处置失当、给公司造成混乱感到自豪。OpenAI 走过的历程跌宕起伏,我在其中犯下过许多错误;我是一个有缺陷的人,身处一个异常复杂的处境,每年都在努力变得好一点,始终为这一使命而工作。

我们从一开始就清楚 AI 的赌注有多大,也知道善意之人之间的个人分歧会因此被无限放大。但亲历这些激烈的冲突、往往还要在其中充当仲裁者,其代价是沉重的。对于那些我曾经伤害过的人,我深感抱歉,也希望自己能更快从中汲取教训。

我也清醒地意识到,OpenAI 如今已是一个重要的平台,我们需要以更具可预期性的方式运营。过去几年极其紧张、混乱、高压。

但总体而言,我为我们正在兑现使命感到无比自豪。

这在当初看来几乎是不可能的。克服重重阻碍,我们摸索出了构建强大 AI 的方法,筹集到了足够的资本来建设交付所需的基础设施,建立起了一家产品公司和商业体系,以大规模提供相当安全、稳健的服务,还有更多。

很多公司都说要改变世界;我们真的做到了。

三、关于这个行业的思考

综观过去几年,我对这个领域为何上演了如此多莎士比亚式戏剧的个人理解是:「一旦看见 AGI,就再也无法视而不见。」

它有一种真实的「权力之戒」式动力,会让人做出疯狂之举。我说的不是 AGI 本身就是那枚戒指,而是「成为掌控 AGI 之人」这种无所不包的执念。

我能想到的唯一解法,是着力于向更广泛的人群开放这项技术,让任何人都无法独握那枚戒指。实现这一目标的两个显而易见的途径,是个体赋权,以及确保民主制度始终掌握主导权。

民主进程的力量必须凌驾于公司之上。法律与规范会不断演变,但我们必须在民主进程的框架内行事,尽管这个过程会混乱、也会比我们期望的更慢。我们希望成为其中的一个声音、一个利益相关方,但不是要独揽一切权力。

业界受到的许多批评,源自人们对这项技术极高风险的真诚忧虑。这种忧虑完全合理,我们欢迎善意的批评与辩论。我理解反技术的情绪,技术的确并非对每个人都始终有益。但从整体来看,我相信技术进步能够让未来变得无与伦比地美好——对你我的家庭都是如此。

在我们进行这场辩论的同时,我们应当共同降低言辞与行动的烈度,努力减少家庭中(无论是字面意义上还是比喻意义上)的冲突。

简体中文 English