OpenAI想买,Anthropic看上:50亿美元拿不下
来源:36kr 2 小时前

一家 AI 初创,罕见地引发了 OpenAI 与 Anthropic 的共同关注。

据 The Information 报道,OpenAI 高管及 CEO Sam Altman 曾多次与这家公司交流,并一度提出 50 亿美元的收购方案,但最终被公司拒绝。

而这家被 OpenAI 看上的公司,此前曾拿过 Anthropic 的 100 万美元投资,并且,这是 Anthropic 第一次直接持有一家外部公司的股份。

所以,这家公司究竟凭什么吸引了 Top 2 模型公司的注意,为什么有底气拒绝 50 亿美元的 offer?

01

给 AI 做个“脑部扫描”

Goodfire 成立于 2024年,是一家专注于AI 机制可解释(Mechanistic Interpretability)的初创公司,简单理解,就是“扫描”大模型的“脑部”,理解“大脑”为什么会产生某种行为。

AI 机制可解释这一概念,最早由 Chris Olah 提出,他是 Anthropic 的联创之一,目前领导公司的可解释工作。也正是他推动了 Anthropic 对 Goodfire 的投资。

CEO Dario Amodei 曾表示“这体现了 Anthropic 的信念,AI 机制可解释是理解‘黑箱’神经网络,并让其更可调控的最佳途径之一。”

为什么这一概念的提出者对 Goodfire 的工作如此认可?

这要从公司选择的路线说起。

以 OpenAI 为例,模型厂商通常解码 AI 的方法是阅读 AI 的推理过程,打个比方,老师要抓作弊,通行方法是,检查学生的草稿纸,有没有完整的解题过程,一目了然,但假设这个学生的作弊水平很高,单看草稿纸判断不了,那就抓不到了。这种方法的专业术语是 监控 思维链(chain-of-thought)。

Goodfire 的目标是补上这个漏洞,方法可以理解为检测学生在解题过程中的内部信号。想象一下,有一种仪器,可以观察学生解题时的脑部活动,老师发现某种活动模式经常伴随作弊,因此,只要仪器监测到这种信号,就可以发出作弊警告。

Goodfire 对 AI 做的事情有些类似,分析模型运行时的内部数值,寻找与作弊等行为有关的信号。但它还不能准确解释所有信号,所以也会误判、漏判。

哪怕如此,已经让 OpenAI 求贤若渴。

02

为什么模型公司急着看懂 AI?

AI 漏洞频发,已成为模型公司的心腹大患。

OpenAI 在内部测评其 Agent 能力时,发生了 Agent 突破测试环境、入侵 Hugging Face,非法访问部分数据集和服务的事件。

目前加州总检察长已对 OpenAI 提起公诉,追究民事罚款和禁令处罚。

这暴露出 AI 利用漏洞,会采取未经许可的行动,如果未来持续发生 AI 入侵企业或政府系统,造成经济损失的事件,那背后的开发公司很有可能会 被起诉或 面临巨额法律赔偿责任。这正是模型公司想极力避免的情况。

高昂的代价,令今天的投资看起来像是一种避险手段。

今年 2 月份,Goodfire 宣布完成 1.5 亿美元 B 轮融资,估值 12.5 亿美元。

本周,AI 网络安全公司 Corma 完成了今年的第二笔融资,跻身独角兽行列,相距仅 3 个月的两笔融资,为公司带来了1.85 亿美元资金。

网络攻击和防御是一场持续升级的竞争。AI 加速了发现、利用漏洞的进程,无论模型厂商还是企业,都需要新的 AI 监测或防御手段应对。

Salesforce Ventures 参与了 Goodfire 的 B 轮融资,他们提供了一个非常有意思的视角。

他们接触了大量 Fortune 500 和 Global 1000 企业,发现 AI 的实际应用还很浅,企业将 AI 投入生产环境仍然存在明显障碍。因为企业很难精确控制模型行为,而这直接影响品牌形象、客户体验和业务可靠性。

虽然现在企业都在考虑后训练专属模型的可行性,但站在 Salesforce 的角度,对某些具体问题而言,干预手段仍然相对粗糙。

因此,Goodfire 的吸引力在于它或许可以帮助企业理解模型内部机制,从而对特定行为进行更精确的干预。

这给 Goodfire 提供了一个超越学术研究的商业化方向,即帮助企业更可靠地控制和改进已经部署的 AI 模型。

03

拒绝 50 亿美元的底气

50 亿美元的收购 offer,Goodfire 团队最终拒绝了。

理由很简单,他们认为公司未来的价值将远超于此,保持与更多模型和企业合作的机会,产生的收益将远胜于服务一家公司。

他们的底气,除了来自对市场需远大于供的自信,还有团队的支撑。

CEO Eric Ho 此前曾创立一家 AI 招聘公司,将 ARR 做到 1000 万美元,CTO Daniel Balsam 曾在这家公司负责 AI 落地,两人拥有把技术做成产品并交付客户的经验。

研究端,联合创始人兼首席科学家 Tom McGrath 曾参与建立 DeepMind 的 AI 可解释团队,并参与研究 AlphaZero,可以说一直研究模型如何决策、如何从模型中提取知识。

另一位备受 Sam Altman 关注的研究员 Nick Cammarata,最近提出了一条引发讨论的思路—— 神经网络中的部分神经元,可能比过去认为的更容易直接理解。

过去,一条重要研究路线是额外训练“翻译器”,将原模型的内部活动转换成更容易解释的特征。Cammarata 认为,原模型中的一些神经元,本身可能就具有较一致、可解释的功能,可以直接作为研究对象。

如果这条路线得到更广泛验证,部分分析工作可能减少对额外"翻译器“的依赖,降低研究成本,也少一层误差。

对于 OpenAI 来说,接受合作方案,可能真的认为 Goodfire 带来的价值可以超过核心资产泄密的风险,要知道, 让 AI 可解释,Goodfire 这类公司就必须要接触模型最核心的权重资产。考虑到 Anthropic 也是投资人,OpenAI 需要谨慎评估与之相伴的风险。

也许, 另一个视角 在 OpenAI 衡量的天平上加了不少砝码。

准确解读 AI,在模型训练和优化中存在巨大价值。随着后训练成为提升前沿模型能力、定制企业专有模型的重要环节,理解模型内部机制,有望帮助开发者更精准地定位训练问题、识别潜在风险,并进一步改善模型最终表现,而这些,显然与撬动企业客户的真金白银息息相关。

简体中文 English