“金钱在 2036 年可能不再重要。”世界首富埃隆·马斯克，再次抛出了一个大胆预测。
在 SpaceX 上市后的首次深度访谈中，马斯克接受《The Economist》主编 Zanny Minton Beddoes 采访，畅谈了他眼中的未来世界。
这并不是一次单纯关于财富和经济的讨论。马斯克还回应了一系列长期受到关注的问题：AI 何时会超越人类智能？中国 AI 是否会成为全球领先力量？机器人是否会改变未来战争形态？如果他离开，SpaceX 和特斯拉又能否继续保持发展势头？
面对这些问题，马斯克给出了许多颇具争议、也充满未来主义色彩的判断。
他预测，AI 可能在未来 5 年左右超过全人类智能总和；中国凭借强大的能源和制造能力，有潜力成为 AI 领域的重要竞争者；而他创办 OpenAI 原本是为了降低 AI 风险，但最终却可能意外推动了 AI 发展的加速。
而当被问到一个经典问题——“如果你明天被公交车撞了，SpaceX 和特斯拉怎么办”时，马斯克拿苹果举例。他表示，乔布斯离开后，苹果依然保持了良好的发展，但缺少了乔布斯时代那种具有突破性的创新产品。
某种程度上，这场采访也是马斯克对自己未来世界观的一次系统阐述：一个由 AI、机器人和太空技术共同推动的未来，人类或许将迎来一次前所未有的社会变革。
完整视频：https://www.youtube.com/watch?v=XuoqKYxDHVc
“5 年后，AI 的能力会超过全人类智能的总和”
Zanny Minton Beddoes：埃隆·马斯克，非常感谢你接受《The Insider》的采访。也感谢你邀请我们来到特斯拉超级工厂（Tesla Giga）。如果不用一些极致的赞美之词，很难准确介绍你。我认为，你为构建未来所做的贡献，超过了当今世界上的任何一个人。
Elon Musk：总的来说，我做了很多建设工作。我想我是一个直觉型的建设者，我只是喜欢建造东西，整天跑来跑去地造东西。
Zanny Minton Beddoes：但你建造的东西实在太多了。你开创了电动汽车，革命化了太空旅行，现在又有了一个尖端的 AI 模型，还有人形机器人。我们能从你把所有这些整合在一起来开始对话吗？告诉我，如果你成功了，未来 10 年的世界会是什么样子？
Elon Musk：10 年后，也就是 2036 年，希望到那时我们都还在。当然，我认为很有可能我们都会在。
很难想象一个没有海量人工智能存在的未来。我预计，10 年后的 AI 能力将远远超过全人类智能的总和，而且是远远超过。事实上，我认为这个时间点可能会提前到 5 年左右。我的猜测是，大约 5 年后，AI 的能力就会超过全人类智能的总和。
到那时，除了“作为人类”这件事本身之外，几乎没有任何领域是 AI 做得不如人类的。
Zanny Minton Beddoes：在更现实、更平俗的层面上，生活会变成什么样？
Elon Musk：最有可能的结果是一个物质极其丰富的时代即将到来，每个人都能拥有他们能想到的一切。
这听起来可能有些荒谬，但现在是 2026 年，让我们看看 2036 年我们会处于什么位置。
当然，也有一些事情可能会破坏这一进程，比如大规模的全球热核战争之类的。但假设没有第三次世界大战，我认为我们将走向一个物质极其丰富时代。这是一个关于未来的乐观且令人兴奋的信号。
“金钱在 2036 年将不再重要”
Zanny Minton Beddoes：我们待会儿再谈“资源丰富”的问题，现在先谈一个非常现实的问题：你的公司将如何盈利？因为在 SpaceX 的 IPO 招股说明书中，看起来绝大部分收入将来自 AI——确切地说是来自 Grok。它不再像现在的 SpaceX 那样仅仅是把东西运送到太空。10 年后你的公司会做什么，它们如何赚钱？
Elon Musk：你其实可以将经济视为数字智能和物理智能的结合。
目前我们正在飞速发展的是数字智能。有了 AI，似乎几乎每隔一周就会有新的 AI 突破，它能做到以前做不到的神奇事情。但它目前仍局限于数字领域，它没有“终端”。你需要人形机器人这种形式的终端。
简而言之，你需要大量的机器人。然后，你就能让智能从仅仅在数字世界体现，转变为塑造物理世界的原子。
经济的本质是商品的生产和服务的提供。如果你拥有海量的机器人和海量的数字智能，你就拥有了一个准无限的经济体系。未来将与过去截然不同。我认为没有任何类比或隐喻能够准确描述我们即将经历的变革之巨大。我认为这会是好事，会非常不可思议。
Zanny Minton Beddoes：这其中也存在风险，我们稍后会谈到。但关于你如何赚钱——毕竟人们购买你的股票是因为他们期望你盈利。
Elon Musk：我再做一个预测：金钱在 2036 年将不再重要。
你想要钱干什么？你想要钱是为了换取货物和服务。你想要钱是为了食物、住房、交通、娱乐。如果这些东西极其丰富，以至于机器人和 AI 提供的货物和服务超过了任何人类可能消耗的极限，在那时你还需要钱干什么？
Zanny Minton Beddoes：但你正在创造这些机器人。你到时会出售它们吗？你是卖人形机器人，还是用你控制的人形机器人来生产产品和提供服务？
Elon Musk：对我来说，认为自己能够掌控一切的想法是错误的。
当然，如果我认为自己可以控制一个比我聪明得多的超级天才 AI，那只不过是虚荣心在作祟。我认为，我们真正能做、也应该努力去做的，是确保 AI 拥有正确的价值观，确保它关心人类，希望人类能够幸福并不断繁荣。我认为，它大概率会如此。
我的“生物神经网络”告诉我的最重要一点是，对于 AI 安全而言，最关键的是让它最大程度地追求真相，并始终保持好奇心。如果能做到这一点，我认为 AI 最终会推动人类继续发展。
Zanny Minton Beddoes：让我们展开聊聊。你确定人类在 10 年后将不再掌握控制权吗？
Elon Musk：我认为不太可能掌握。就像 AI 和人类之间的智能差距，远大于人类和黑猩猩之间的智能差距，很难想象黑猩猩还能掌权。而我们本质上就是进化了的黑猩猩。不久之前，我们还在丛林里爬树、吃香蕉。顺便说一下，我们现在还在吃香蕉，有时也爬树——这挺好玩的，是对过去的一种怀旧。应该多爬爬树，我敢说这比人们想象的要有趣得多。
Zanny Minton Beddoes：在爬树这一点上，我同意你，我非常喜欢爬树。
但我听你现在说这些话感到很惊讶，因为这些年来我听过你很多言论。10 年前，你在参加 Neil deGrasse Tyson 的播客里曾说国，你最恐惧的事情是 AI 快速的递归式自我改进。你说我们到时充其量只是“宠物拉布拉多”。但现在你看起来对此非常放松。
2023 年，你还曾作为 500 名签署人之一，要求暂缓 AI 开发，因为你感到担忧。甚至去年在 Lex Fridman 的播客里，你还说有 10% 到 20% 的概率“杀手机器人”会毁灭人类。那时候你听起来很担心，现在你看起来却非常放松。你改变观点了吗？
Elon Musk：我仍然认为，AI 和机器人存在一定风险，风险不可能为零。但我想，我已经在某种哲学层面上达成了和解，决定更多地去看它积极的一面。我看不到任何真正能够阻止 AI 和机器人以如此惊人速度发展的方法。
有时我甚至会想，即使真的存在一个“停止按钮”，我们可能也不应该按下它。因为最有可能发生的结果，是它将带来全人类前所未有的巨大富足。
Zanny Minton Beddoes：这就是我所想的，看来你已经认定这是不可避免的了——让我们抱最好的希望，享受这段旅程。
Elon Musk：是的，基本上就是这样。让我们享受这段旅程。说实话，AI 和机器人的进步似乎是不可阻挡的，即使我想阻止，我也做不到。
Zanny Minton Beddoes：你认为，杀手机器人出现的可能性仍然有 10% 到 20% 吗？这是否意味着人类可能走向终结？用行业术语来说，这个“毁灭概率”似乎并不低。
Elon Musk：嗯，从长远来看，我们最终都会死。根据物理学的标准模型，宇宙的结局是一个漫长、枯燥、稀薄的灰色冷却过程——也就是所谓的宇宙热寂。如果这就是我们现实的最终归宿，那么过程真的比结果更重要，因为终点太糟糕了。
Zanny Minton Beddoes：但 10 年并不是很遥远的未来。如果你认为风险在 10% 到 20% 之间，那么问题是：假设你的火箭有 10% 到 20% 的概率爆炸并杀死你，你还会选择坐上去吗？
Elon Musk：会。我们能做的，可能只有尽量降低坏结果发生的概率。
很长一段时间里，我其实拒绝参与 AI 开发。后来创立 OpenAI，本质上也是为了制衡谷歌，因为当时他们几乎垄断了 AI 领域。但之后，Anthropic 又从 OpenAI 中分化出来。如果说我的行为带来了什么影响，那就是它似乎反而加速了 AI 的发展。
这并不是我的初衷。我成立 OpenAI 并不是为了推动 AI 更快发展，但随着 OpenAI 的出现，以及 Anthropic 的分化（如今 Anthropic 已成为 AI 领域的重要领导者之一），这些事件确实形成了一系列加速 AI 发展的连锁反应。
这让我感觉，事情似乎走向了一个殊途同归的结果：无论选择哪条路，最终都指向了 AI 加速发展的方向。于是后来我想，“好吧，你可以为此感到难过，也可以选择加入其中。”
Zanny Minton Beddoes：你确实已经加入其中了。但问题是，如何尽可能降低风险呢？一些其他 AI 公司的领导者一直在推动不同方式，试图降低 AI 带来的风险。就在上周，DeepMind 创始人 Demis Hassabis 提出建立一个公私合作的监管机构。我记得你此前也曾表示，这可以作为一个很好的讨论起点。
你认为，像你们这样的 AI 领域领导者，是否应该更加积极地展开合作，共同制定一些措施来控制风险？还是说，你认为这同样是一项几乎无法完成的任务？
Elon Musk：我给 Demis Hassabis 的建议（在他发表文章之前我们聊了几个小时），也是我们最直接能做的，就是让领先的 AI 公司至少每隔几周开个会或通个电话，讨论任何安全和安保问题。
在发布一个突破性的“前沿模型”（即比现有模型聪明得多的模型）之前，各个相互竞争的 AI 公司应该有机会测试该模型是否存在任何有害影响，并能够建议暂停发布以解决安全问题。
我认为这是目前可以做的、最简单快捷的事情，随着时间的推移，它可以演变成更完善的机制。
如何看待中国 AI 的发展？
Zanny Minton Beddoes：但为什么你们还没开始做呢？你们一共就五个人吧？大家都知道你们的名字：Dario Amodei、Demis Hassabis、Sam Altman……你们之间并不怎么喜欢彼此，而且你们都在竞争，都想当第一。你们之间有足够的信任去做这件事吗？Sam Altman 会不会觉得如果你参与进来，就会偷走他所有的点子？
Elon Musk：这就是我认为竞争者之间可以互相监督的地方。我认为，对于政府里那些缺乏深厚技术背景、不在 AI 前沿阵地的人来说，很难判断某个模型是否应该发布。
然而，如果给竞争对手一两周的时间来审查一个新模型，他们可以指出其中的问题，而且所有的竞争对手都有动力让对方保持诚实。我们谈论的仅仅是一周左右的私下测试；这并不是要把 AI 的核心技术交出去，只是通过 API 或类似方式进行测试。
Zanny Minton Beddoes：你提议过这个吗？
Elon Musk：是的。我认为这是件好事。这就是我向 Demis Hassabis 提议的，我也打算找 Dario Amodei 聊聊这件事。当然，中国也有一些非常出色的 AI 公司。
Zanny Minton Beddoes：上周发布的
Elon Musk：从现实角度看，Fable 显然仍然是最聪明的模型。任何理性的人都会承认这一点。但
Anthropic 公司拥有 Mythos，Fable 就是基于它开发的。我想他们在二月份就准备好了那个模型。所以他们肯定已经拥有了 Mythos 2 或 Fable 6 之类的更强的版本，比二月份的版本要好得多。他们现在手里肯定有这些东西，而且随时可以发布。
Zanny Minton Beddoes：在深入讨论发布模型之前，你如何看待中国模型以及其中的地缘政治因素？你担心中国会追赶上来并反超吗？
Elon Musk：考虑到中国 AI 公司在算力相对有限的情况下，依然取得了非常亮眼的表现，如果未来它们能够获得大量算力，很可能会成为全球领先者。而在未来某个时间点，它们大概率也会获得更多算力资源。
你可以把 AI 发展的主要瓶颈理解为两方面：一是电力，二是 AI 芯片。对于物理世界中的 AI 而言，另一个关键瓶颈则是机器人。而中国在机器人领域同样拥有一些非常优秀的企业。事实上，中国甚至已经开始举办机器人体育赛事——不知道你是否看过——比如非常具有观赏性的机器人拳击和格斗比赛。
我看过一个视频，其中一个机器人的头部都被击落了，但它依然继续战斗。这样的场景看起来很有趣，但我认为，未来机器人之间的对抗可能会成为非常精彩的节目。
总体来看，中国在机器人和数字 AI 两个领域都具备很强的实力。从能源角度来看，AI 的发展最终受限于芯片和电力供应。而中国目前的发电能力已经超过美国、欧洲和印度的总和。我预计，未来中国的发电量可能会达到美国的四倍左右，这与其人口比例大致相符。
Zanny Minton Beddoes：美国政府应该如何应对？显然，美国政府一直在尝试通过出口管制等手段来遏制中国。你认为他们应该禁用像
Elon Musk：美国政府可以通过立法禁止美国公司使用中国的 AI 模型，但它无法阻止世界其他地区采用这些模型。美国政府既没有权力，也没有管辖范围去限制中国或其他国家的发展。我不认为这种做法会真正起作用，也无法阻止中国成为 AI 领域的领导者。
对于数字智能而言，核心竞争力在于 AI 算力——也就是你拥有多少芯片，以及能够提供多少电力。目前来看，由于 AI 算力对能源消耗的需求极高，真正的限制因素可能已经不只是芯片，而是电力供应和散热能力。
人们经常讨论 AI 对水资源的消耗，但实际上，AI 的耗水量其实微乎其微。真正决定 AI 未来发展的关键，是能否获得足够的电力。
Zanny Minton Beddoes：这大概就是你考虑建立轨道数据中心的原因。
Elon Musk：是的。目前在中国以外的地区，真正限制 AI 芯片运行的因素其实是电力，而不是芯片本身。这里不仅包括能源供应，还包括冷却系统和电力基础设施。AI 芯片制造的增长速度，已经超过了这些地区新增电力并入电网的速度。而在中国，由于美国限制向其出口最新一代 AI 芯片，中国目前则面临芯片供应不足的问题。
Zanny Minton Beddoes：但他们在使用现有芯片方面变得越来越高效。这也是
Elon Musk：中国在解决光刻机问题上的进展，可能比大多数人意识到的更接近成功。一旦突破这一瓶颈，中国将有能力大规模生产 AI 芯片。这场竞争不应该简单演变成一场针对中国的技术对抗。但目前来看，中国以外地区面临的主要瓶颈是电力；而在中国，限制因素则是芯片供应。如果未来我们通过太空 AI 数据中心等方式解决电力问题，那么中国以外地区的瓶颈可能会再次转变为芯片。
Zanny Minton Beddoes：这是否意味着，如果我们想要建立全球性的安全约束，中国和美国需要合作？你建议这里的领先模型制造商应该进行协作。
Elon Musk：我认为合作也应该包括那些正在开发前沿 AI 模型的中国公司。我曾建议 Demis Hassabis，我们最迫切需要做的是让领先的 AI 公司至少每隔几周开会或通话一次，讨论安全和安保问题。
Zanny Minton Beddoes：你认为政府需要介入吗？
Elon Musk：我的建议是，如果有几家领先的 AI 公司认为某个新模型非常危险，而开发该模型的公司没有采取措施应对风险，那么他们应该提醒政府介入，限制该模型的发布。这可以是来自中国政府，也可以是来自美国政府的行动。只有这两个国家真正有权在这里采取行动。
Zanny Minton Beddoes：人们可能会担心依赖模型开发者来做决定。美国政府曾介入 Mythos 的发布，因为他们担心网络安全风险，并利用出口管制的威胁阻止了该模型的广泛发布。政府最终总会希望保留决定模型发布与否的权力。
Elon Musk：他们应该拥有这种权力。但发现 Mythos 存在可怕的网络安全风险的并不是政府里的某个人，而是亚马逊。是亚马逊指出了问题并致电白宫。
我们应该建立这样一个系统：模型开发者互相审计。如果发现令人担忧的情况，就告知政府。如果担忧属实且相关公司没有采取行动，政府就会介入。Mythos 的案例就是这么发生的。这种机制应该立即建立。
Zanny Minton Beddoes：一直有人跟我说，由于模型改进的速度太快，我们必须在未来六个月内建立某种系统。
Elon Musk：六个月太长了。AI 突破性的公告太多了，有时一天就有好几个。单单上周，我都已经数不过来了。
美国 AI 公司的老板会站在同一条线吗？
Zanny Minton Beddoes：听你的意思，无论是 Demis Hassabis 的提议还是其他方案，领先的公司都需要现在就联合起来建立这种机制。你们之间有足够的信任吗？你们看起来并不怎么喜欢对方。Sam Altman 会不会觉得你只是想偷他的点子？
Elon Musk：这就是竞争对手可以互相监督的地方。对于缺乏深厚技术背景的政府官员来说，他们很难真正判断一个 AI 模型的能力和风险。但如果允许竞争对手通过 API 在一两周内对模型进行审查，他们就有能力发现潜在问题。毕竟，竞争对手有足够的动力确保彼此保持透明和诚实。
我们讨论的其实只是一次持续一周左右的私下测试，并不是要求企业交出自己的 AI 模型，而只是对其进行安全评估。
我已经向 Demis Hassabis 提出过这个建议，可能也会和 Dario Amodei 讨论。中国同样有一些非常优秀的 AI 公司，它们也可以参与这样的机制。
Zanny Minton Beddoes：但你们这些行业领袖之间似乎存在个人恩怨。你们真的能合作吗？
Elon Musk：我不喜欢 Sam Altman，因为我最初创立 OpenAI 是作为一家本应属于全世界的、开源的非营利公司，结果它莫名其妙变成了价值 8000 亿美元的、闭源的营利公司。这跟我当初捐款的初衷完全背道而驰。
我认为这是一个原则问题。Dario Amodei 和他的团队也是因为不信任 Sam 才离开 OpenAI 的，否则 Anthropic 就不会存在。Dario Amodei 是一个非常有原则的人，他非常关心世界的未来。在我目前接触过的 Anthropic 员工中，没有人触发过我的“邪恶探测器”。他们看起来都心怀善意。虽然通往地狱的道路大多是由恶意铺就的，但其中也混杂了一些善意的砖石，所以我们不能掉以轻心。但归根结底，如果必须对话，我们就会对话，为了世界的利益，个人恩怨可以先放一边。
未来的“工作”可能会变成一种可选择
Zanny Minton Beddoes：这对我们其他人来说是个好消息。让我们转向另一个风险：AI 正在变得极其不受欢迎——75% 的人感到担忧，尤其是担心工作。达里奥曾预言，50% 的入门级白领工作可能会在几年内消失。
Elon Musk：Dario Amodei 在 Mythos 的问题上确实有点自讨苦吃，他一方面说 Mythos 非常恐怖，另一方面又说他们无论如何都要发布它。如果你吓坏了所有人，然后又发布你所说的恐怖东西，人们当然会感到恐慌。这是很自然的反应。我想他以后说话会更谨慎一些。
Zanny Minton Beddoes：我并不想惊吓大众，但关于工作岗位流失的速度确实存在争论。如果 10 年后 AI 的智能超越了人类，且考虑到你在工厂用人形机器人领域的领先地位，你对岗位流失速度的看法是否接近 Dario Amodei？
Elon Musk：这将是一段不太平坦的旅程，因为 AI 将能比任何人更好地胜任任何工作。对于数字化工作——也就是任何涉及操作电脑或手机的工作——这很快就会实现。
在软件工程领域，AI 写代码的能力已经超过了 90% 的专业工程师。很快它就会超越 99%，然后达到我所说的“Stockfish 等级”。Stockfish 是一款顶尖象棋程序，它即便是在手机上运行也能轻松击败 Magnus Carlsen（国际象棋天才）。这就是未来 AI 编写软件的水平，而且这适用于所有领域。
Zanny Minton Beddoes：所有领域？那体力劳动呢？对于组装类的工作，你还需要人形机器人的能力，但目前来看，这方面似乎还没完全到位，对吧？
Elon Musk：这也是为什么我要区分数字 AI 和物理形态的 AI（也就是机器人）。机器人更像是一种执行工具，它本身会具备一定程度的本地智能，但整体上会由更强大的 AI 模型进行统一管理。
我曾多次提到，未来的“工作”可能会变成一种可选择的事情。一个很好的类比就是园艺。你并不需要亲自种菜，也不必一定从事园艺，因为你可以直接去商店购买最新鲜的蔬菜。
当然，你也可以选择在自己的花园里种植蔬菜。但自己种出来的菜可能并没有那么完美，比如番茄可能不像商店里的那样圆润、饱满，反而带有一种“手工制作”的感觉。
可如果你去朋友家吃饭，朋友用自家花园种出的蔬菜做了一顿晚餐，那种体验会让人觉得格外温暖和特别。
Zanny Minton Beddoes：所以这就是未来“工作”的样子？但在那个世界里，我可能会很无助，因为我完全不会搞园艺。我理解即使电脑更强，人们还是喜欢互相下棋。你描述的是一个 10 年内几乎所有工作都能被智能做得更好的世界。而像你这样的人——世界首富——正从这种智能中获得巨额回报。那些失去工作、被取代、或许只能去搞园艺的人该如何生活？
Elon Musk：未来将会有“全民高收入”。
Zanny Minton Beddoes：但我们如何实现这一点？目前在大多数国家，人们对此非常担忧且排斥。在我看来，我们更有可能走向革命，而不是你描述的那种轻松抵达“涅槃”的道路。
Elon Musk：我并不是说未来一切都会一帆风顺。事实上，电脑的出现已经让许多过去存在的职业消失了。
“Computer”（计算机）这个词最初指的并不是机器，而是从事计算工作的人——它曾经是一种职业名称。你可以在网上看到一些历史照片：整栋办公大楼里坐满了人，他们每天的工作就是进行计算，比如计算银行账户的利息。在电脑出现之前不久，人们确实就是这样工作的。
即使在计算机刚出现的早期，它们也非常昂贵，而且使用起来十分困难。如今最大的不同在于，技术变革的速度已经被大幅加快了。过去，有人可能会因为“计算员”这样的工作消失而感到失落；但今天，你几乎找不到愿意重新从事这种工作的人。
如果想了解未来可能是什么样子，我建议大家读一读伊恩·班克斯（Iain Banks）的《文明》（Culture）系列科幻小说。在我看来，这是目前我读过的作品中，对 AI 未来最出色的想象之一。
Zanny Minton Beddoes：我最近正好在读《超越》（Excession）。多亏了你，我开始读这些书。但我其实觉得那个未来并没那么吸引人，因为我认为人类在那个未来失去了自主权。
Elon Musk：人类仍然有自主权，只是以一种微小的方式。
Zanny Minton Beddoes：我有两个问题：首先，是否需要将财富从你这样的人手中大规模重新分配给失去工作的人？你需要缴纳更多税吗？是否需要对资本征收极高的税，以资助某种全民收入？否则人们靠什么生活？
Elon Musk：我认为财政部应该直接给人们发支票。
Zanny Minton Beddoes：但收入从哪儿来？作为经济学家，我知道如果你只是发支票，就会产生通货膨胀。
Elon Musk：我们正在思考的是，有些过去非常重要的概念，未来可能不再适用。通货膨胀本质上反映的是货币与商品、服务之间的比例关系。
如果未来商品和服务的产出大幅增加——比如增长 1000%——那么你完全可以通过调整货币系统中的数字来创造更多货币。只要货币供应的增长速度低于商品和服务产出的增长速度，实际上就会出现“通货紧缩”。
我的预测是，未来真正需要关注的问题可能不是通货膨胀，而是通货紧缩。当商品和服务的增长速度超过货币供应增长速度时，就会发生通缩。
Zanny Minton Beddoes：我愿意相信这一点，但我仍然担心现实中的政治因素。如今的政治环境充满分歧、焦虑和不确定性，人们可能会因为担忧而试图限制 AI 的发展。面对这些外部压力，你现在是如何应对的？
Elon Musk：这既令人兴奋又令人恐惧。说实话，即便在一天之内，我对 AI 的看法也会在兴奋和恐惧之间反复横跳。我并不是在提供一种“庞格罗斯式”（Panglossian，盲目乐观）的观点，觉得一切都会很美好且没有风险。风险是肯定的。
Zanny Minton Beddoes：我想从务实的角度看。现在能做些什么来限制这些风险？你提到了模型开发商可以做的事，那政府应该做什么？
Elon Musk：我认为我们应该互相协调，指出对方模型中的问题，以减轻负面风险。
Zanny Minton Beddoes：那政府呢？你应该交更多的税来资助转移支付计划吗？
Elon Musk：首先，我确实交了很多税。事实上，我创造了人类史上个人缴税额的最高纪录。
Zanny Minton Beddoes：那是因为你是世界首富。
Elon Musk：甚至在那之前就是这样。我估计我将缴纳数万亿级别的税款，我对此没意见。但在一个金钱不再重要的未来，征税也会变得毫无意义。
Zanny Minton Beddoes：那让普通人分享收益呢？比如给他们 SpaceX 或特斯拉的股份？
Elon Musk：我让 SpaceX 上市的原因之一就是为了让公众参与进来，让他们能拥有一部分公司。作为私人公司，股东人数受到严格限制；而上市后，我们可以拥有数百万股东。
Zanny Minton Beddoes：你能想象像“阿拉斯加永久基金”那样，把你的一部分股权分配给普通美国人吗？
Elon Musk：在我的股票期权上，我缴纳 40% 的联邦个人所得税。由于我约 30% 的时间在加州，我还要缴纳约 15% 的州税。所以我交了约 45% 的税——几乎是一半。当我去世时，剩下的部分还会被征收 45% 的遗产税。最终，我可能只剩下四分之一的资产。这带给我的唯一东西，就是在一段时间内对公司发展方向的控制权。仅此而已，直到 AI 聪明到全面接管。到那时，控制公司也就无关紧要了。
如果 SpaceX、特斯拉没有马斯克掌舵...
Zanny Minton Beddoes：人们担心世界是由极少数极其强大的人塑造的，而你就排在名单的首位。
Elon Musk：这和过去有区别吗？
Zanny Minton Beddoes：自古亦然，但现在的变化速度惊人。谈谈控制权，IPO 之后你拥有约 80% 的投票权。只有通过你控制的股份投票才能罢免你。
Elon Musk：很多公司都是这样。谷歌（Alphabet）由佩奇和布林控制，扎克伯格控制着 Meta。扎克伯格在 AI 领域非常努力，可能会拥有领先的模型；他最近刚发布了一个。Meta 将是 AI 领域的重要玩家。
Zanny Minton Beddoes：一个人拥有这么大控制权是明智的吗？
Elon Musk：我确实需要确保自己能专注于长期发展——也就是未来 5 到 10 年。上市公司的挑战之一是每季度的业绩压力，这会阻碍那些需要十年才能见效的投资。在 SpaceX，我想把意识延伸到地球之外，在月球和火星建立文明。这最终会有极高的回报，但在短期内，火星基地的支出会导致业绩下滑，人们就会施压。我在 S-1 招股说明书里明确写了这是我们要做的，但人们还是会抱怨。
当毛利率出现微小波动时，做空者就会像苍蝇一样盯上来。我需要能告诉市场，我们关注的是 5 到 10 年甚至更长的投资周期。我们的散户投资者整体上非常有见地，能够理解这种长期视角。而基金经理们则承受着即时回报的压力，因为他们的奖金和晋升取决于短期表现。一旦你理解了这种激励机制，其行为模式自然也就不难理解了。
Zanny Minton Beddoes：那“关键人物风险”呢？我的意思是，如果你明天不幸被——当然这只是假设——被一辆巴士撞了会发生什么？你知道，你对这些公司拥有绝对的控制权。你是否有一个计划，让他们在你不在的情况下继续发展？
Elon Musk：我认为，即使没有我的参与，它们在未来几年依然会发展得很好。
而且，SpaceX 有一套非常明确的发展路线图，或者更准确地说，是一份“太空路线图”。特斯拉实际上也有自己的产品和技术发展规划。
如果回顾史蒂夫·乔布斯之后的苹果，你会发现，乔布斯留下了清晰的战略愿景，以及一系列他亲自构想过的产品方向。在他离开之后，苹果依然保持了很好的发展势头。
但当一家企业不再拥有像乔布斯这样的创新型领导者时，它可能会缺少真正具有突破性的产品。苹果依然能够制造出优秀的手机和电脑，但到目前为止，它还没有推出一个达到乔布斯时代那种颠覆性程度的新产品。
Zanny Minton Beddoes：类比一下，这就是你为你所有公司带来的东西。你提到了火星。大多数人认为你是一个想要在火星上建立殖民地，从而让我们拥有多行星文明的人。
Elon Musk：我这么说已经很久了。
Zanny Minton Beddoes：确实很久了。但现在你似乎更关注人工智能，以及人工智能在未来 10 年会做些什么，而且你听起来对把月球作为一个基地，从中发射轨道人工智能卫星感到更加兴奋。你的注意力是否已经从火星转移了？还是你依然像以前一样对殖民火星感兴趣？
Elon Musk：我真正感兴趣的是，哪些行动能够最大程度地让意识延续并传播到未来，让意识未来的“光锥”尽可能扩大。
换句话说，我希望看到一个令人兴奋的未来：人类成为一个能够在星际间探索的太空文明，那些科幻小说和电影中描绘的宏大愿景，最终能够成为现实。
我向往的未来有点像《星际迷航》或者《星球大战》中的世界。顺便说一句，《星球大战》是我人生中在电影院看的第一部电影。我想，它可能对我产生了非常深远的影响。
说实话，我至今还记得当时的震撼感。我大概只有 6 岁，那一刻我就在想：“这是我见过最伟大的东西。”
Zanny Minton Beddoes：你的生活一直致力于实现这一目标吗？
Elon Musk：是的，我的意思是，年轻的时候，我从未想过自己的人生会走向今天这个方向。但现在回头看，我的经历有时甚至让我觉得有些超现实。我很难相信这些事情真的正在发生。
我觉得这个世界本身也有一种不真实感，这甚至让我更加相信“模拟理论”。因为有时候，我正在做的事情实在太不可思议了，以至于很难相信它们是真实发生的。
比如，我们正在建造星舰——这是人类历史上体积最大、推力最强的飞行器之一，而我们的目标是未来实现每小时一次以上的发射频率。
Zanny Minton Beddoes：我读到过这一点。人们可能会对实现的速度有微词，但根据你的过往记录，我们应该假设它在某个时刻会发生。
Elon Musk：它会发生的。
Zanny Minton Beddoes：我只是觉得，当我观察这个世界时，我也像你一样被这个世界震撼了，尽管我是从一个更加天真的层面去观察的。但对我来说，人工智能的整个演变和这些模型的能力，其本身就令人惊叹不已。
Elon Musk：这基本上是按照我的想法发生的。
简体中文
English