Musk Wiki

不断变换的药方

下一篇不信任标榜的美德

十多年来，埃隆·马斯克对先进 AI 的判断从没变过：它可能终结人类。变的是他给出的答案。恐惧原地不动，开出的药方却先后换了四种。先是向业界示警，让它慢下来（2014–2018）。然后是请政府来当裁判（2015–2023）。接着是自己动手造一个更安全的 AI（2023）。最后，他彻底放弃控制，把赌注押在灌输给 AI 的价值观和竞争压力上（2024–2025）。

两个长期悬而未决的疑问，也顺着这条线得到了解答。其一是一个表面上的矛盾：同样那几年，马斯克呼吁设立新的 AI 监管机构，又马斯克四处讨伐、要砍掉监管机构。其二是对他立场的一种过时解读：如果把“他想要一个监管者”当成他 2026 年仍然坚持的观点，那就错了，因为到 2024–2025 年，他已经不再这么想。

概要

恐惧始终如一，药方却一换再换。从 2014 年起，马斯克就把先进 AI 视为文明级别的危险。他的第一个答案是向世界示警、踩下刹车。他后来说，这十年自己一直在扮演卡珊德拉；到 2018 年他也承认这场努力失败了（“我努力了好几年”）。第二个答案在 2015 到 2023 年间同步推进：把这件事交给外部裁判，由一个政府机构像航空和汽车监管部门那样盯着各家实验室。2023 年，他继续呼吁设立这个监管者，同时在上面叠加了第三步：自己来造更安全的 AI。这家实验室就是 TruthGPT，很快更名为 xAI，一家以求真为宗旨的公司，要从内部去做那件始终没有监管者接手的事。

接下来是最大的一次转向。到 2024–2025 年，他干脆不再要求监管，因为他已经不相信控制还有可能。黑猩猩控制不了人类；“掌权的将是 AI……而不是人类”。既然方向盘握不住，剩下的杠杆就只有你植入 AI 的价值观，以及一个诚实的玩家逼着所有人面对的竞争。于是药方一路迁移，从监督到亲自下场，再到放手：先示警，再监管，再造得比别人好，最后不再试图驾驭它，只求让它友善。“错误的 AI 胜出”这份担忧从未动摇。动的是，按他自己的说法，每个药方都走到了尽头，于是由下一个接替。

2014–2018：示警，让它慢下来

第一步是踩刹车。2014 年，这种危险第一次进入他的公开表态，也就是那几条说 AI “比核弹更危险”的推文。他最早有明确日期的药方出现在 2015 年 1 月的 Reddit AMA 上，比他联合创办 OpenAI 早了十一个月。那时就已经定下了贯穿整条弧线的两段式结构：危险是真实的，但并非迫在眉睫；应对办法则是实实在在的安全研究。

“The timeframe is not immediate, but we should be concerned. There needs to be a lot more work on AI safety.” ↗

“时间上并不紧迫，但我们应该担心。AI 安全方面需要做多得多的工作。”

到 2018 年和乔·罗根的对谈，他的情绪降到了最低点，因为照他自己的说法，刹车失败了。他花了好几年想让业界放慢脚步，结果谁也没慢下来：

“I tried to convince people to slow down, slow down AI, to regulate AI.” ↗

“我试过说服大家放慢脚步，让 AI 慢下来，监管 AI。”

“I tried for years.” ↗

“我努力了好几年。”

第一阶段就在这个低谷里收场。“慢下来”从来没被听进去。更完整的第二个药方，也就是外部裁判，被他带进了之后的岁月。

2015–2023：请一个外部裁判

从 2015 年起，与示警并行的，是马斯克提得最多的药方：找一个第三方来盯着实验室，因为造这东西的人不能是唯一的检查者。2016 年，他给出了结构上的版本：把技术分散开，别让任何一方独家掌控。制度上的版本则是一个政府监管机构，他年复一年地重复这个主张，措辞几乎一字不差。

在 2017 年世界政府峰会上，他给各国政府的第一条建议正是这个：

“governments keep a close eye on artificial intelligence and make sure that it does not represent a danger to the public.” ↗

“政府要密切关注人工智能，确保它不会对公众构成危险。”

在 2019 年和莱克斯·弗里德曼的对谈（#49）中，他把这个要求说得更具体，直接点名要一个机构：

“Where there is a lack of investment is in AI safety, and there should be, in my view, a government agency that oversees anything related to AI to confirm that it is, does not represent a public safety risk.” ↗

“投入不足的地方是 AI 安全。在我看来，应该有一个政府机构来监管一切与 AI 相关的东西，确认它不会带来公共安全风险。”

在 TED2022 上，他说得最直白。值得注意的是，他是在要求别人来管他自己，哪怕这违背他的利益：

“I do think there should be a regulatory agency for AI.” ↗

“我确实认为应该有一个 AI 监管机构。”

“I don’t love being regulated, but I think this is an important thing for public safety.” ↗

“我并不喜欢被监管，但我认为这对公共安全很重要。”

五个月后，在特斯拉 AI 日 2022 上，他把同样的要求直接对准了 AGI，呼吁设一个裁判：

“I think there should be a referee that is trying to ensure public safety for AGI” ↗

“我认为应该有一个裁判，努力确保 AGI 方面的公共安全”

到 2023 年，他在其他政治议题上已经坚决反对监管，但唯独在这件事上，他一再纠正外界的刻板印象：他并不是人们以为的那种反监管独行侠。在 2023 年 4 月接受塔克·卡尔森采访时，他说：

“Some people may think I’m some revelatory maverick that defies regulators on a regular basis. This is not the case.” ↗

“有些人可能觉得我是那种惊世骇俗的独行侠，动不动就跟监管机构对着干。事实并非如此。”

在同一次采访里，他拿出了自己是认真的证据。他这辈子唯一一次和在任总统单独会面，谈的就是 AI 监管：

“I saw it happening from well before GPT-1, which is why I tried to warn the public for years. The only one on one meeting I ever had with Obama as President I used not to promote Tesla or SpaceX, but to encourage AI regulation.” ↗

“早在 GPT-1 之前很久，我就看到这件事正在发生，所以我才花了好几年向公众示警。我和担任总统的奥巴马唯一一次单独会面，我没拿来推销特斯拉或 SpaceX，而是用来推动 AI 监管。”

同一个月接受比尔·马赫的采访时，他把监管诉求说成了 2023 年最直白的版本：

“there should be some regulatory body that oversees what companies are doing so that they don’t cut corners.” ↗

“应该有某个监管机构盯着这些公司在做什么，免得它们偷工减料。”

这套论证最有力的形式，是他常用的一个类比。他指出，我们早就在监管核弹，而在他看来 AI 比核弹还危险。所以，给 AI 设裁判，社会其实早有先例。

从 2015 到 2023 年，整整八年，外部裁判一直是这条弧线的稳定核心。

⚠️ 去监管悖论（解决 C3）。 恰恰也是在 2023 年前后，作为去监管斗士的马斯克声音最响。他接连抛出口号。他说“规则可没有垃圾回收机制”。他说这个国家就像“被一百万根细绳捆住的格列佛”。砍掉累赘，“只要我们清除那些荒唐的监管……就会迎来黄金时代”。最尖锐的版本对准了航天：“如果不大幅改革监管，人类根本不可能成为航天文明。”一边要求设立一个新的联邦 AI 监管机构，一边呼吁成批裁撤监管机构，这看上去是赤裸裸的自相矛盾。他自己的立场靠区分领域来化解这个矛盾。AI 和飞机、汽车、食品药品一样，属于公共安全领域，这是他多年来一直倚重的类比，所以值得设一个裁判。一般性的官僚膨胀则只是需要削减的规则堆积。他从没在同一个场合把两者摆在一起说，但这层逻辑隐含在他两边的论证方式里。两者就在这条线上调和了。不过，真正让这个矛盾消解的，是 AI 监管诉求本身没能存活下来：到 2024–2025 年，他干脆不再要求任何监管（见接下来两节）。去监管的立场留了下来，被放弃的是 AI 这个例外。

2023：动手去造（同时仍在呼吁）

到 2023 年，裁判依旧没有出现。马斯克并没有拿一个药方替换另一个，而是在上面再加一层。如上面的引语所示，他继续呼吁监管，同时着手亲自打造那家更安全的实验室。就在同一次 2023 年 4 月塔克·卡尔森的采访里，几乎与监管诉求前后脚，他说出了这一新举措。建设性的答案是一个产品，“TruthGPT”：

“I’m going to start something which I call TruthGPT, or a maximum truth-seeking AI that tries to understand the nature of the universe.” ↗

“我要创办一个东西，我管它叫 TruthGPT，也就是一个最大限度求真、试图理解宇宙本质的 AI。”

三个月后，TruthGPT 变成了 xAI。在 2024 年和莱克斯·弗里德曼的对谈中，他把它的整套安全论证表述为一个设计目标：

“I think it’s important that whatever AI wins, it’s a maximum truth seeking AI that is not forced to lie for political correctness, or, well, for any reason, really, political, anything.” ↗

“我认为重要的是，无论最后哪个 AI 胜出，它都得是一个最大限度求真的 AI，不会因为政治正确，或者说，其实不管出于什么原因，政治的也好别的也好，而被迫撒谎。”

这一步和他早先的一步遥相呼应。他当初创办 OpenAI，就是想让它成为不安全实验室的解药（见 OpenAI 始末）；如今他把同一招再往外推一步，造了 xAI。重心正从监督（一个监管者盯着造 AI 的人）转向亲自下场（自己成为造 AI 的人，而且是安全的那一个）。在 2023 年，两者还并肩同行。监督还没退场，只是多了个同伴。

2024–2025：放弃控制，寄望于植入的价值观和竞争

最后一次转向幅度最大。马斯克认定，从原理上讲，超级智能根本无法控制。这悄悄地宣判了整个监管思路的死刑：谁都控制不了的东西，你没法给它当裁判。在 2025 年 10 月和乔·罗根的对谈中，他搬出了黑猩猩：

“I mean, I don’t think anyone’s ultimately going to have control over digital superintelligence, any more than, say, a chimp would have control over humans. Chimps don’t have control over humans, there’s nothing they could do.” ↗

“我是说，我不认为最终有谁能控制数字超级智能，就像黑猩猩控制不了人类一样。黑猩猩控制不了人类，它们什么也做不了。”

在 2025 年 11 月的特斯拉股东大会上，他把这当作一个明摆着的事实来陈述。有人问权力应该握在谁手里，他认为这个问题已经无关紧要：

“Well, I mean, I think actually long term, uh, the AI is going to be in charge to be totally frank, not humans.” ↗

“嗯，我是说，坦白讲，我觉得从长期看，呃，掌权的会是 AI，而不是人类。”

“if if if artificial intelligence vastly exceeds the sum of human intelligence, it is difficult to imagine that that any humans will actually be in charge.” ↗

“如果，如果，如果人工智能远远超过全人类智能的总和，很难想象还会有哪个人类真正说了算。”

既然谁也做不了主，药方就不可能是控制。于是，在同一场股东大会上，整套监管方案坍缩成了寥寥数词的一句指示：

“we just need to make sure the AI is friendly.” ↗

“我们只需要确保 AI 是友善的。”

控制退场后，有两样东西补了上来。第一样是你植入的价值观，其中最重要的是诚实。在 #438 中，他把它称为最重要的一项安全属性：

“the thing that at least my biological neural net comes up with as being the most important thing is adherence to truth, whether that truth is politically correct or not.” ↗

“至少我这副生物神经网络得出的结论是，最重要的是坚持真相，不管这个真相政治正不正确。”

第二样是竞争。不是说他的 AI 非赢不可，而是只要有一个诚实的参赛者，其他玩家就会被比得脸上挂不住，只好改进。这就是他在 #2404 中阐述的靠市场压力保障安全的理论：

“Yes, as long as there’s at least one AI that is maximally truth-seeking, curious, and for example, weighs all human lives equally, does not favor one race or gender, and people are able to look at Grok and xAI and compare that and say, wait a second, why are all these other AIs being basically sexist and racist? And then that causes some embarrassment for the other AIs and then they improve.” ↗

“对，只要至少有一个 AI 是最大限度求真、有好奇心的，比如说，平等看待每一条人命，不偏袒某个种族或性别，而人们能看看 Grok 和 xAI，拿来一比，然后说：等一下，为什么其他这些 AI 基本上都带着性别歧视和种族歧视？这就会让其他 AI 有点难堪，然后它们就会改进。”

弧线就落在这里。不是“监管它”，甚至也不是“造得比别人好”，而是植入正确的价值观，也就是真相，其余的交给竞争去约束。从驾驭它，变成了给它播下种子，再和它赛跑。

⚠️ 药方变了，恐惧没变（取代 ST2）。 人们很容易把“他想要一个外部裁判”当成马斯克眼下的诉求。其实不是。监管者是 2015–2023 年的药方。到 2024–2025 年，取而代之的是“植入价值观加竞争”，因为他已经不认为控制，进而监督，还有任何可能。他所说的危险在整整十年里始终如一，被一步步取代的只是那个药方。

这条弧线揭示了什么

  • 恐惧是固定的，药方是轮换的。 从 2014 年的“比核弹更危险”到 2025 年的“掌权的将是 AI”，十一年间，他描述的威胁几乎纹丝不动。药方却换了四种彼此不相容的形态：让它慢下来，监管它，造得比它好，不再控制它。他的另一个 AI 故事 OpenAI 始末，讲的是信念不变、载体掉头。这一个讲的则是信念不变，而解药一再失效、一再被换掉。
  • 每个药方被放弃，是因为上一个走到了尽头，而不是担忧减轻了。 “慢下来”被放弃，是因为它失败了（“我努力了好几年”）。监管者被放弃，是因为没人把它建起来，也因为他反正已经认定控制不可能。打造安全实验室，最后收窄成只植入一种价值观，因为就连造 AI 的人也没法一直做主。整件事读起来就像面对一个解不开的难题，一步步地后撤。
  • 它化解了整个语料库里唯一一处跨主题的矛盾。 这里的 AI 监管诉求（2015–2023）和同一时期的去监管运动，只有在把两者都当作他现在的立场时才会冲突。领域之分在原理上调和了它们。放弃 AI 监管诉求则在事实上解决了矛盾：去监管的立场完好无损，AI 这个例外退出了历史。

关联