Musk Wiki

与 AI 融合

下一篇政府效率

2024 年和莱克斯·弗里德曼对谈时,埃隆·马斯克 说起这件事,就像在报天气:人类已经是半个机器了,而且正在走向更深的融合。共生讲的是这件事为什么非发生不可(带宽、对齐);这里讲的,是他心目中我们会变成什么。

核心论点

他一上来就否认“融合是遥远未来的事”这个前提。你的手机和笔记本电脑,已经让你成了赛博格:

“So, you’re actually already a cyborg. You have this tertiary compute layer, which is in the form of your computer with all the applications, or your compute devices.” ↗

“所以,你其实已经是个赛博格了。你有一个第三层的计算层,它的形式就是你那台装着各种应用的电脑,或者说你的各种计算设备。”

在他的心智分层模型里,这个“第三层”叠在边缘系统和皮层之上。一个 Neuralink 级别的接口,所做的只是去掉生物层和数字层之间那道靠键盘和屏幕的慢速瓶颈。沿着这条路走得足够远,人就不再是我们认得出的人了:

“We would be something different. I mean, some sort of futuristic cyborg” ↗

“我们会变成某种不同的东西。我是说,某种未来主义的赛博格”

他给出的时间并不远:不是近在眼前,而是十到十五年后(转述)。一旦它足够安全,能给你超人的能力和一份记忆备份,他预计它会走向大众市场,取代手机。

第一次说“已经是赛博格”(2016 年 6 月)

2024 年那场对谈开头的“已经是赛博格”,在 2024 年并不新鲜。早在 2016 年 6 月的 Code 大会上,他就用几乎一样的话说过,这也是维基里关于这个想法最早的来源。手机和电脑已经让你成了半个机器:

“We’re already a cyborg.” ↗

“我们已经是赛博格了。”

“You basically have superpowers with your computer and your phone. You have more power than the president had 20 years ago.” ↗

“有了电脑和手机,你基本上就有了超能力。你拥有的能力比 20 年前的总统还大。”

而且在 2016 年,他就已经把它和带宽的利害联系起来了。不融合,人在 AI 面前就会被甩开,就像宠物被主人甩开一样:

“If we can figure out how to establish a high bandwidth neural interface with your digital self effectively, then you’re no longer a house cat.” ↗

“如果我们能想办法和你的数字自我有效地建立起高带宽神经接口,那你就不再是一只家猫了。”

所以,2024 年的第三计算层,就是他八年前已经在说的同一个论断,而且当时就带着那个让利害一目了然的家猫比喻。

2016 年的起点:“人与 AI 的共生体”与控制问题

2016 年 Y Combinator 的对谈几乎摊开了整个论点。这是维基里最早的版本,也是把融合为了什么说得最直白的一次。机制是拓宽生物大脑和数字自我之间那条慢速链路,而他指出,这个数字自我已经存在:

“So if we can effectively merge with AI by improving the neural link between your cortex and the digital extension of yourself, which already exists, it just has a bandwidth issue.” ↗

“所以,如果我们能改善你的皮层和你的数字延伸之间的神经连接,就能有效地与 AI 融合。这个数字延伸已经存在,只是有带宽问题。”

结果是一个融为一体的存在:

“And then effectively you become an AI human symbiote.” ↗

“这样你实际上就成了人与 AI 的共生体。”

后来的来源大多对此闭口不谈,但在这里,他明说了融合是为了什么。它抹掉“我们”和“AI”之间的界线,从而化解 AI 控制问题:

“We don’t have to worry about some evil dictator AI because we are the AI, collectively.” ↗

“我们不必担心什么邪恶的独裁者 AI,因为我们集体就是 AI。”

于是,他论证的两半从相反的方向会合了。9 月的这场谈话是向前推,推到共生体这个安全的终点;上文 6 月的 Code 大会和 2024 年的对谈则是从你的手机往回推,说明融合已经在发生。“这个数字延伸已经存在”这句话,就是两者接上的地方。他在 2024 年点名的第三层,一直都在 2016 年的那幅图景里。

2017 年的重述:“我们已经是赛博格”,以及数字幽灵

在 2017 年 2 月的世界政府峰会上,也就是在 2016 年的那些来源和 2018 年罗根那一版之间,他又说了一遍:

“To some degree, we are already a cyborg.” ↗

“在某种程度上,我们已经是赛博格了。”

他把三层图景过了一遍:边缘系统、皮层,以及“作为第三层的数字自我”(转述;这几层分散在好几段字幕里)。接着他用了一个后来的来源里再没出现的意象。他说,数字层是永久的,因为你的“数字幽灵”会以电子邮件、照片和社交媒体的形式,比你的肉身活得更久:

“their digital ghost is still around.” ↗

“他们的数字幽灵还在。”

走向和往常一样,指向更深的融合:

“a closer merger of biological intelligence and digital intelligence.” ↗

“生物智能和数字智能更紧密的融合。”

这是 2016 年“我们已经是赛博格”和 “人与 AI 的共生体”的论点换上了 2017 年初的装束。带宽那一半也在同一口气里出现:机器的“每秒万亿比特”,对比拇指的“每秒 10 比特”。“数字幽灵”只是 2017 年的一个意象,表达的正是 2024 年第三计算层那套说法的意思:数字层已经是你的一部分,甚至在死后依然存在。

2018 年的重述:手机是一个慢速的延伸

在 2018 年乔·罗根的节目上,也就是在 2016 年和 2024 年的说法之间,他把同一个故事讲得最接地气。手机已经是你的一部分,唯一缺的是带宽:

“That phone is an extension of yourself.” ↗

“那部手机就是你自己的延伸。”

他说,你和你的数字自我之间的数据速率,就像一根慢吞吞的“细吸管”,神经接口应该把它拓宽成一条“大河”(转述;这个来源的几份第三方文字稿措辞不一)。这又是带宽论,比 Neuralink 时代“第三计算层”的说法早了三年。

2019 年的“第三层”,以及“加入它们”(莱克斯·弗里德曼 #49)

2019 年与莱克斯·弗里德曼的对谈(#49)是融合论早期最清楚的口头版本。它录制于 Neuralink 首批成果亮相之际,比 2024 年的团队专访早五年,把 2016 年“已经是赛博格”的说法和 2024 年“第三计算层”的说法连了起来。在这里,他直接点出了第三层。它不是手机,而是叠在边缘系统和皮层之上、即将到来的数字超级智能:

“And then there’s a tertiary layer which will be digital superintelligence.” ↗

“然后还有第三层,那将是数字超级智能。”

至于为什么要加入它,他说得毫不客气。人类想不过数字超级计算机,所以理性的做法就是融合:

“We will not feel to be smarter than a digital supercomputer. So therefore, if you cannot beat them, join them.” ↗

“我们不会比数字超级计算机更聪明。所以,打不过,就加入。”

这和他在 2020 年罗根节目上重复的“打不过就加入”是同一个逻辑。在这里,他把它和第三层架构,以及让这一切成为可能的那个 设计前提 放在了一起:机器那一侧远比生物那一侧更可塑。2024 年“第三计算层”的图景,就是 2019 年这番话换了一个标签:数字层从“将要到来的超级智能”变成了“你手里已经有的手机”。

2020 年的重述:输出的瓶颈(乔·罗根 #1470)

在 2020 年第二次上乔·罗根的节目时,他把这幅图景压缩到了极致。融合已经存在,缺的是吞吐量,具体说是输出:

“we’re already a cyborg to some degree” ↗

“在某种程度上,我们已经是赛博格了”

“the data rate to the electronics is slow” ↗

“通往电子设备的数据速率很慢”

他估计,人类的输出速率往宽了算也只有每秒一两百比特,而机器的速率要高得多(这个来源的几份文字稿里具体数字不同,所以这里转述,不作引文)。罗根把融合说成人类多少不得不接受的事(这是罗根的说法,转述)。马斯克则在 人机共生 的思路下把它拉回成一个选择,同时依然支持融合,好让人类跟得上 AI(AI 生存风险)。还是 2016 年的“家猫”和带宽论,换上了 2020 年的家常衣服。

集体赛博格:“人类长出了神经系统”(2022 年特斯拉 AI 日)

2022 年 9 月的特斯拉 AI 日上,就在他把特斯拉的 AGI 说成是涌现出来的那段问答里(详见 AI 生存风险),他把赛博格的想法向外翻转,从个人扩展到集体。他认为,智能已经存在于物种的尺度上:

“arguably humans collectively are sort of a superintelligence as well” ↗

“可以说,人类作为一个集体,某种程度上也是一种超级智能”

和他关于个人赛博格的论证一样,杠杆还是带宽。随着人与人之间的数据速率提高,集体智能也随之上升。对于上一次大飞跃,他的意象是互联网成了一个新器官:

“the internet was like humanity acquiring a nervous system” ↗

“互联网就像人类长出了一套神经系统”

突然之间,“人类中的任何一个个体都能知道人类的全部知识”,而不必再靠写信、亲手送达,让知识像渗透一样一点点传开(转述)。这与 2016 年到 2020 年一路贯穿的 “我们已经是赛博格”和带宽直觉是同一个,只是放大了尺度。人加手机的个人赛博格,和集体的人类超级智能,是同一个融合论在两个尺度上的样子。他把它直接放进了 AGI 的讨论:机器 AGI 和联网的人类集体,是同一种涌现智能的两副面孔。

这说明了什么

  • 是延续,不是断裂。 他把融合说成我们已经在走的路上的下一步,这让一个激进的想法在他嘴里听起来几乎是必然的。他对待火星定居也是同样的手法,把它当作成为多行星物种的自然延伸。
  • 身份不依赖载体。 因为他把体验看作信息和电信号,增加一个数字层对自我不是威胁,而是延伸。失去记忆才是真正的损失,多出硬件不是。
  • 这是他 AI 安全论里关乎个人的那一份。 融合是人避免沦为那棵慢吞吞的树的办法。它是针对个人身体的风险缓解,而不只是针对政策。

⚠️ 融合不再能摆脱控制问题(解决 C1)。 上文引用的 2016 年融合的意义,即“我们不必担心什么邪恶的独裁者 AI,因为我们集体就是 AI”,主张的是融合能让控制问题消失,因为不再有一个独立的 AI 来掌权。他 2025 年对控制问题的悲观,给这个承诺封了顶。黑猩猩无论如何都控制不了人类(那个黑猩猩类比),而且“掌权的会是 AI……不是人类”,所以一个以太比特速率运转的融合后的人,在这个回路里依然是较弱的那个智能。按他自己后来的推理,融合已经从控制问题的解决方案滑向了一种搭上顺风车的方式。这层保留从一开始就在:2019 年那句“希望能带上我们一起走……我们绝大部分的智能将是数字的”(见 人机共生)。完整的按时间线的梳理见 同一种恐惧,两种答案。

最早谈融合论的推文(2016–2017)

他也很早就在 Twitter 上提出了融合论。2016 年 6 月,在 2015–2017 年的推文里,他写道:“造出神经织网,才是人类实现与机器共生真正要紧的事”,这个神经织网的想法后来成了 Neuralink。2017 年 4 月,他又给整个项目下了最精炼的一句话概括:让 AI 保持为人类的延伸,而不是一个独立的、敌对的主体。“这就是我们的志向:避免 AI 变成异类。”

相关