与 AI 融合
下一篇政府效率2024 年和莱克斯·弗里德曼对谈时,埃隆·马斯克 说起这件事,就像在报天气:人类已经是半个机器了,而且正在走向更深的融合。共生讲的是这件事为什么非发生不可(带宽、对齐);这里讲的,是他心目中我们会变成什么。
核心论点
他一上来就否认“融合是遥远未来的事”这个前提。你的手机和笔记本电脑,已经让你成了赛博格:
“So, you’re actually already a cyborg. You have this tertiary compute layer, which is in the form of your computer with all the applications, or your compute devices.” ↗
“所以,你其实已经是个赛博格了。你有一个第三层的计算层,它的形式就是你那台装着各种应用的电脑,或者说你的各种计算设备。”
在他的心智分层模型里,这个“第三层”叠在边缘系统和皮层之上。一个 Neuralink 级别的接口,所做的只是去掉生物层和数字层之间那道靠键盘和屏幕的慢速瓶颈。沿着这条路走得足够远,人就不再是我们认得出的人了:
“We would be something different. I mean, some sort of futuristic cyborg” ↗
“我们会变成某种不同的东西。我是说,某种未来主义的赛博格”
他给出的时间并不远:不是近在眼前,而是十到十五年后(转述)。一旦它足够安全,能给你超人的能力和一份记忆备份,他预计它会走向大众市场,取代手机。
第一次说“已经是赛博格”(2016 年 6 月)
2024 年那场对谈开头的“已经是赛博格”,在 2024 年并不新鲜。早在 2016 年 6 月的 Code 大会上,他就用几乎一样的话说过,这也是维基里关于这个想法最早的来源。手机和电脑已经让你成了半个机器:
“We’re already a cyborg.” ↗
“我们已经是赛博格了。”
“You basically have superpowers with your computer and your phone. You have more power than the president had 20 years ago.” ↗
“有了电脑和手机,你基本上就有了超能力。你拥有的能力比 20 年前的总统还大。”
而且在 2016 年,他就已经把它和带宽的利害联系起来了。不融合,人在 AI 面前就会被甩开,就像宠物被主人甩开一样:
“If we can figure out how to establish a high bandwidth neural interface with your digital self effectively, then you’re no longer a house cat.” ↗
“如果我们能想办法和你的数字自我有效地建立起高带宽神经接口,那你就不再是一只家猫了。”
所以,2024 年的第三计算层,就是他八年前已经在说的同一个论断,而且当时就带着那个让利害一目了然的家猫比喻。
2016 年的起点:“人与 AI 的共生体”与控制问题
2016 年 Y Combinator 的对谈几乎摊开了整个论点。这是维基里最早的版本,也是把融合为了什么说得最直白的一次。机制是拓宽生物大脑和数字自我之间那条慢速链路,而他指出,这个数字自我已经存在:
“So if we can effectively merge with AI by improving the neural link between your cortex and the digital extension of yourself, which already exists, it just has a bandwidth issue.” ↗
“所以,如果我们能改善你的皮层和你的数字延伸之间的神经连接,就能有效地与 AI 融合。这个数字延伸已经存在,只是有带宽问题。”
结果是一个融为一体的存在:
“And then effectively you become an AI human symbiote.” ↗
“这样你实际上就成了人与 AI 的共生体。”
后来的来源大多对此闭口不谈,但在这里,他明说了融合是为了什么。它抹掉“我们”和“AI”之间的界线,从而化解 AI 控制问题:
“We don’t have to worry about some evil dictator AI because we are the AI, collectively.” ↗
“我们不必担心什么邪恶的独裁者 AI,因为我们集体就是 AI。”
于是,他论证的两半从相反的方向会合了。9 月的这场谈话是向前推,推到共生体这个安全的终点;上文 6 月的 Code 大会和 2024 年的对谈则是从你的手机往回推,说明融合已经在发生。“这个数字延伸已经存在”这句话,就是两者接上的地方。他在 2024 年点名的第三层,一直都在 2016 年的那幅图景里。
2017 年的重述:“我们已经是赛博格”,以及数字幽灵
在 2017 年 2 月的世界政府峰会上,也就是在 2016 年的那些来源和 2018 年罗根那一版之间,他又说了一遍:
“To some degree, we are already a cyborg.” ↗
“在某种程度上,我们已经是赛博格了。”
他把三层图景过了一遍:边缘系统、皮层,以及“作为第三层的数字自我”(转述;这几层分散在好几段字幕里)。接着他用了一个后来的来源里再没出现的意象。他说,数字层是永久的,因为你的“数字幽灵”会以电子邮件、照片和社交媒体的形式,比你的肉身活得更久:
“their digital ghost is still around.” ↗
“他们的数字幽灵还在。”
走向和往常一样,指向更深的融合:
“a closer merger of biological intelligence and digital intelligence.” ↗
“生物智能和数字智能更紧密的融合。”
这是 2016 年“我们已经是赛博格”和 “人与 AI 的共生体”的论点换上了 2017 年初的装束。带宽那一半也在同一口气里出现:机器的“每秒万亿比特”,对比拇指的“每秒 10 比特”。“数字幽灵”只是 2017 年的一个意象,表达的正是 2024 年第三计算层那套说法的意思:数字层已经是你的一部分,甚至在死后依然存在。
2018 年的重述:手机是一个慢速的延伸
在 2018 年乔·罗根的节目上,也就是在 2016 年和 2024 年的说法之间,他把同一个故事讲得最接地气。手机已经是你的一部分,唯一缺的是带宽:
“That phone is an extension of yourself.” ↗
“那部手机就是你自己的延伸。”
他说,你和你的数字自我之间的数据速率,就像一根慢吞吞的“细吸管”,神经接口应该把它拓宽成一条“大河”(转述;这个来源的几份第三方文字稿措辞不一)。这又是带宽论,比 Neuralink 时代“第三计算层”的说法早了三年。
2019 年的“第三层”,以及“加入它们”(莱克斯·弗里德曼 #49)
2019 年与莱克斯·弗里德曼的对谈(#49)是融合论早期最清楚的口头版本。它录制于 Neuralink 首批成果亮相之际,比 2024 年的团队专访早五年,把 2016 年“已经是赛博格”的说法和 2024 年“第三计算层”的说法连了起来。在这里,他直接点出了第三层。它不是手机,而是叠在边缘系统和皮层之上、即将到来的数字超级智能:
“And then there’s a tertiary layer which will be digital superintelligence.” ↗
“然后还有第三层,那将是数字超级智能。”
至于为什么要加入它,他说得毫不客气。人类想不过数字超级计算机,所以理性的做法就是融合:
“We will not feel to be smarter than a digital supercomputer. So therefore, if you cannot beat them, join them.” ↗
“我们不会比数字超级计算机更聪明。所以,打不过,就加入。”
这和他在 2020 年罗根节目上重复的“打不过就加入”是同一个逻辑。在这里,他把它和第三层架构,以及让这一切成为可能的那个 设计前提 放在了一起:机器那一侧远比生物那一侧更可塑。2024 年“第三计算层”的图景,就是 2019 年这番话换了一个标签:数字层从“将要到来的超级智能”变成了“你手里已经有的手机”。
2020 年的重述:输出的瓶颈(乔·罗根 #1470)
在 2020 年第二次上乔·罗根的节目时,他把这幅图景压缩到了极致。融合已经存在,缺的是吞吐量,具体说是输出:
“we’re already a cyborg to some degree” ↗
“在某种程度上,我们已经是赛博格了”
“the data rate to the electronics is slow” ↗
“通往电子设备的数据速率很慢”
他估计,人类的输出速率往宽了算也只有每秒一两百比特,而机器的速率要高得多(这个来源的几份文字稿里具体数字不同,所以这里转述,不作引文)。罗根把融合说成人类多少不得不接受的事(这是罗根的说法,转述)。马斯克则在 人机共生 的思路下把它拉回成一个选择,同时依然支持融合,好让人类跟得上 AI(AI 生存风险)。还是 2016 年的“家猫”和带宽论,换上了 2020 年的家常衣服。
集体赛博格:“人类长出了神经系统”(2022 年特斯拉 AI 日)
2022 年 9 月的特斯拉 AI 日上,就在他把特斯拉的 AGI 说成是涌现出来的那段问答里(详见 AI 生存风险),他把赛博格的想法向外翻转,从个人扩展到集体。他认为,智能已经存在于物种的尺度上:
“arguably humans collectively are sort of a superintelligence as well” ↗
“可以说,人类作为一个集体,某种程度上也是一种超级智能”
和他关于个人赛博格的论证一样,杠杆还是带宽。随着人与人之间的数据速率提高,集体智能也随之上升。对于上一次大飞跃,他的意象是互联网成了一个新器官:
“the internet was like humanity acquiring a nervous system” ↗
“互联网就像人类长出了一套神经系统”
突然之间,“人类中的任何一个个体都能知道人类的全部知识”,而不必再靠写信、亲手送达,让知识像渗透一样一点点传开(转述)。这与 2016 年到 2020 年一路贯穿的 “我们已经是赛博格”和带宽直觉是同一个,只是放大了尺度。人加手机的个人赛博格,和集体的人类超级智能,是同一个融合论在两个尺度上的样子。他把它直接放进了 AGI 的讨论:机器 AGI 和联网的人类集体,是同一种涌现智能的两副面孔。
这说明了什么
- 是延续,不是断裂。 他把融合说成我们已经在走的路上的下一步,这让一个激进的想法在他嘴里听起来几乎是必然的。他对待火星定居也是同样的手法,把它当作成为多行星物种的自然延伸。
- 身份不依赖载体。 因为他把体验看作信息和电信号,增加一个数字层对自我不是威胁,而是延伸。失去记忆才是真正的损失,多出硬件不是。
- 这是他 AI 安全论里关乎个人的那一份。 融合是人避免沦为那棵慢吞吞的树的办法。它是针对个人身体的风险缓解,而不只是针对政策。
⚠️ 融合不再能摆脱控制问题(解决 C1)。 上文引用的 2016 年融合的意义,即“我们不必担心什么邪恶的独裁者 AI,因为我们集体就是 AI”,主张的是融合能让控制问题消失,因为不再有一个独立的 AI 来掌权。他 2025 年对控制问题的悲观,给这个承诺封了顶。黑猩猩无论如何都控制不了人类(那个黑猩猩类比),而且“掌权的会是 AI……不是人类”,所以一个以太比特速率运转的融合后的人,在这个回路里依然是较弱的那个智能。按他自己后来的推理,融合已经从控制问题的解决方案滑向了一种搭上顺风车的方式。这层保留从一开始就在:2019 年那句“希望能带上我们一起走……我们绝大部分的智能将是数字的”(见 人机共生)。完整的按时间线的梳理见 同一种恐惧,两种答案。
最早谈融合论的推文(2016–2017)
他也很早就在 Twitter 上提出了融合论。2016 年 6 月,在 2015–2017 年的推文里,他写道:“造出神经织网,才是人类实现与机器共生真正要紧的事”,这个神经织网的想法后来成了 Neuralink。2017 年 4 月,他又给整个项目下了最精炼的一句话概括:让 AI 保持为人类的延伸,而不是一个独立的、敌对的主体。“这就是我们的志向:避免 AI 变成异类。”
相关
- 人机共生——说明融合为何重要的带宽论。
- Neuralink——用来实现融合的设备。
- 意识与死亡——他为什么认为增加一层不会威胁自我。
- 边缘系统与皮层模型——数字层所叠加的三层模型。
- AI 生存风险——融合所要对冲的危险。
- 同一种恐惧,两种答案——这篇综合把融合/带宽的对冲和政策/价值观的对冲交织在一起,并用 2025 年关于控制的结论给“融合即控制”的承诺封了顶。
- 唯物主义的层层架构——这篇综合沿形而上学的轴线解读融合/上传(自我是可迁移的信息,是延续而非丧失),与上面从 AI 风险角度的解读互为补充。
- 实体:埃隆·马斯克 · Neuralink
- 来源:马斯克推文 2015–2017 · Code 大会(2016) · Y Combinator(2016) · 世界政府峰会 2017 · 乔·罗根 #1169 · 莱克斯·弗里德曼 #49(2019) · 乔·罗根 #1470 · 莱克斯·弗里德曼 #438(2024) · 特斯拉 AI 日 2022