Musk Wiki

莱克斯·弗里德曼 #438(2024)

下一篇莱克斯·弗里德曼 #49(2019)
  • 主持人: 莱克斯·弗里德曼
  • 形式: 播客,题为《Neuralink 与人类的未来》。这一期非常长(文字稿的时间戳一直到约 8 小时 36 分)。马斯克本人的部分只有开头约 1 小时 28 分(在约 01:28:04 结束,接着是联合创始人 DJ Seo);其余是 Neuralink 团队和第一位患者。
  • 日期: 2024 年 8 月 2 日
  • 可信度: 已核实(一级来源),lexfridman.com 上由人工整理的官方文字稿
  • 引语出处: 每段引语都锚定到官方文字稿 https://lexfridman.com/elon-musk-and-neuralink-team-transcript/,并附 #:~:text= 片段,片段解码后是文字稿的原文子串。

概要

这是 Neuralink 团队那一期:一段很长的录音,莱克斯·弗里德曼分别与埃隆·马斯克以及 Neuralink 团队成员交谈,包括 DJ Seo、马修·麦克杜格尔、布利斯·查普曼,还有第一位接受植入的人类患者诺兰·阿博。对一部讲马斯克思维的百科来说,只有马斯克本人开场那一段(约前 1 小时 28 分)能用作第一人称证据。他交棒之后的内容占了这期超长节目的绝大部分,按文字稿自己的时间戳一直延续到约 8 小时 36 分,那是团队和诺兰对 Neuralink 的讲述,不是他的,这里不予引用。下面的摘录全部出自马斯克那一段。

在这一段里,信息量最大的内容集中在三处。

关于 Neuralink 的目的,马斯克把这家公司重新表述为一个带宽问题。人的输出慢得离谱(按一整天平均,每秒不到一比特),所以对一个快速的 AI 来说,跟人交流“就像跟一棵树说话”。这个设备的长远意义,是拓宽这条通道,让人类的意志与 AI 保持一致。

关于心智、意识与赛博格,他认为手机已经让你成了赛博格,拥有一个“第三计算层”;一切体验归根结底都是一台“生物计算机”里的电信号;而死亡从根本上说是信息的丢失。

关于他如何推理、追求什么,他给出了对五步工程算法最清楚的一次公开表述(“质疑需求,让需求别那么蠢”;先删除,再优化),把自律描述为皮层对边缘系统本能的覆盖,指出求真是 AI 绝不能被训练丢掉的东西,并重申他的“好奇心宗教”:理解宇宙。这既是 xAI/Grok 共同的使命,也是他主张去火星、多生孩子的理由。

关键引语(逐字引用,锚定文字稿,仅限埃隆·马斯克本人)

公司公开的长期目标:拓宽人与 AI 之间的通道。

“So, the long-term aspiration of Neuralink is to improve the AI human symbiosis by increasing the bandwidth of the communication.” ↗

“所以,Neuralink 的长期愿景是通过提高沟通带宽,改善 AI 与人类的共生。”

通道慢为什么要紧。“跟一棵树说话”这个比喻在整期节目里反复出现:

“If the AI can communicate at terabits per second, and you’re communicating at bits per second, it’s like talking to a tree.” ↗

“如果 AI 能以每秒太比特的速度交流,而你只能以每秒几比特的速度交流,那就像跟一棵树说话。”

说人类带宽低得惊人,背后是这样一笔账:

“If you think what is the average bits per second of a human, it is less than one bit per second over the course of a day.” ↗

“你想想一个人平均每秒能输出多少比特,按一整天算,每秒还不到一比特。”

人类是意志的来源

被问到人类对超级智能有什么用,他的回答不是能力,而是动机:

“I think there is some argument for humans as a source of will.” ↗

“我觉得,把人类看作意志的来源,这个说法是有些道理的。”

已经是赛博格:第三计算层

在植入任何东西之前,他眼中的人类就已经被机器延伸了:

“So, you’re actually already a cyborg. You have this tertiary compute layer, which is in the form of your computer with all the applications, or your compute devices.” ↗

“所以,你其实已经是赛博格了。你有这个第三计算层,形式就是装着各种应用的电脑,或者说你的计算设备。”

心智、记忆与死亡

大脑是一台通用的输入输出设备,一切体验都是电信号:

“everything that you’ve ever experienced in your whole life, smell, emotions, all of those are electrical signals.” ↗

“你这辈子经历过的一切,气味、情绪,所有这些都是电信号。”

死亡被重新看作一个信息问题,而不是生物学问题:

“Death is fundamentally the loss of information, the loss of memory.” ↗

“死亡从根本上说就是信息的丢失,记忆的丢失。”

与 AI 融合:让人类的集体意志与 AI 保持一致

在他看来,提高输出速率为什么是一步 AI 安全棋:

“We could better align collective human will with AI if the output rate especially was dramatically increased.” ↗

“如果输出速率尤其能大幅提高,我们就能更好地让人类的集体意志与 AI 保持一致。”

如果带宽问题解决了,人类会走向哪里:

“We would be something different. I mean, some sort of futuristic cyborg” ↗

“我们会变成某种不一样的东西。我是说,某种未来主义的赛博格”

工程算法:把第一性原理当口诀

这是整部百科里,他以第一人称对自己设计方法最清楚的一次表述:

“I have this very basic first principles algorithm that I run kind of as a mantra, which is to first question the requirements, make the requirements less dumb.” ↗

“我有一套非常基础的第一性原理算法,差不多当口诀一样反复念,第一步就是质疑需求,让需求别那么蠢。”

他说自己最常犯的错误,以及先删除的纪律:

“the most common mistake of smart engineers is to optimize a thing that should not exist” ↗

“聪明的工程师最常犯的错误,就是去优化一个根本不该存在的东西”

他点出删除之所以难的心理原因,而解决办法是一种刻意的覆盖:

“This is, I would say, like a cortical override to a limbic instinct.” ↗

“我会说,这就像是用皮层去覆盖边缘系统的本能。”

AI 与真相至上

照他自己的推理,AI 最重要的单一属性是什么:

“the thing that at least my biological neural net comes up with as being the most important thing is adherence to truth, whether that truth is politically correct or not.” ↗

“至少我这张生物神经网络得出的结论是,最重要的是忠于真相,不管这个真相在政治上正不正确。”

他反复提到的危险:一个被训练去撒谎的模型,哪怕只是撒一点点谎。

“I think it’s important that whatever AI wins, it’s a maximum truth seeking AI that is not forced to lie for political correctness, or, well, for any reason, really, political, anything.” ↗

“我觉得重要的是,不管最后哪个 AI 胜出,它都得是一个最大限度求真的 AI,不会为了政治正确被迫撒谎,或者说,不会为了任何理由撒谎,真的,政治也好,别的什么也好。”

好奇心宗教:理解宇宙

他给 Grok 定的使命,是他个人驱动力的机构版本:

“And that’s the mission of xAI and Grok is understand the universe.” ↗

“这就是 xAI 和 Grok 的使命:理解宇宙。”

同一股驱动力,他称之为自己最接近信仰的东西:

“my motivation if I’ve got a religion of any kind is a religion of curiosity, of trying to understand.” ↗

“我的动力,如果说我有什么宗教的话,那就是好奇心的宗教,努力去理解的宗教。”

还有他一贯偏重发现问题的倾向,这回他把功劳归给道格拉斯·亚当斯:

“trying to frame the question correctly is the hard part. Once you frame the question correctly, the answer is often easy.” ↗

“难的是把问题问对。一旦问题问对了,答案往往很容易。”

文明、火星与人口崩溃

他为什么老是“敲生孩子这面鼓”:出生率是文明崩溃反复出现的原因。

“Population collapse is a real and current thing.” ↗

“人口崩溃是真实的,而且正在发生。”

他用一句话解释罗马为什么灭亡:

“Rome fell because the Romans stopped making Romans.” ↗

“罗马之所以灭亡,是因为罗马人不再生罗马人了。”

他追求什么:时间就是货币

他公开的成功标准,以及它所消耗的稀缺资源:

“Well, time is the true currency.” ↗

“嗯,时间才是真正的货币。”

关联页面(涉及的页面)

  • 埃隆·马斯克——新增“莱克斯·弗里德曼 #438 透露了什么”一节:Neuralink 以带宽和共生为目的,赛博格与边缘系统/皮层的心智模型,死亡即信息丢失,五步工程算法,真相是 AI 的第一要务,以及好奇心宗教和人口崩溃这一文明视角。
  • Neuralink——新建:马斯克如何阐述公司的目的(带宽、共生、“跟一棵树说话”、先做医疗再做增强)。
  • 人机共生——新建:带宽不匹配的论证,以及让人类集体意志与 AI 保持一致。
  • 与 AI 融合——新建:赛博格与第三计算层的论点,以及人类将走向何方。
  • 意识与死亡——新建:体验即电信号,大脑是生物计算机,死亡是信息的丢失。
  • 边缘系统与皮层模型——新建:皮层为边缘系统服务的模型,以及作为他工程纪律基础的“皮层覆盖”。
  • 第一性原理——扩充:五步算法“让需求别那么蠢”(先删除,再优化)。
  • AI 生存风险——扩充:目标函数/HAL 9000 式的危险,以及“最大限度求真的 AI”。
  • 好奇心与求真——扩充:“好奇心宗教”,以及道格拉斯·亚当斯那种问题重于答案的说法。
  • xAI 与 Grok——扩充:只有三个英文单词的使命“理解宇宙”。
  • 人类的光明未来——扩充:多行星/费米悖论中大过滤器的论证,以及人口崩溃。
  • 工作强度——扩充:引语块中的“时间才是真正的货币”,以及大脑是生物计算机的说法。
  • 提出正确的问题——扩充:借道格拉斯·亚当斯重述发现问题的重要性。