Musk Wiki

世界政府峰会 2017

下一篇斯坦福 eCorner(2003)
  • 场合/采访者: 2017 年世界政府峰会,迪拜。台上对谈的是穆罕默德·格尔加维(阿联酋内阁事务部长)和埃隆·马斯克。YouTube 标题为“Mohammad Al Gergawi in a conversation with Elon Musk during WGS17”,由世界政府峰会频道上传。
  • 形式: 约 35 分钟的台上问答,话题涉及生命的意义与意识、多行星文明、模拟论证、自动驾驶汽车、“深度”AI 及其监管、城市地下隧道、自动化与全民基本收入、人机融合,最后还聊了他怎么招人、给年轻人什么建议。
  • 日期: 2017 年 2 月 13 日(YouTube 上传日期为 2017-02-15)。
  • 可信度: 完整文字稿,可信度较低(三级来源)。原始资料正文是 yt-dlp 抓取的 YouTube 字幕(rCoFKUJ_8Yo.en.json3),不是官方的人工文字稿。按项目的三级来源规则,引语必须先对照视频核实才能引用;凡是字幕措辞存疑、跨越多条字幕、或发言人不明的地方,这里都转述而不作引语。原始资料的 frontmatter 中确认有 trust_tier: "lower-trust-full-transcript"。
  • 引语出处: 唯一的来源是一段视频,没有发布过的官方文字稿,所以每段引语都锚定到 YouTube 官方上传视频(https://www.youtube.com/watch?v=rCoFKUJ_8Yo),并附上被引字幕开头处的 &t=<秒数>s 时间戳。#:~:text= 片段对视频不适用,所以这里不用;原始文件路径也从不用作出处。时间戳是把字幕起始时间换算成秒得到的。
  • ⚠️ 发言归属提醒(这里的头号风险): 字幕没有发言人标注,对话里交替出现两个声音。一个是采访者穆罕默德·格尔加维:热情洋溢的开场介绍(“亨利·福特、莱特兄弟、阿尔伯特·爱因斯坦,还有埃隆·马斯克”,“你总是很匆忙,你想去没人去过的地方”),以及所有提问(“你的人生使命是什么?”,“生命对你来说是什么?”,“你曾说想死在火星上,为什么?”,“你能给他们三条什么建议?”)。另一个是马斯克的第一人称回答(“当然,首先谢谢你们邀请我……”)。只有马斯克本人的回答才作引语;格尔加维的开场介绍、恭维和提问从不算在马斯克头上。发言人是根据上下文(提问还是回答)判断并对照视频核对的;哪怕只有一丝不确定,也一律转述。

⚠️ 三级来源字幕提醒。 这份字幕相对干净(有标点,大小写正常),但它仍是机器提供的文字稿,不是官方的人工文字稿。下面的引语都是马斯克简短、辨识度高的句子,字幕本身干净,并已对照视频核对。每一句都是原始资料字幕中的逐字子串(带有字幕开头处的 &t= 锚点),字幕中的任何错误都原样保留,以保证引文逐字节准确。较长或零碎的段落,以及措辞在几条字幕之间不稳定的句子,一律转述,不包装成逐字引语。

概要

这场 2017 年 2 月的对谈,同时是好几条线索在本 wiki 中最早的清晰数据点之一,这是它的主要价值。它表明,马斯克的核心世界观在 2017 年初就已经相当成形;它也把他在五个话题上的“观点演变”定位到2016 年 6 月 Code 大会与他后来几次访谈之间的某个时间点。

信息量最大的是开头。被问到“人生使命”时,马斯克简洁地说出了他“弄清楚该问什么问题”、扩大意识的范围和规模的那套想法。2021 年莱克斯和2023 年 DealBook的来源后来讲的也是这套信条,而这里早了四年,是他对童年时“生命的意义是什么”这个问题的回答。从这里出发,他把自己那几套稳定的论证过了一遍。多行星生命是“整个生命的人寿保险”,也是一种“冒险精神”、“早上起床的理由”(光明未来)。从《乒乓》到照片级逼真的游戏,再到我们是否就在其中的论证,和2016 年 Code 大会几乎一字不差。完全的自动驾驶“大约 10 年内”实现,外加电梯操作员的类比。“深度”或通用 AI 是“一种危险的局面”,他建议各国政府“密切关注”。城市地下隧道解决拥堵的论点(比 TED2017 上的公开亮相早两个月)。自动化、全民基本收入,再到“那人们还怎么找到意义?”这条链条。“我们已经是赛博格了”与带宽论证,以及“每秒一万亿比特”对“每秒 10 比特”的拇指算术。还有他给年轻人的建议:以物理学为框架,“永远……在某种程度上是错的”,警惕一厢情愿。

结尾关于他个人的几段对话(进入中国的时机、华盛顿隧道的玩笑、他招人时问的“给我讲讲你的人生故事”,以及“我不确定我想当我自己”的插话)大多是活动花絮和性格点缀,只做概述,不深挖,这符合本 wiki 专注于思想的定位。

纪实说明: 关于 AI 监管的建议、自动化与失业的预测(“全世界大约 12% 到 15% 的劳动力会失业”),以及关于全民基本收入的主张,都是马斯克对有争议问题的个人说法,在这里记为他的看法,而不是事实认定。

关键引语(马斯克逐字原话,已对照视频核对;YouTube &t= 锚点)

生命的意义:“该问什么问题”与意识的范围(提出正确的问题、好奇心与求真)

被问到“人生使命”时,马斯克把它追溯到童年时关于生命意义的疑问,给出的回答正是后来各来源一再重申的那套“先找对问题”的信条。这是本 wiki 中这一说法最早的版本:

“And I came to the conclusion that what really matters is” ↗

“我得出的结论是,真正重要的是……”

“trying to understand the right questions to ask. And the more that we can increase the scope and scale of human consciousness, the better we’re able to ask these questions.” ↗

“……努力弄清楚该问什么问题。我们越能扩大人类意识的范围和规模,就越能问好这些问题。”

这就是2021 年的“我哲学的基础”、2023 年 DealBook 的“扩大意识的范围和规模……以便弄清楚,对于宇宙这个答案,该问什么问题”,以及2023 年 #400 的“好奇心哲学”。早在 2017 年 2 月,它就几乎一字不差地出现了,而且和后来的版本一样,与童年时一场“生命的意义是什么”的危机联系在一起。

多行星生命是“生命的人寿保险”,也是一种冒险精神(火星殖民、人类的光明未来)

他把关于生命意义的回答直接接到了生存论证上,用的是最朴素的保险说法:

“I think that being a multi-planetary species and being out there among the stars” ↗

“我认为,成为多行星物种,走到群星之间……”

“And, that’s one reason, kind of like life insurance for life collectively. Life as we know it.” ↗

“这是一个理由,有点像是给整个生命买的人寿保险。我们所知的生命。”

但他说“就个人而言最能激励自己”的,是本 wiki 称为光明未来的那个积极的一面:冒险和激励,而不是对冲风险。

“it creates a sense of adventure, and it makes people excited about the future.” ↗

“它带来一种冒险精神,让人们对未来感到兴奋。”

“And there need to be reasons to get up in the morning.” ↗

“人总得有早上起床的理由。”

“There’s got to be things that people find inspiring, and make life worth living.” ↗

“总得有些东西让人们觉得受鼓舞,让生活值得过下去。”

两个月后2017 年 TED的收尾,以及2023 年 DealBook上“什么给了你希望?”那个转折,用的都是同一个“早上起床的理由”的说法。这是从激励出发来论证多行星,而不只是从防小行星、防灭绝的保险角度。(他把它和“两种未来”的对照放在一起:一种是“永远被困在地球上,直到最终发生某件可怕的事”,另一种是“分布在许多星球上”。2013 年 TED上他用的也是这个二选一。这句话横跨好几条字幕,这里只转述。)

重申模拟论证(模拟假说)

被追问生命“是”什么时,马斯克又做了一遍八个月前在2016 年 Code 大会台上做过的那个外推:电子游戏从《乒乓》发展到照片级逼真,只要以任何速度继续进步,终将与现实无法区分,由此得出推论。

“then eventually those games will be indistinguishable from reality.” ↗

“那么这些游戏最终会与现实无法区分。”

“how do we know that that didn’t happen in the past? And that we’re not in one of those games ourselves?” ↗

“我们怎么知道这种事过去没有发生过?怎么知道我们自己不是在某个这样的游戏里?”

这几乎就是2016 年那个论证的原样:同样从《乒乓》到照片级逼真的铺垫,同样“任何速度的进步”的假设,同样得出我们很可能身处某个模拟之中的结论。这里是它在 2017 年 2 月的重申,介于2016 年 6 月的台上版本和2018 年罗根节目上“我们极有可能身处模拟之中”的浓缩版之间。

“大约 10 年内”完全自动驾驶,以及电梯的类比(自动驾驶)

他对自动驾驶的时间预测,以及他用的那个日常比喻,也就是他在2019 年莱克斯节目上又说了一遍的电梯操作员类比:

“it will be very unusual for cars to be built that are not fully autonomous.” ↗

“到时候,造出来的车如果不是完全自动驾驶的,那会非常少见。”

“So, getting in a car will be like getting in an elevator.” ↗

“所以,坐进一辆车就会像走进一部电梯。”

他的依据是狭义与通用的区分,他关于 AI 的其余想法都建立在这一区分之上:车辆自动驾驶是“狭义 AI……只是狭隘地试图实现某一项功能”,和他所担忧的“深度”AI 有本质区别(转述;这一区分横跨好几条字幕)。这是 2019 年“一辆没有自动驾驶的车,差不多就和一匹马一样有用”这一过时论的最早有日期可考的版本:自动驾驶是近期的默认配置,被说成一种便利,而(当时)还不是一场安全改革运动。

“深度”AI 是“一种危险的局面”,以及监管建议(AI 生存风险)

被问到哪项技术最具颠覆性时,他把狭义 AI 和通用 AI 区分开,直截了当地说出了自己的担忧:

“I think one of the most troubling questions is artificial intelligence.” ↗

“我认为最令人不安的问题之一是人工智能。”

“where you can have AI that is much smarter than the smartest human on Earth. This, I think, is a dangerous situation.” ↗

“……到时候可能会有比地球上最聪明的人还要聪明得多的 AI。我认为,这是一种危险的局面。”

他借用的说法是把数字超级智能比作外星人:

“Well, digital super intelligence will be like an alien.” ↗

“嗯,数字超级智能会像一个外星人。”

被问到给各国政府的建议时,他的第一条就是外部裁判、外部监督的要求。本 wiki 从2016 年到2019 年,再到2023 年的几次访谈都在追踪这一要求,这里是它在 2017 年 2 月的版本:

“governments keep a close eye on artificial intelligence and make sure that it does not represent a danger to the public.” ↗

“……各国政府要密切关注人工智能,确保它不会对公众构成危险。”

这是同一个“既警告、又盯着”的立场:“深度”或通用 AI 很危险,外加一个出于公共安全的监管呼吁。2023 年他说自己当了“十多年的卡珊德拉”,时间起点正好可以追溯到这个时期。(他主张监管的理由是,研究人员“可能太沉迷于自己的工作”,以至于看不到后果。这句话横跨好几条字幕,这里只转述。)

城市地下隧道:提前两个月说出的拥堵论(The Boring Company)

被调侃“在华盛顿特区地下挖隧道”时,他给出了两个月后才在 TED 上公开讲的三维隧道论证。这里是本 wiki 中最早有日期可考的版本:

“the solution to urban congestion is a network of tunnels under cities.” ↗

“解决城市拥堵的办法,是在城市地下修一张隧道网。”

“I mean tunnels that go many levels deep.” ↗

“我说的是往下很多层的隧道。”

“Like, the deepest mines are deeper than the tallest buildings.” ↗

“比如说,最深的矿井比最高的楼还要深。”

这就是 TED2017 上“最深的矿井比最高的楼高得多……用三维隧道网络可以缓解任意程度的城市拥堵”这一论点的雏形:深度实际上没有上限,所以解决拥堵的办法也没有上限。(他强调要有很多层,“20、30、40、50 层”,也强调挑战在于建得又快、又便宜、又安全;这些横跨几条字幕,只作转述。)

自动化、全民基本收入,以及“那人们还怎么找到意义?”(可持续的富足)

这是整场对谈中最有特色的一组内容,也是本 wiki 中最早完整出现的这条链条:自动化取代劳动,于是需要全民基本收入,接着是意义的危机。他预测自动驾驶和机器人会带来大规模失业,然后说出了政策上的结论:

“And I think ultimately will have to have some kind of universal basic income” ↗

“我认为最终我们将不得不实行某种全民基本收入。”

“There will be fewer and fewer jobs that a robot cannot do better.” ↗

“机器人做不好的工作会越来越少。”

和他后来几年谈这条线索时一样,他很小心地强调这是预测,不是愿望:

“And I want to be clear, these are not things that I wish would happen.” ↗

“我想说清楚,这些不是我希望发生的事。”

“These are simply things that I think probably will happen.” ↗

“这些只是我认为很可能会发生的事。”

他设想的终点是富足。这是 2025 年宏图计划里的那个词,而在 2017 年就已经出现:

“there will come abundance.” ↗

“富足会到来。”

然后是与思想最相关的一步:他点出了经济问题底下那个更难的问题,也就是直到 2024–2025 年他仍悬而未决的意义问题:

“is how do people then have meaning?” ↗

“……是那人们还怎么找到意义?”

2021 年的“工作将变成可选项”加全民基本收入,以及2025 年的“工作将是可选的……全民高收入”,这条线索在 2017 年就已完全成形:自动化是原因,全民基本收入是必需,富足是好处,而“你会不会觉得自己没用?”是他解决不了的遗留问题。语气说明: 他给出的失业数字(“全世界大约 12% 到 15% 的劳动力会失业”,↗)和关于全民基本收入的主张,都是他对有争议问题的预测,记为他的看法,而非事实。

“我们已经是赛博格了”、数字幽灵,以及带宽上的融合(与 AI 融合、人机共生、边缘系统与皮层模型)

被问到下一次颠覆会走向何方时,他重申了“已经是赛博格”的论点,这是 2016 年那个说法在 2017 年 2 月的版本:

“To some degree, we are already a cyborg.” ↗

“在某种程度上,我们已经是赛博格了。”

他描绘了分层的心智:边缘系统、皮层,以及“作为第三层的数字自我”(转述;这几层横跨好几条字幕)。他还用一个后来的来源里不再出现的意象,来说明数字层是持久的:

“their digital ghost is still around.” ↗

“他们的数字幽灵还在。”

发展方向是更深的融合,而瓶颈在带宽。这就是带宽论证,配上他最出名的那笔算术:

“a closer merger of biological intelligence and digital intelligence.” ↗

“生物智能与数字智能更紧密的融合。”

“A computer can communicate at a trillion bits per second, but your thumb can maybe do maybe 10 bits per second or a hundred” ↗

“电脑的通信速度能达到每秒一万亿比特,而你的拇指大概,大概每秒 10 比特,或者一百比特。”

结论是:高带宽的脑接口能实现共生,而且(很能说明问题的是)还能应对 AI 的控制问题。

“So, some high bandwidth interface to the brain I think will be something that helps achieve symbiosis,” ↗

“所以,我认为某种与大脑相连的高带宽接口,会有助于实现共生。”

他在收尾时点明了共生要解决的是什么:“控制问题和有用性问题”(转述;这句话延续到了下一条字幕)。这就是2016 年的“不再是一只家猫”、“AI 与人类的共生体……我们作为一个集体就是 AI”的论证,以及2024 年“每秒不到一比特……就像在和一棵树说话”的算术,在 2017 年由这里连接起来。它比2018 年的“细吸管”版本早一年,比 #438 里的量化表述早七年;“每秒一万亿比特”对拇指的“每秒 10 比特”,就是同一个吞吐量差距的早期版本。

以物理学为框架,以及“永远……在某种程度上是错的”(第一性原理)

被请求给年轻人一些建议时,他说出了自己的思维框架,以及框架底下的认知纪律:

“I’d recommend studying the thinking process around physics.” ↗

“我建议学习物理学的那套思维过程。”

“the way of thinking in physics, it’s the best framework” ↗

“物理学的思维方式,是最好的框架。”

他说这套框架教会人的习惯,是把自己的信念当作暂定的;他还点名警告了一种失败模式:

“always take the position that you are to some degree wrong, and your goal is to be less wrong over time.” ↗

“永远假定自己在某种程度上是错的,而你的目标是随着时间推移错得越来越少。”

“One of the biggest mistakes people generally make and I’m guilty of it too is wishful thinking.” ↗

“人们普遍会犯的最大错误之一,我自己也犯过,就是一厢情愿。”

“You ignore the real truth, because of what you want to be true.” ↗

“因为你希望某件事是真的,你就无视了真正的事实。”

还有他在本 wiki 各处反复重申的纠错反馈规则:向朋友要坏消息,因为他们不会主动告诉你。

“And solicit critical feedback, particularly from friends.” ↗

“还要主动征求批评性的反馈,尤其是来自朋友的。”

这是物理学即框架的信条,配上“随着时间推移错得越来越少”、反对一厢情愿的纪律。2013 年 TED上那句“主动征求负面反馈,尤其是来自朋友的”,以及2019 年关于纠错反馈回路的说法,讲的也是这一点;这里是他 2017 年 2 月以给年轻人提建议的口吻说出来的。(在同一场访谈的前面,他还提到,维持住纠错反馈回路,“即使别人不会……恰好告诉你你想听的话”,是他最大的挑战之一。转述,横跨多条字幕。)

可持续能源使命,以及电力需求的后果(可持续能源使命)

作为给各国政府的三条建议中的第二条,他重申了可持续交通与能源的使命,并推导出一个具体的第一性原理后果:电气化会让电力需求翻三倍。

“which means that the demand for electricity will probably triple.” ↗

“这意味着电力需求很可能会增加到三倍。”

这和2013 年 TED上“本世纪我们必须解决的最大问题”是同一个使命。在 2017 年,它被列为他给官员的三条建议中的第二条,而电力需求的算术,则是他由此推出的第一性原理后果。

关联页面(涉及的页面)

  • 提出正确的问题——补充了“弄清楚该问什么问题”这一说法最早有日期可考的版本(2017 年 2 月),与童年时关于生命意义的疑问联系在一起,比2021 年的口头版本早四年。
  • 好奇心与求真——补充了 2017 年“扩大人类意识的范围和规模……就越能问好这些问题”的信条,这是本 wiki 中扩大意识这一哲学最早的实例,早于 2021 年和 2023 年的表述。
  • 火星殖民——补充了 2017 年“整个生命的人寿保险”的保险说法,以及两种未来的对照。
  • 人类的光明未来——补充了 2017 年“冒险精神”、“早上起床的理由”、“让生活值得过下去”的激励说法,这是比 TED2017 早两个月说出的积极一面。
  • 模拟假说——补充了 2017 年 2 月对“从《乒乓》到照片级逼真的游戏,再到我们是不是就在某个这样的游戏里”这一论证的重申,介于 2016 年 Code 大会版本和 2018 年罗根节目的浓缩版之间。
  • 自动驾驶——补充了 2017 年“大约 10 年内完全自动驾驶”的时间预测,以及坐进车就像走进电梯的类比。
  • AI 生存风险——补充了 2017 年“深度”或通用 AI 是“一种危险的局面”、把数字超级智能比作外星人,以及政府要密切关注的监管建议。
  • The Boring Company——补充了 2017 年 2 月城市地下隧道、“最深的矿井比最高的楼还要深”的拥堵论,比 TED2017 的公开亮相早两个月。
  • 可持续的富足——补充了本 wiki 中最早的“自动化、全民基本收入、富足,再到‘那人们还怎么找到意义?’”这条链条(2017 年),这是 2021 年和 2025 年的来源所展开的后工作时代线索的早期实例。
  • 与 AI 融合——补充了 2017 年“在某种程度上,我们已经是赛博格了”、“数字幽灵”,以及生物与数字更紧密融合的说法。
  • 人机共生——补充了 2017 年的带宽算术(“每秒一万亿比特”对拇指的“每秒 10 比特”),以及高带宽接口即共生、并点明控制问题和有用性问题的论证。
  • 边缘系统与皮层模型——补充了 2017 年边缘系统、皮层、“作为第三层的数字自我”的表述,这是三层模型的早期形态。
  • 第一性原理——补充了 2017 年“物理学的思维过程”这一框架、“永远……在某种程度上是错的……随着时间推移错得越来越少”的纪律、一厢情愿的陷阱,以及“主动征求批评性的反馈,尤其是来自朋友的”这条规则。
  • 可持续能源使命——补充了 2017 年关于可持续交通与能源的建议,以及电力需求将翻三倍的后果。
  • 埃隆·马斯克——补充了“2017 年世界政府峰会透露了什么”一节,串起了关于意义与意识的信条、多行星的激励论证、模拟论证、AI 风险与监管建议、自动化与全民基本收入及意义的链条、赛博格与带宽的融合、以物理学为框架并反对一厢情愿的建议,以及他招人和判断解决问题能力的经验法则(“给我讲讲你的人生故事”,再通过细节的深度来核实对方是否真正解决过问题)。这是本 wiki 在这些线索上最早的 2017 年基线。