Y Combinator（2016）
下一篇埃隆·马斯克- 采访者： 萨姆·奥尔特曼（时任 YC Group 总裁），为《如何打造未来》系列所做。
- 形式： 拍摄的对谈兼播客，约 21 分钟。
- 日期： 2016 年 9 月 15 日。
- 可信度： 已核实（一级来源）。Y Combinator 官方博客发布的文字稿带有时间戳。
- 引语： 取自 Y Combinator 官方文字稿。采访者是 萨姆·奥尔特曼，这里只引用 埃隆·马斯克 的话，奥尔特曼的话一句也没有安到马斯克头上。
概要
二十一分钟，几乎没有一句废话。埃隆·马斯克 和萨姆·奥尔特曼坐下来聊的时候，刚联合创办 OpenAI（照他的说法，是一家“成立六个月的公司”），又即将创办 Neuralink。这里收集的后来那些更长的来源所展开的主题，几乎每一个都已经以浓缩的形式出现在这里。所以这场采访是一个清楚的早期标记，可以用来看他之后的想法怎么变化。
精华集中在四处。谈该做什么，他给出了早年对有用性检验最清楚的表述，即“曲线下的面积”：效用增量乘以受影响的人数。他还给文明的优先事项排了序：AI 第一，其次是遗传学，然后是脑机接口。谈 AI，他说这是近期最大的单一风险，并讲明了 2016 年的解决办法：让技术扩散开来，不让任何一方独掌（让它民主化）。这正是他给出的联合创办 OpenAI 的理由。后来这家实验室转向闭源和营利，他满是怨气，前后对比一目了然。谈大脑，他说人类“受带宽限制”，并勾勒出AI 与人类的共生体，也就是后来成为 Neuralink 的高带宽神经接口。说这话时，公司还要再过一年才公开。谈心理，他坦白说自己会害怕：恐惧感“相当强烈”，他靠宿命论（接受胜算）来减轻它，然后照做不误。底下还有一种关于熵的文明观：技术只有在人们拼命去改进时才会进步。
关键引语
该做什么：有用胜过改变世界
他的开场：检验标准是有用，而不是宏大；哪怕是一点小小的好处，只要传播得广，也算数。
“Stuff doesn’t need to change the world to be good.” ↗
“一样东西不一定要改变世界才算好。”
他说自己年轻时就是按这条法则来做优化的：
“That’s the optimization, what can I do that would actually be useful?” ↗
“这就是我优化的目标：我能做点什么，是真正有用的？”
背后的公式，是每个人得到的影响乘以覆盖面：
“Whatever this thing is that you’re trying to create, what would be the utility delta compared to the current state of the art times how many people it would affect.” ↗
“不管你想创造的是什么，看它和现有最高水平相比能带来多少效用增量，再乘以它会影响多少人。”
AI 是近期最大的风险
在他给文明优先事项排的序里，AI 排第一：
“But in terms of things that I think are most likely to affect the future of humanity, I think AI is probably the single biggest item in the near term that’s likely to affect humanity.” ↗
“但说到我认为最可能影响人类未来的事情，我觉得 AI 大概是近期内可能影响人类的最大单一因素。”
他为“做对”定的标准，是一个水晶球测试：
“It’s very important that we have the advance of AI in a good way that is something that if you could look into a crystal ball and see the future you would like that outcome.” ↗
“非常重要的是，AI 要以一种好的方式发展，好到如果你能看进水晶球、看到未来，你会喜欢那个结果。”
他 2016 年开出的药方，是让技术扩散开来，不让任何单一方掌控：
“is that we achieve democratization of AI technology, meaning that no one company or small set of individuals has control over advanced AI technology.” ↗
“就是我们要实现 AI 技术的民主化，也就是说，没有哪一家公司或一小撮人能掌控先进的 AI 技术。”
照他的说法，OpenAI 存在的理由是把生存风险降到最低：
“I think people really believe in the mission. I think it’s important and it’s about minimizing the risk of existential harm in the future.” ↗
“我觉得大家是真心相信这个使命。我认为它很重要，它关乎把未来危及人类存续的风险降到最低。”
大脑是个带宽问题：Neuralink 的种子
比这里收集的大多数来源早好几年，他就已经说人受带宽限制：
“I think having a high bandwidth interface to the brain, we’re currently bandwidth limited.” ↗
“我觉得要有一个连接大脑的高带宽接口。我们现在受带宽限制。”
融合被他勾勒为解决办法，用来打通皮层和机器之间那条慢通道：
“So if we can effectively merge with AI by improving the neural link between your cortex and the digital extension of yourself, which already exists, it just has a bandwidth issue.” ↗
“所以，如果我们能改进你的皮层和你自己的数字延伸之间的神经连接，就能切实地与 AI 融合。这个数字延伸已经存在了，只是有带宽问题。”
终点是人与 AI 融为一体：
“And then effectively you become an AI human symbiote.” ↗
“然后你实际上就成了一个 AI 与人类的共生体。”
这样一来，控制问题就迎刃而解，因为“我们”和“它”之间的界线被抹掉了：
“We don’t have to worry about some evil dictator AI because we are the AI, collectively.” ↗
“我们不用担心什么邪恶的独裁者 AI，因为我们整体上就是 AI。”
恐惧、宿命论与熵
他说得很明白：别人从他身上看到的无畏，并不是没有恐惧：
“But there are just times when something is important enough, you believe in it enough that you do it in spite of the fear.” ↗
“但有时候，一件事足够重要，你足够相信它，那你就会顶着恐惧去做。”
他说自己的应对办法是宿命论，也就是接受胜算：
“Yeah, you know something that can be helpful is fatalism.” ↗
“是啊，你知道，有一样东西可能会有帮助，就是宿命论。”
具体怎么起作用：
“If you just accept the probabilities, then that diminishes fear.” ↗
“只要你接受了概率，恐惧就会减轻。”
在他看来，技术进步是要跟衰落抗争才能争来的：
“It only gets better if smart people work like crazy to make it better.” ↗
“只有聪明人拼了命去改进，它才会变好。”
他从文明的衰亡中得出的原则：
“So I think, sure, let’s bear in mind that entropy is not on your side.” ↗
“所以我觉得，好吧，咱们得记住：熵可不站在你这边。”
是工程师，不是商人
被问到时间都花在哪里，他首先把自己定位为工程师，并指出工厂才是更难的问题：
“Because the biggest company I’ve had this year is that what really matters is the machine that builds the machine, the factory.” ↗
“因为我今年最大的体会是，真正重要的是制造机器的机器，也就是工厂。”
关联（涉及的页面）
- 埃隆·马斯克——新增“Y Combinator 2016：观点的雏形”一节：有用性法则、AI 民主化的解决办法、早期的大脑带宽与共生体构想、恐惧与宿命论，以及关于熵的文明观。
- 萨姆·奥尔特曼——新建：本次采访者、OpenAI 联合创始人，也是早期 OpenAI 故事里马斯克的主要对应人物。
- 最大化有用性——新建：选择做什么时用的“效用增量 × 受影响人数／曲线下面积”法则。
- AI 生存风险——扩充了 2016 年的立场：AI 是近期最大的风险，民主化是药方，OpenAI 是缓解生存风险的一种办法（与他后来在 #400 中的定论对照）。
- 与 AI 融合——扩充了 2016 年“AI 与人类的共生体”和“我们整体上就是 AI”的说法，这是我们手头融合论的最早表述。
- 人机共生——扩充了 2016 年“受带宽限制”和“通往大脑的高带宽接口”的说法，即他后来带宽论证的种子。
- Neuralink——扩充了公司成立之前（2016 年）对脑机接口构想的表述，这个构想后来成了 Neuralink。
- 对失败的恐惧——扩充了他 2016 年的第一人称自述：恐惧感“相当强烈”，靠宿命论来减轻，然后“顶着恐惧”去做。
- 第一性原理——扩充了关于熵的论证：技术只有在人们拼命去改进时才会进步。