最大化有用性
下一篇AI 生存风险被问到年轻人该怎么决定做什么时,马斯克没有搬出什么使命,而是给了一道算术题:把有用性最大化,也就是你带来的改进有多大,乘以它能惠及多少人。他在 2016 年 Y Combinator 的对谈里讲了这个道理,它是那些宏大使命底下的规则。一个项目要值得他投入精力,首先得过这一关。
规则本身
被追问一个人该怎样找到自己最有用的位置,马斯克给出的几乎是一个公式:每人受益的程度,乘以受益人数。
“Whatever this thing is that you’re trying to create, what would be the utility delta compared to the current state of the art times how many people it would affect.” ↗
“不管你想做的是什么,看它相对于现有最好水平的效用增量有多大,再乘以它会影响多少人。”
他把这想象成曲线下的面积。给少数人带来巨大改进,和给极多的人带来微小改进,得分可能差不多:
“Area under the curve would actually be roughly similar for those two things, so it’s actually really about trying to be useful.” ↗
“这两种情况的曲线下面积其实差不多,所以说到底,关键就是努力做个有用的人。”
这条规则还特意给小事留了位置。不需要改变世界的雄心,一点点好处只要铺得够广,就够格:
“Stuff doesn’t need to change the world to be good.” ↗
“一件事不需要改变世界才算好。”
“if it has a small amount of good for a large number of people, that’s fine.” ↗
“如果它能给很多人带来一点点好处,那就挺好。”
他说,这也是他年轻时给自己定的优化目标。不是名望,甚至不是改变世界的规模,只是有用:
“That’s the optimization, what can I do that would actually be useful?” ↗
“这就是我优化的东西:我能做点什么真正有用的事?”
2021 年:“你贡献的比你消耗的多吗?”
五年后,在 2021 年与莱克斯·弗里德曼的对谈(#252)里,同一条规则又以给年轻人的建议出现,被浓缩成一个会计式的问题。被问到想产生巨大正面影响的人该怎么做,马斯克跳过了雄心,直接给出规则:
“Try to be useful. Do things that are useful to your fellow human beings, to the world.” ↗
“努力做个有用的人。做些对你的同胞、对这个世界有用的事。”
这就是“效用增量乘以受影响人数”缩成了一句话,一本记录你投入多少、索取多少的个人账本:
“Are you contributing more than you consume?” ↗
“你贡献的比你消耗的多吗?”
同一场对谈还给出了这条规则底下的经济学。他断然否认蛋糕是固定的:
“If the pie is fixed, then the only way to have more pie is to take someone else’s pie. But this is false.” ↗
“如果蛋糕是固定的,那想多分蛋糕的唯一办法就是拿走别人的那份。但这是错的。”
他由此把很多恶劣行为,哪怕是非常聪明的人的恶劣行为,都归结到这个未经审视的零和假设上,并开出相反的药方:“把蛋糕做大”,创造的比消耗的多。(他没有用一句干净利落的话说出来;这个想法贯穿了2021 年那场谈话的很长一段,所以这里的措辞是转述,不是引文。)这是把 2016 年的“曲线下面积”变成了一套道德经济学。有用性就是净正向贡献,该做的是把整体做大,而不是争抢固定的一份。
2024 年:“时间才是真正的货币”
到了 2024 年与莱克斯·弗里德曼的对谈(#438),这条规则换了对象。过去它用来挑选开始哪个项目,现在它用来衡量他自己的成功,而且他直接点出了那项稀缺的投入。被问到他在优化什么,他用产出量来回答,也就是他能完成多少有用的事,并把它归结为一种货币:
“Well, time is the true currency.” ↗
“嗯,时间才是真正的货币。”
这是把 2016 年的“曲线下面积”对准了他自己。有用性仍然是影响乘以覆盖面,但现在它是有限一生里累积起来的有用产出。这条曲线有了一个硬性的右边界,就是他生命的终点,所以他按剩余时间的百分比来计算,而不是按绝对量。驱动他那种惊人工作强度的,也是同一套算术:每浪费一个小时,就是从总量里切掉一块,再也拿不回来。规则还是 2016 年那条,2024 年的谈话补上的是分母:时间。
这说明了什么
- 这是一条量化的决策规则,不是口号。 “效用增量乘以受影响人数”本质上是一次第一性原理操作:把“我该做什么?”这个模糊的问题,变成两个可以实际估算的量的乘积。那些宏大的文明级使命,不过是两个因子都大得惊人的情形。
- 它把“有用”和“改变世界”分开了。 人们总以为马斯克只看得起文明级的工作。他在这里明明白白说了相反的话:规模很大的小改进也是真正的好事。那些使命是算出来的,不是出于对普通工作的轻视。
- 它把影响重新理解为产出量。 同样的直觉后来也出现在他说自己优化什么的时候,也就是他能完成多少有用的事;还出现在他对人才被用在低影响问题上的不屑里。衡量单位始终是有用产出,对人数求积分。
- 它是其他一切的上游过滤器。 AI 方面的工作、能源使命、物种层面的押注,最初都是这道测试选出来的。每一个都是影响乘以覆盖面达到最大值的地方。
相关
- 第一性原理——把“我该做什么?”变成一个可估算的乘积。
- 工作强度——有用性后来被重述为产出量:能完成多少有用的事。
- 人才错配——反面:人才被放在曲线下面积很小的地方。
- 提出正确的问题——在寻找任何答案之前,先把有用性当作该优化的正确问题。
- 人类的光明未来 · AI 生存风险 · 可持续能源使命——这条规则选出来的使命。
- 实体:埃隆·马斯克 · 萨姆·奥尔特曼
- 来源:Y Combinator(2016) · 莱克斯·弗里德曼 #252(2021) · 莱克斯·弗里德曼 #438(2024)