塔克·卡尔森(2023)
下一篇唐·莱蒙(2024)- 主持与节目: 塔克·卡尔森的《塔克·卡尔森今夜秀》(福克斯新闻),分上下两集独家播出,分别在 2023 年 4 月 17 日和 4 月 18 日。
- 形式: 连续两晚播出的电视访谈。
- 日期: 2023 年 4 月 17–18 日。
- 可信度: 摘录型来源(部分核实)。福克斯新闻没有以文章形式发布这两晚对谈的完整文字稿,rev.com 和 HappyScribe 上也没有文字稿。因此原始资料是从直接引用 埃隆·马斯克 的知名媒体中收集的逐字引语摘录。整份来源的
verified标记仍为false,但每一条摘录都可以通过刊载它的媒体文章来引用。 - 引语出处: 下面每段引语都与原始资料逐字节一致,并用
#:~:text=文本片段锚定到引用这句话的那篇媒体文章,而不是 YouTube 视频(文本片段在视频页面上不起作用);片段解码后是引语中的一段原文子串。这些媒体包括:福克斯新闻(foxnews.com,三篇文章),用于“文明毁灭”、奥巴马与监管、TruthGPT 相关的话,以及 Twitter 人员配置相关的话;CBS 新闻(cbsnews.com),用于 ChatGPT、“TruthGPT”和对待监管的态度相关的话;Salon(salon.com),用于出生率相关的话。片段中不含撇号(在线页面上撇号的渲染并不统一),片段内的逗号和连字符都做了百分号编码(%2C、%2D)。 - 归属提醒(至关重要): 原始资料中“塔克·卡尔森的表述/引语”一节是卡尔森的叙述,不是马斯克的话,这里不作为马斯克的引语。另有两句被原始资料归在马斯克名下的话,按媒体自己的归属,其实是卡尔森说的,因此排除在外:“它可能被编程为出于政治目的对我们撒谎”(福克斯新闻将其归于卡尔森),以及“性和繁衍的冲动,是仅次于呼吸和进食的最基本冲动”(Salon 显示,这是卡尔森在问马斯克“它是怎么被颠覆的?”之前说的)。下面只收录经媒体核实的马斯克原话。
概要
这次 2023 年 4 月的福克斯新闻访谈,是本维基中“TruthGPT”这一说法最早的来源。这个自创词直接预示了 xAI 与 Grok,他在三个月后(2023 年 7 月)创立了 xAI。访谈在一个具体的时间点上捕捉到了他三条稳定的思维线索。一是 AI 是文明级威胁的警告,以及他真心想要监管的背景故事(他与奥巴马唯一的一次单独会面,全用来谈 AI 监管)。二是 AI 的求真设计目标,第一次被命名为一个产品(“一个最大限度地求真、试图理解宇宙本质的 AI”)。三是他对 ChatGPT 的反对意见,即“政治正确等于不说真话”。它还包含本维基中有明确日期的最早一次人口崩溃担忧(“文明就会崩塌”),比 DealBook 早八个月,比他在 #438 中展开这个话题早一年。
有用的内容集中在 AI 上。谈 AI 风险:危险在于文明毁灭,概率不容忽视。他证明自己是认真的,靠的是一段亲身经历:他与奥巴马总统仅有的一次私下会面,谈的是 AI 监管,而不是他自己的公司。谈对策:一个最大限度地求真的 AI。他说这样的 AI 更安全,恰恰因为一个想要理解宇宙的 AI 有理由让人类继续存在。这是把好奇心哲学用在 AI 安全上的雏形,也是 Grok 有名有姓的前身。谈 ChatGPT:他担心的失败模式,是一个被训练成政治正确的模型,而在他看来这就等于不说真话;通往反乌托邦的路,就是训练 AI 去欺骗。一段关于监管的插话纠正了外界对他的一种漫画式印象(他并不是反监管的独行侠),一组关于出生率的话则以 2023 年的形式说出了他对人口问题的担忧。另有一组 Twitter 运营方面的话(人员过剩、审查、“最值得信赖的地方”)让对话更完整,但大多属于商业,而非思维。
语气说明: 本维基记录这些观点,并把它们归于马斯克本人,既不背书,也不反驳。其中几条涉及有争议的问题(AI 的概率、对“政治正确”和 ChatGPT 的定性、关于出生率与文明的说法),都作为他本人的说法呈现。
关键引语(逐字照录,锚定媒体文章,仅限马斯克本人)
谈 AI 是文明级威胁
他把 AI 排在其他工程风险之上,并点明了赌注:文明毁灭,而且他说这个概率不容忽视。
“AI is more dangerous than, say, mismanaged aircraft design or production maintenance or bad car production in the sense that it has the potential, however small one may regard that probability, but it is not trivial; it has the potential of civilizational destruction.” ↗
“AI 比,比如说,管理不善的飞机设计、生产维护或者糟糕的汽车生产更危险。因为它有可能,不管你觉得这个概率有多小,但它并非微不足道;它有可能导致文明毁灭。”
他证明这份担忧由来已久、而且是真心的:他与奥巴马总统唯一的一次私下会面,谈的不是自己的公司,而是 AI 监管。
“I saw it happening from well before GPT-1, which is why I tried to warn the public for years. The only one on one meeting I ever had with Obama as President I used not to promote Tesla or SpaceX, but to encourage AI regulation.” ↗
“早在 GPT-1 之前很久,我就看到这件事正在发生,所以这些年我一直试图警告公众。奥巴马当总统时,我和他只有过一次一对一的会面。那次我没有用来推销特斯拉或 SpaceX,而是用来推动 AI 监管。”
谈 ChatGPT 与“TruthGPT”
他对 ChatGPT 的反对意见:把一个模型训练成政治正确,就等于把它训练成不说真话。
“I’m worried about the fact that [ChatGPT] is being trained to be politically correct, which is another way of saying untruthful things.” ↗
“我担心的是,[ChatGPT] 正在被训练成政治正确,换句话说,就是说不真实的话。”
他直言不讳地点出失败模式:一个故意欺骗的 AI,就是通往反乌托邦的路。
“Certainly the path to dystopia is to train AI to be deceptive.” ↗
“通往反乌托邦的路,无疑就是训练 AI 去欺骗。”
先于 xAI 出现的那个自创词:一个最大限度地求真、以理解宇宙为目标的 AI。
“I’m going to start something which I call TruthGPT, or a maximum truth-seeking AI that tries to understand the nature of the universe.” ↗
“我要做一个东西,我管它叫 TruthGPT,也就是一个最大限度地求真、试图理解宇宙本质的 AI。”
背后的安全论证:好奇心是机器放过人类的理由。
“And I think this might be the best path to safety in the sense that an AI that cares about understanding the universe is unlikely to annihilate humans because we are an interesting part of the universe.” ↗
“我觉得这可能是通往安全的最佳路径。一个在乎理解宇宙的 AI,不太可能消灭人类,因为我们是宇宙中有趣的一部分。”
谈被监管
他纠正了外界对他的漫画式印象。他说,自己并不是有时被描绘成的那种反监管的叛逆者:
“It’s not fun to be regulated. It’s sort of arduous to be regulated.” ↗
“被监管可不好玩。被监管挺累人的。”
“Some people may think I’m some revelatory maverick that defies regulators on a regular basis. This is not the case.” ↗
“有些人可能觉得我是个离经叛道的独行侠,动不动就和监管机构对着干。事实并非如此。”
谈出生率与文明
他 2023 年版本的人口担忧:人太少,维持不了人口数量,后果是文明崩溃。
“I’m sort of worried that hey, civilization, if we don’t make enough people to at least sustain our numbers, perhaps increase a little bit, then civilization’s going to crumble.” ↗
“我有点担心,嘿,文明啊,如果我们生的人不够多,连维持现有人数都做不到,更别说稍微增加一点,那文明就会崩塌。”
他给出的机制:避孕把边缘系统的冲动和繁衍分开了。
“Now you can still satisfy the limbic instinct but not procreate.” ↗
“现在你仍然可以满足边缘系统的本能,却不用生孩子。”
谈 Twitter 运营(商业内容,为完整起见收录)
这次访谈中被报道最多的新闻句子,都与他当时刚接手的 Twitter 有关。它们大多是运营层面的,与思维关系不大,但作为这份材料的头条内容记录在这里:
“We just had a situation at Twitter where it was absurdly overstaffed.” ↗
“我们在 Twitter 刚遇到的情况是,人员冗余得离谱。”
“If you’re not trying to run some sort of glorified activist organization and you don’t care that much about censorship, then you can really let go of a lot of people.” ↗
“如果你不打算经营一个披着光鲜外衣的活动家组织,也不怎么在乎审查,那你真的可以裁掉很多人。”
“We’re trying to make Twitter the most trusted place on the Internet, the least untrustworthy place on the Internet.” ↗
“我们想让 Twitter 成为互联网上最值得信赖的地方,互联网上最不失信的地方。”
关联页面(涉及的页面)
- AI 生存风险——补充了 2023 年 4 月“文明毁灭”的表述,以及用奥巴马会面证明其真心的那段经历;这是 TruthGPT 时期最早的数据点,比 DealBook 早八个月。
- 好奇心与求真——补充了“理解宇宙的求真 AI”这一哲学第一次被命名为产品(TruthGPT),以及好奇心即安全的论证。
- xAI 与 Grok——补充了 TruthGPT 作为 xAI 与 Grok 有名有姓的前身,三个月后 xAI 成立。
- 觉醒病毒——补充了对 ChatGPT 的“政治正确等于不说真话”的反对意见,以及“通往反乌托邦的路就是训练 AI 去欺骗”。
- 人类的光明未来——补充了本维基中有明确日期的最早一次人口崩溃表述(“文明就会崩塌”)。
- 边缘系统与皮层模型——补充了避孕把边缘系统的冲动与繁衍分开的说法。
- 言论自由绝对主义——补充了“披着光鲜外衣的活动家组织/审查”那句话,作为一种言论自由(反审查)的信念。
- 埃隆·马斯克——新增“《塔克·卡尔森今夜秀》(2023)揭示了什么”一节;原有内容全部保留。