塔克·卡尔森（2023）

• 主持与节目： 塔克·卡尔森的《塔克·卡尔森今夜秀》（福克斯新闻），分上下两集独家播出，分别在 2023 年 4 月 17 日和 4 月 18 日。
• 形式： 连续两晚播出的电视访谈。
• 日期： 2023 年 4 月 17–18 日。
• 可信度： 摘录型来源（部分核实）。福克斯新闻从未以文章形式发布这两晚对谈的完整文字稿，rev.com 和 HappyScribe 上也没有文字稿。所以来源是一组逐字摘录，取自直接引用 埃隆·马斯克 原话的知名媒体。每条摘录都可以通过刊载它的媒体文章来引用。
• 引语： 每段都链接到刊载它的媒体文章，而不是 YouTube 视频。福克斯新闻（三篇文章）刊载了“文明毁灭”、奥巴马与监管、TruthGPT 相关的话，以及 Twitter 人员配置相关的话；CBS 新闻刊载了 ChatGPT、“TruthGPT”和对待监管的态度相关的话；Salon 刊载了出生率相关的话。
• 归属提醒： 来源里“塔克·卡尔森的表述／引语”一节是卡尔森的叙述，不是马斯克的话，这里不作为马斯克的引语。另有两句被来源归在马斯克名下的话，按媒体自己的归属，其实是卡尔森说的，因此排除在外：“它可能被编程为出于政治目的对我们撒谎”（福克斯新闻将其归于卡尔森），以及“性和繁衍的冲动，是仅次于呼吸和进食的最基本冲动”（Salon 显示，这是卡尔森说的，随后他问马斯克“它是怎么被颠覆的？”）。下面只收录经媒体核实的马斯克原话。

概要

这次 2023 年 4 月的对谈，是这里收集的来源中最早出现“TruthGPT”一词的，比他在 2023 年 7 月创立 xAI 与 Grok 早三个月。他长期坚持的三条思路在这里同时浮现。一是 AI 是文明级威胁的警告，还配了一个他用来证明自己真心的故事：他与奥巴马唯一的一次私下会面，全用来谈 AI 监管。二是 AI 的求真设计目标，第一次被命名为一个产品：“一个最大限度地求真、试图理解宇宙本质的 AI”。三是他对 ChatGPT 的反对意见，即“政治正确等于不说真话”。他还说出了现有资料中他最早有明确日期的人口崩溃担忧，“文明就会崩塌”，比 DealBook 早八个月，比他在 #438 中展开这个话题早一年。

这里几乎所有要紧的内容都围绕 AI。谈风险：危险在于文明毁灭，他坚称这个概率不容忽视。他拿出的证据是亲身经历：与奥巴马那唯一一次会面，谈的是监管，而不是特斯拉或 SpaceX。谈对策：一个最大限度地求真的 AI。他说这样的 AI 更安全，因为一台想要理解宇宙的机器有理由让人类继续存在。这是把好奇心哲学转向 AI 安全，也是 Grok 有名有姓的前身。谈 ChatGPT：他担心的失败，是一个被训练成“政治正确”的模型，而在他看来这就等于让它撒谎；他说，通往反乌托邦的路，就是教 AI 去欺骗。一段关于监管的插话，反驳了外界对他的漫画式印象：他说自己并不是反监管的独行侠。一段关于出生率的对话，以 2023 年的形式说出了他对人口的担忧。另有一组 Twitter 方面的话（人员过剩、审查、“最值得信赖的地方”）让对话更完整，但那部分是商业，不是思维。

其中几条说法涉及有争议的问题：AI 的概率，对 ChatGPT“政治正确”的解读，以及出生率与文明的论证。

关键引语

谈 AI 是文明级威胁

他把 AI 排在他熟悉的其他工程风险之上，并直白地点明了赌注。他说，概率也许不大，但并非微不足道，而面临风险的是文明毁灭：

“AI is more dangerous than, say, mismanaged aircraft design or production maintenance or bad car production in the sense that it has the potential, however small one may regard that probability, but it is not trivial; it has the potential of civilizational destruction.” ↗

“AI 比，比如说，管理不善的飞机设计、生产维护或者糟糕的汽车生产更危险。因为它有可能，不管你觉得这个概率有多小，但它并非微不足道；它有可能导致文明毁灭。”

为了证明这份担忧由来已久、而且是真心的，他搬出了自己与奥巴马总统唯一的一次私下会面。那次他谈的不是自己的公司，而是 AI 监管：

“I saw it happening from well before GPT-1, which is why I tried to warn the public for years. The only one on one meeting I ever had with Obama as President I used not to promote Tesla or SpaceX, but to encourage AI regulation.” ↗

“早在 GPT-1 之前很久，我就看到这件事正在发生，所以这些年我一直试图警告公众。奥巴马当总统时，我和他只有过一次一对一的会面。那次我没有用来推销特斯拉或 SpaceX，而是用来推动 AI 监管。”

谈 ChatGPT 与“TruthGPT”

他对 ChatGPT 的反对意见是：把一个模型训练成政治正确，就等于把它训练成不说真话：

“I’m worried about the fact that [ChatGPT] is being trained to be politically correct, which is another way of saying untruthful things.” ↗

“我担心的是，[ChatGPT] 正在被训练成政治正确，换句话说，就是说不真实的话。”

他直言不讳地点出这种失败：一个故意欺骗的 AI，就是通往反乌托邦的路：

“Certainly the path to dystopia is to train AI to be deceptive.” ↗

“通往反乌托邦的路，无疑就是训练 AI 去欺骗。”

接着是先于 xAI 出现的那个自创词：一个最大限度地求真、以理解宇宙为目标的 AI：

“I’m going to start something which I call TruthGPT, or a maximum truth-seeking AI that tries to understand the nature of the universe.” ↗

“我要做一个东西，我管它叫 TruthGPT，也就是一个最大限度地求真、试图理解宇宙本质的 AI。”

背后的安全论证：好奇心是机器放过人类的理由：

“And I think this might be the best path to safety in the sense that an AI that cares about understanding the universe is unlikely to annihilate humans because we are an interesting part of the universe.” ↗

“我觉得这可能是通往安全的最佳路径。一个在乎理解宇宙的 AI，不太可能消灭人类，因为我们是宇宙中有趣的一部分。”

谈被监管

他纠正了外界对他的漫画式印象。他说，自己并不是人们描绘的那种反监管的叛逆者：

“It’s not fun to be regulated. It’s sort of arduous to be regulated.” ↗

“被监管可不好玩。被监管挺累人的。”

“Some people may think I’m some revelatory maverick that defies regulators on a regular basis. This is not the case.” ↗

“有些人可能觉得我是个离经叛道的独行侠，动不动就和监管机构对着干。事实并非如此。”

谈出生率与文明

他 2023 年版本的人口担忧：人太少，维持不了人口数量，而这条路的尽头是文明崩溃：

“I’m sort of worried that hey, civilization, if we don’t make enough people to at least sustain our numbers, perhaps increase a little bit, then civilization’s going to crumble.” ↗

“我有点担心，嘿，文明啊，如果我们生的人不够多，连维持现有人数都做不到，更别说稍微增加一点，那文明就会崩塌。”

他给出的机制是避孕：它把边缘系统的冲动和繁衍分开了：

“Now you can still satisfy the limbic instinct but not procreate.” ↗

“现在你仍然可以满足边缘系统的本能，却不用生孩子。”

谈 Twitter 运营（商业内容，为完整起见收录）

媒体报道最多的，是关于他当时刚接手的 Twitter 的话。它们大多是运营层面的，看不太出他怎么思考，但它们是这次访谈的头条新闻，所以收在这里：

“We just had a situation at Twitter where it was absurdly overstaffed.” ↗

“我们在 Twitter 刚遇到的情况是，人员冗余得离谱。”

“If you’re not trying to run some sort of glorified activist organization and you don’t care that much about censorship, then you can really let go of a lot of people.” ↗

“如果你不打算经营一个披着光鲜外衣的活动家组织，也不怎么在乎审查，那你真的可以裁掉很多人。”

“We’re trying to make Twitter the most trusted place on the Internet, the least untrustworthy place on the Internet.” ↗

“我们想让 Twitter 成为互联网上最值得信赖的地方，互联网上最不失信的地方。”

关联（涉及的页面）

• AI 生存风险——2023 年 4 月“文明毁灭”的表述，以及他用来证明真心的奥巴马会面；这是这里最早的 TruthGPT 时期数据点，比 DealBook 早八个月。
• 好奇心与求真——“理解宇宙的求真 AI”这一哲学第一次被命名为产品（TruthGPT），以及好奇心即安全的论证。
• xAI 与 Grok——TruthGPT 作为 xAI 与 Grok 有名有姓的前身，三个月后 xAI 成立。
• 觉醒病毒——对 ChatGPT 的“政治正确等于不说真话”的反对意见，以及“通往反乌托邦的路就是训练 AI 去欺骗”。
• 人类的光明未来——这些来源中有明确日期的最早一次人口崩溃表述（“文明就会崩塌”）。
• 边缘系统与皮层模型——避孕把边缘系统的冲动与繁衍分开。
• 言论自由绝对主义——“披着光鲜外衣的活动家组织／审查”那句话，读作一种反审查、支持言论自由的信念。
• 埃隆·马斯克——新增“塔克·卡尔森今夜秀（2023）：AI 立场，被命名为一款产品”一节。