Tucker Carlson (2023)
ДальшеWe, Robot (2024)- Ведущий/площадка: Такер Карлсон в программе Tucker Carlson Tonight (Fox News) — двухсерийный эксклюзив, вышедший в эфир 17 и 18 апреля 2023 года.
- Формат: Двухвечернее телеинтервью.
- Дата: 17–18 апреля 2023 года.
- Уровень доверия: excerpts (частичная проверка). Fox News так и не опубликовал транскрипт двухвечерней беседы в виде статьи, а транскрипта rev.com или HappyScribe не существует. Поэтому источник — это набор дословных фрагментов, взятых из авторитетных изданий, которые цитировали Илон Маск напрямую. Каждый фрагмент можно процитировать через статью издания, которая его привела.
- Цитаты: каждая ведёт на статью издания, которое её привело, а не на видео YouTube. Строки про цивилизационное уничтожение, встречу с Обамой, TruthGPT и штат Twitter взяты из Fox News (три статьи). Строки про ChatGPT, «TruthGPT» и отношение к регулированию взяты из CBS News, а про рождаемость — из Salon.
- Оговорка об атрибуции: раздел источника с подводками и цитатами Карлсона — это повествование Карлсона, а не Маска, и здесь как слова Маска не цитируется. Ещё две строки, которые источник отнёс к Маску, по собственной атрибуции изданий принадлежат Карлсону и потому исключены: «Его можно запрограммировать лгать нам ради политического эффекта» (Fox приписывает это Карлсону) и «Желание заниматься сексом и продолжать род — после дыхания и еды самое базовое желание» (Salon показывает, что это говорит Карлсон, прежде чем спросить Маска: «Как его извратили?»). Блок-цитатами ниже приведены только дословные строки Маска, подтверждённые по изданиям.
Сводка
Эта апрельская беседа 2023 года — самый ранний из собранных здесь источников, где встречается слово «TruthGPT», за три месяца до того, как в июле 2023 года Маск основывает xAI и Grok. Здесь сразу всплывают три его давние линии мысли. Тревога об ИИ как цивилизационной угрозе, подкреплённая историей, которую он подаёт как доказательство искренности: единственная личная встреча с Обамой, которую он потратил на регулирование ИИ. Цель сделать ИИ стремящимся к истине, впервые названная как продукт — «максимально стремящийся к истине ИИ, который пытается понять природу Вселенной». И возражение «политкорректно — значит неправдиво» в адрес ChatGPT. Здесь же он роняет самую раннюю из собранных здесь датированных реплик о коллапсе населения — «цивилизация рухнет», за восемь месяцев до DealBook и за год до того, как разовьёт тему на #438.
Почти всё, что здесь важно, вращается вокруг ИИ. О риске: опасность — это цивилизационное уничтожение с вероятностью, которую он называет нетривиальной. А довод он берёт биографический: ту самую встречу с Обамой, потраченную на регулирование, а не на Tesla или SpaceX. Об ответе: максимально стремящийся к истине ИИ, поданный как более безопасный, потому что у машины, которая хочет понять Вселенную, есть причина сохранить людей. Это философия любопытства, повёрнутая к безопасности ИИ, и названный предшественник Grok. О ChatGPT: пугает его модель, обученная быть «политкорректной», что он считает тем же самым, что научить её лгать; путь к антиутопии, по его словам, лежит через то, чтобы научить ИИ обманывать. Короткая реплика о регулировании отвечает на карикатуру на него самого: он, по его словам, не анти-регуляторный бунтарь. Разговор о рождаемости излагает демографическую тревогу в её форме 2023 года. Череда реплик про Twitter (раздутый штат, цензура, «самое доверенное место») дополняет беседу, но эта часть — про бизнес, а не про ум.
Некоторые из этих утверждений стоят на спорной почве: вероятности по ИИ, прочтение ChatGPT через «политкорректность», довод о рождаемости и цивилизации.
Ключевые цитаты
Об ИИ как цивилизационной угрозе
Он ставит ИИ выше прочих инженерных рисков, которые знает, и прямо называет ставку. Вероятность может быть мала, говорит он, но она не пренебрежима, а на кону — цивилизационное уничтожение:
“AI is more dangerous than, say, mismanaged aircraft design or production maintenance or bad car production in the sense that it has the potential, however small one may regard that probability, but it is not trivial; it has the potential of civilizational destruction.” ↗
«ИИ опаснее, скажем, плохо организованного проектирования самолётов, или техобслуживания производства, или некачественного автопроизводства — в том смысле, что у него есть потенциал, сколь бы малой ни считали эту вероятность, но она не пренебрежимо мала; у него есть потенциал цивилизационного уничтожения.»
Чтобы показать, что тревога давняя и искренняя, он вспоминает единственную личную встречу, которая у него вообще была с президентом Обамой. Он потратил её не на собственные компании, а на регулирование ИИ:
“I saw it happening from well before GPT-1, which is why I tried to warn the public for years. The only one on one meeting I ever had with Obama as President I used not to promote Tesla or SpaceX, but to encourage AI regulation.” ↗
«Я видел, как это происходит, ещё задолго до GPT-1, поэтому годами пытался предупреждать общественность. Единственную личную встречу, которая у меня вообще была с Обамой как президентом, я использовал не для продвижения Tesla или SpaceX, а чтобы призвать к регулированию ИИ.»
О ChatGPT и «TruthGPT»
Его возражение против ChatGPT в том, что обучать модель быть политкорректной — всё равно что обучать её неправдивости:
“I’m worried about the fact that [ChatGPT] is being trained to be politically correct, which is another way of saying untruthful things.” ↗
«Меня беспокоит то, что [ChatGPT] обучают быть политкорректным, а это другой способ сказать — говорить неправду.»
Он называет провал прямо. Намеренно лживый ИИ — это путь к антиутопии:
“Certainly the path to dystopia is to train AI to be deceptive.” ↗
«Безусловно, путь к антиутопии — это обучать ИИ быть лживым.»
Дальше идёт слово, предшествующее xAI: максимально стремящийся к истине ИИ, чья цель — понять Вселенную:
“I’m going to start something which I call TruthGPT, or a maximum truth-seeking AI that tries to understand the nature of the universe.” ↗
«Я собираюсь начать кое-что, что называю TruthGPT, — максимально стремящийся к истине ИИ, который пытается понять природу Вселенной.»
И аргумент о безопасности за этим — любопытство как причина для машины пощадить человечество:
“And I think this might be the best path to safety in the sense that an AI that cares about understanding the universe is unlikely to annihilate humans because we are an interesting part of the universe.” ↗
«И я думаю, что это, возможно, лучший путь к безопасности — в том смысле, что ИИ, которому небезразлично понимание Вселенной, вряд ли уничтожит людей, потому что мы — интересная часть Вселенной.»
О том, каково быть под регулированием
Он поправляет карикатуру на себя. Он, по его словам, не тот анти-регуляторный бунтарь, каким его выставляют:
“It’s not fun to be regulated. It’s sort of arduous to be regulated.” ↗
«Быть под регулированием невесело. Это, в общем-то, тягостно — быть под регулированием.»
“Some people may think I’m some revelatory maverick that defies regulators on a regular basis. This is not the case.” ↗
«Некоторые могут думать, что я какой-то прозревающий бунтарь, который регулярно бросает вызов регуляторам. Это не так.»
О рождаемости и цивилизации
Его демографическая тревога в форме 2023 года: слишком мало людей, чтобы поддерживать численность, а в конце этого пути ждёт цивилизационный крах:
“I’m sort of worried that hey, civilization, if we don’t make enough people to at least sustain our numbers, perhaps increase a little bit, then civilization’s going to crumble.” ↗
«Я, в общем, беспокоюсь, что, эй, цивилизация, — если мы не будем производить достаточно людей, чтобы хотя бы поддерживать нашу численность, а может, немного её увеличивать, то цивилизация рухнет.»
Механизм, к которому он обращается, — контроль рождаемости, который отделяет лимбическое влечение от размножения:
“Now you can still satisfy the limbic instinct but not procreate.” ↗
«Теперь можно по-прежнему удовлетворять лимбический инстинкт, но не размножаться.»
Об операциях Twitter (бизнес, для полноты)
Больше всего пресса писала про строки о его тогда новом владении Twitter. Они скорее операционные, чем окно в то, как он думает, но именно они стали заглавной новостью интервью, поэтому им здесь место:
“We just had a situation at Twitter where it was absurdly overstaffed.” ↗
«У нас в Twitter была ситуация, когда штат был абсурдно раздут.»
“If you’re not trying to run some sort of glorified activist organization and you don’t care that much about censorship, then you can really let go of a lot of people.” ↗
«Если вы не пытаетесь управлять каким-то возвеличенным активистским объединением и вас не так уж заботит цензура, то можно реально отпустить очень много людей.»
“We’re trying to make Twitter the most trusted place on the Internet, the least untrustworthy place on the Internet.” ↗
«Мы стараемся сделать Twitter самым доверенным местом в интернете, наименее недостойным доверия местом в интернете.»
Связи (затронутые страницы)
- Экзистенциальный риск ИИ — реплика апреля 2023 о цивилизационном уничтожении и встреча с Обамой, которую он подаёт как доказательство искренности; самое раннее свидетельство периода TruthGPT среди собранных здесь источников, за восемь месяцев до DealBook.
- Любопытство и поиск истины — первый раз, когда философия ИИ, стремящегося к истине и понимающего Вселенную, названа как продукт (TruthGPT), с аргументом «любопытство как безопасность».
- xAI и Grok — TruthGPT как названный предшественник xAI/Grok, основанной тремя месяцами позже.
- Вирус вокизма — возражение «политкорректно — значит неправдиво» в адрес ChatGPT и тезис о том, что путь к антиутопии лежит через обучение ИИ обману.
- Светлое будущее человечества — самая ранняя из собранных здесь датированных реплик о коллапсе населения («цивилизация рухнет»).
- Лимбико-кортикальная модель — контроль рождаемости как отделение лимбического влечения от размножения.
- Абсолютизм свободы слова — реплика про «возвеличенное активистское объединение» и цензуру, прочитанная как убеждение о свободе слова и против цензуры.
- Илон Маск — новый раздел «Tucker Carlson Tonight (2023): позиция по ИИ, названная как продукт».