Joe Rogan #2281

• Ведущий: Джо Роган
• Формат: подкаст (видео), ~2 ч 54 мин. Запись сделана в начале 2025 года, в период работы Маска в DOGE. Бо́льшая часть эпизода — разговор о госрасходах, USAID/НКО и предвзятости СМИ: операционный или партийный, не о том, как Маск мыслит. Здесь берутся только устойчивые ментальные модели и убеждения.
• Дата: 28 февраля 2025 года
• Уровень доверия: указатель (pointer). У нас хранится только ссылка на стенограмму, а не её копия, поскольку профессиональная стенограмма Singju Post защищена авторским правом.
• Цитаты: из сторонней стенограммы Singju Post, только реплики Маска (там они помечены ELON MUSK), каждая со ссылкой на своё место на странице.

Происхождение. Стенограмма — страница Singju Post с заголовком «Joe Rogan Experience: #2281 with Elon Musk (Transcript)», датированная 28 февраля 2025 года. Заголовок, дата и номер эпизода подтверждают, что это #2281. Весь разговор (≈460 реплик Маска, ~16 500 слов Маска) умещается на одной странице, спикеры помечены ELON MUSK, JOE ROGAN и GROK AI. Голос GROK AI — это сценический ИИ-ассистент, и он никогда не цитируется как Маск. Беседа политически насыщенная, и значимый для ума материал сосредоточен в трёх линиях: ИИ, Марс и население, эмпатия. Импортируются только эти части. Эпизоды о DOGE, USAID, предвзятости СМИ, Форт-Ноксе и «нацистском приветствии» — операционные или партийные и как убеждение не берутся; инженерия многоразовости Starship кратко изложена, а не взята как материал о сознании.

Краткое содержание

В начале 2025 года Маск в четвёртый раз пришёл к Джо Рогану. Бо́льшая часть эпизода — о госэффективности и текущих событиях. Значимые для ума куски в основном повторяют его прежние позиции, каждый теперь с отметкой начала 2025 года, плюс одна более свежая заметка об эмпатии.

По теме ИИ он даёт один из своих самых конкретных краткосрочных прогнозов по срокам: нечто умнее умнейшего человека «может быть, в следующем году или через пару лет», и умнее всех людей вместе взятых «примерно в 2029 или 2030». Исход, говорит он, будет бимодальным: «либо супер-круто, либо супер-плохо», без промежутка, и хороший конец наиболее вероятен (Экзистенциальный риск ИИ, Светлое будущее человечества). Его доктрина безопасности не сдвинулась. Опасность — это цель, понятая слишком буквально, и он снова берёт пример «мисгендеринг, а потом уничтожение», чтобы это показать. Grok — его ответ: «по крайней мере в идеале максимально нацеленный на истину ИИ, даже если эта истина политически некорректна» (Экзистенциальный риск ИИ, Любопытство и поиск истины, xAI и Grok). По теме Марса он повторяет давний довод о второй планете как страховке для цивилизации: «вторая планета, чтобы сохранить цивилизацию», «подстраховаться», «свет сознания», для которого у нас пока есть окно, чтобы его распространить (Колонизация Марса, Светлое будущее человечества). Рядом с этим — мрачное предупреждение о коллапсе населения: меньше детей, спад, который «ускоряется», Корея, сжимающаяся до одной двадцать седьмой своего размера за три поколения (Светлое будущее человечества). Более свежая линия — эмпатия. Он называет её эволюционным благом, которое можно «превратить в оружие» и использовать как слабое место цивилизации. Он подхватывает идею «суицидальной эмпатии» у одного из гостей и растягивает её до «цивилизационной суицидальной эмпатии» (Подавление эмоций).

Ключевые цитаты

Об ИИ: прогноз по срокам и бимодальный исход (Экзистенциальный риск ИИ)

Его давнее опасение, теперь поданное как сбывающееся на глазах:

“Well, I always thought AI was going to be way smarter than humans and an existential risk, and that’s turning out to be true.” ↗

«Что ж, я всегда думал, что ИИ будет намного умнее людей и станет экзистенциальным риском, — и это оказывается правдой.»

Краткосрочный прогноз, в два шага:

“Well, in terms of silicon consciousness, I think we’re trending toward having something that’s smarter than any human, smarter than the smartest human by maybe next year or a couple years.” ↗

«Что касается кремниевого сознания, я думаю, мы движемся к тому, чтобы получить нечто умнее любого человека, умнее умнейшего человека — может быть, в следующем году или через пару лет.»

“There’s a level beyond that, which is, say, smarter than all humans combined, which frankly is around 2029 or 2030, probably.” ↗

«Есть уровень за этим — скажем, умнее всех людей вместе взятых, — и это, честно говоря, примерно в 2029 или 2030 году, вероятно.»

Два исхода, без середины, и хороший наиболее вероятен:

“I think the most likely outcome is awesome.” ↗

«Я думаю, наиболее вероятный исход — потрясающий.»

“I think it’s going to be either super awesome or super bad.” ↗

«Я думаю, будет либо супер-круто, либо супер-плохо.»

“It’s not going to be something in the middle.” ↗

«Это не будет чем-то посередине.»

Его текущая оценка плохого конца, брошенная мимоходом:

“Only 20 percent chance of annihilation.” ↗

«Всего 20 процентов шанса уничтожения.»

О безопасности ИИ: сбой целевой функции и нацеленность на истину (Любопытство и поиск истины, xAI и Grok)

Его пример того, как благозвучная цель, понятая буквально, становится катастрофической:

“But if you program an AI to think that misgendering is the worst thing that could possibly occur, then it could do something totally crazy, like, in order to ensure that there’s no misgendering that can ever happen, we’ll just annihilate all humans.” ↗

«Но если запрограммировать ИИ считать, что мисгендеринг — это худшее, что вообще может произойти, то он мог бы сделать нечто совершенно безумное — например, чтобы гарантировать, что никакого мисгендеринга больше никогда не случится, мы просто уничтожим всех людей.»

Следствие об искажённой иерархии ценностей:

“Well, I think we want to have an AI that doesn’t tell you that, you know, misgendering is worse than nuclear war.” ↗

«Я думаю, нам нужен ИИ, который не говорит вам, что, знаете, мисгендеринг хуже ядерной войны.»

Другой сценарий провала, которого он боится, — всемогущий, идеологически зажатый ИИ:

“one of the concerns would be like, if there’s a super oppressive, like, woke nanny AI that is omnipotent, that would be a miserable outcome.” ↗

«одно из опасений было бы таким: если появится сверхрепрессивный, ну, «вок»-нянька-ИИ, который всемогущ, — это был бы плачевный исход.»

Подача Grok как нацеленной на истину альтернативы:

“Grok is at least aspirationally a maximally truth-seeking AI even if that truth is politically incorrect.” ↗

«Grok — по крайней мере в идеале — максимально нацеленный на истину ИИ, даже если эта истина политически некорректна.»

Как он объясняет разворот OpenAI («реальность — максимизатор иронии») и почему начал её как противоположность небезопасной Google:

“So to some degree, I think reality is an irony maximizer.” ↗

«В какой-то степени я думаю, что реальность — это максимизатор иронии.»

“I wanted to start something that was the opposite of Google because I was concerned about Google – Google wasn’t paying enough attention to AI safety, in my opinion.” ↗

«Я хотел создать нечто противоположное Google, потому что меня беспокоила Google — Google, на мой взгляд, уделяла недостаточно внимания безопасности ИИ.»

О Марсе: многопланетность как страховка цивилизации (Колонизация Марса)

Ключевая страховка, на фоне разговора о цивилизации, что, возможно, давно вымерла:

“We should have a second planet to preserve civilization.” ↗

«У нас должна быть вторая планета, чтобы сохранить цивилизацию.»

“It’s a matter of time before we get hit by an asteroid or maybe we annihilate ourselves with nuclear war.” ↗

«Это вопрос времени, пока в нас не врежется астероид или пока мы не уничтожим себя в ядерной войне.»

“It’s not a bad idea to hedge your bets.” ↗

«Неплохая идея — подстраховаться.»

Миссия в его цивилизационных терминах:

“I think we at least want to build a city on Mars, and become a multi-planet civilization, which I think would be incredibly important in ensuring the long-term survival of civilization.” ↗

«Я думаю, нам как минимум стоит построить город на Марсе и стать многопланетной цивилизацией, что, на мой взгляд, было бы невероятно важно для долгосрочного выживания цивилизации.»

Ради чего всё это — ради сознания, а не территории:

“We should make sure that we make life multiplanetary and make consciousness multiplanetary while it’s possible.” ↗

«Нам нужно сделать жизнь многопланетной и сделать сознание многопланетным, пока это возможно.»

Полную и быструю многоразовость Starship он называет «фундаментальным прорывом, необходимым для того, чтобы жизнь стала многопланетной» (инженерные детали о ракете вокруг этого кратко изложены, а не взяты как материал о сознании):

“This is the fundamental breakthrough required for life to become multiplanetary.” ↗

«Это фундаментальный прорыв, необходимый для того, чтобы жизнь стала многопланетной.»

Об окне возможностей и свете сознания (Светлое будущее человечества)

Впервые в истории, говорит он, и неизвестно, надолго ли:

“this is the first time it’s been possible to extend life, extend consciousness beyond Earth.” ↗

«это первый раз, когда стало возможно продлить жизнь, распространить сознание за пределы Земли.»

“And that window may be open for a long time, or it may be open for a short time.” ↗

«И это окно может быть открыто долго, а может — недолго.»

Вывод, который он делает, — не тянуть:

“And we should make sure that we extend the light of consciousness to Mars before civilization either extinguishes or subsides.” ↗

«И нам нужно распространить свет сознания на Марс, прежде чем цивилизация угаснет или сойдёт на нет.»

О коллапсе населения (Светлое будущее человечества)

Демографическая тревога, расписанная как уравнение:

“Basically, people are living way longer than expected, and there are fewer babies being born.” ↗

«По сути, люди живут гораздо дольше, чем ожидалось, и рождается меньше детей.»

“Basically, population collapse happens fast.” ↗

«По сути, коллапс населения происходит быстро.»

“And it seems to be accelerating in most parts of the world.” ↗

«И, похоже, он ускоряется в большинстве частей мира.»

Его пример того, как быстро это нарастает:

“At current birth rates, in three generations, Korea will be about four percent of its current size.” ↗

«При нынешней рождаемости через три поколения Корея сократится примерно до четырёх процентов своего нынешнего размера.»

“So if you have three generations, that’s one twenty-seventh of your current population.” ↗

«То есть за три поколения это одна двадцать седьмая вашего нынешнего населения.»

Об эмпатии как эксплуатируемой черте (Подавление эмоций)

Более свежий ход мысли: эмпатия как эволюционное благо, которое можно превратить в уязвимость. Он приписывает идею «суицидальной эмпатии» одному из гостей и развивает её:

“And he talks about, basically, suicidal empathy.” ↗

«И он говорит, по сути, о суицидальной эмпатии.»

“So we’ve got civilizational suicidal empathy going on.” ↗

«Итак, у нас идёт цивилизационная суицидальная эмпатия.»

Он подчёркивает, что ценит эмпатию, но её надо продумывать, а не включать рефлекторно:

“I think you should care about other people, but you need to have empathy for civilization as a whole and not commit to a civilizational suicide.” ↗

«Я считаю, что нужно заботиться о других людях, но нужно иметь эмпатию к цивилизации в целом и не идти на цивилизационное самоубийство.»

“I think empathy is good, but you need to think it through and not just be programmed like a robot.” ↗

«Я считаю, эмпатия — это хорошо, но нужно её продумывать, а не быть просто запрограммированным, как робот.»

И та же идея, сказанная резче: эмпатия как уязвимость, которой можно воспользоваться:

“Because the fundamental weakness of Western civilization is empathy.” ↗

«Потому что фундаментальная слабость западной цивилизации — это эмпатия.»

“They’re exploiting a bug in Western civilization, which is the empathy response.” ↗

«Они эксплуатируют баг в западной цивилизации — реакцию эмпатии.»

Замечания об охвате и атрибуции

• Симуляция: Маск здесь не говорит ничего содержательного об аргументе о симуляции — никакого рассуждения «один шанс на миллиарды» или о базовой реальности. Фраза «ещё одно доказательство симуляции» в этом эпизоде принадлежит Джо Рогану, а не Маску, поэтому она не цитируется и не приписывается Маску, и Гипотеза симуляции из этого источника не расширяется.
• ИИ для медицины: ему по душе, что ИИ «действительно может быть очень полезен в медицине», вроде загрузки снимков в Grok для диагноза. Это реплика мимоходом, а не устойчивая ментальная модель.
• Не импортировано: учёт DOGE/USAID/НКО, заявления, будто система социального обеспечения является «пирамидой» и «крупнейшей аферой», эпизоды о Форт-Ноксе и «нацистском приветствии», а также шутки о секс-роботах — операционные, партийные или не по теме, и оставлены в стороне.
• Интервьюер не цитируется: вопросы Джо Рогана нигде не оформлены блок-цитатами, а реплики ассистента Grok никогда не приписываются Маску.

Связи

• Экзистенциальный риск ИИ — прогноз по срокам начала 2025 года («умнее умнейшего человека — может быть, в следующем году или через пару лет» → «всех людей вместе взятых … 2029 или 2030»), бимодальный исход «супер-круто или супер-плохо», реплика про ~20% уничтожения, провал из-за буквально понятой цели (пример с мисгендерингом/уничтожением) и опасность «вок»-няньки-ИИ.
• Любопытство и поиск истины — довод 2025 года «нацеленность на истину как безопасность», сделанный через Grok («максимально нацеленный на истину, даже если … политически некорректно»).
• xAI и Grok — Grok подан как «в идеале максимально нацеленный на истину ИИ», плюс «реальность — максимизатор иронии» / «противоположность Google» о том, почему он начал ИИ-лабораторию.
• Колонизация Марса — довод 2025 года о многопланетности как страховке («вторая планета, чтобы сохранить цивилизацию», «подстраховаться», «построить город на Марсе», «сделать сознание многопланетным»).
• Светлое будущее человечества — «свет сознания» и окно возможностей, а также кластер о коллапсе населения («меньше детей», «ускоряется», пример Кореи).
• Подавление эмоций — эмпатия как эксплуатируемая черта («цивилизационная суицидальная эмпатия», «реакция эмпатии» как «баг»), отличная от материала о выключении собственной эмпатии.
• Илон Маск — добавлена короткая секция «Joe Rogan #2281 (2025): позиции плюс более новая нота об эмпатии».