Лекс Фридман #400 (2023)

• Ведущий: Лекс Фридман
• Формат: подкаст, ~3 ч («War, AI, Aliens, Politics, Physics, Video Games, and Humanity»)
• Дата: 9 ноября 2023 года
• Уровень доверия: verified (Tier 1). Транскрипт официальный и сделан человеком, он лежит на lexfridman.com, так что цитировать его можно напрямую.
• Цитаты: из официального транскрипта на lexfridman.com.

Краткое содержание

Это четвёртая и самая длинная из бесед Фридмана с Маском, записанная всего через несколько недель после нападения ХАМАС в октябре 2023 года и запуска Grok от xAI. За три часа они обсуждают войну, ИИ, физику, политику и видеоигры, но главное для понимания его сознания сосредоточено в четырёх отрезках.

О войне он советует сдержанность и обосновывает её холодно-стратегически, почти «из первых принципов». Значение имеет лишь одно число: создаёт ли конфликт больше врагов, чем устраняет, поэтому умный ход — это доброта настолько подчёркнутая, что её нельзя подделать. Об ИИ он заново прогоняет десятилетие предупреждений об экзистенциальном риске и рассказывает, с чего началась OpenAI, возводя это к ссоре с Ларри Пейджем о том, стоит ли вообще быть на стороне человечества. Об инженерии и истине он даёт самую чистую формулировку от первого лица своего правила, что физика — единственный реальный закон, и называет любопытство и поиск истины своей настоящей философией жизни. А в заключительном сегменте о трудностях он даёт самый откровенный автопортрет из того, что у нас есть: называет собственный разум бурей и говорит об одиночестве, тяжёлом детстве и о том, что взгляд вперёд — отчасти его способ справляться.

Ключевые цитаты

Война, эмпатия и человеческая природа

Настоящий враг, говорит он, — не другие люди. Это невежество:

“I’m generally a proponent of peace. I mean, ignorance is perhaps, in my view, the real enemy to be countered.” ↗

«В целом я сторонник мира. То есть невежество, на мой взгляд, — вот настоящий враг, которому надо противостоять.»

Поэтому Израилю он советует деэскалацию, и подаёт её как холодный расчёт, а не как чувство:

“I would recommend that Israel engage in the most conspicuous acts of kindness possible” ↗

«Я бы рекомендовал Израилю совершать как можно более подчёркнутые акты доброты.»

Логика за этим считает созданных врагов, а не убитых:

“an eye for an eye makes everyone blind” ↗

«око за око — и все слепнут.»

При этом он не считает, что конфликт когда-нибудь кончится. Для него это неизменная черта мира:

“There will always be war.” ↗

«Война будет всегда.»

Экзистенциальный риск ИИ

Он повторяет предупреждение, с которым выступает уже десять лет, и берёт для него фразу про Человека-паука:

“I’ve been pushing for some kind of regulatory oversight for a long time. I’ve been somewhat of a Cassandra on the subject for over a decade. I think we want to be very careful in how we develop AI. It’s a great power and with great power comes great responsibility.” ↗

«Я уже долгое время добиваюсь какого-то регуляторного надзора. По этому вопросу я уже больше десяти лет в роли Кассандры. Думаю, нам стоит быть очень осторожными в том, как мы развиваем ИИ. Это великая сила, а большая сила требует большой ответственности.»

Дальше идёт история возникновения OpenAI и момент, который, по его словам, сделал безопасность ИИ личным делом. Ларри Пейдж, говорит он, назвал его видистом за то, что он на стороне людей:

“Larry did not care about AI safety, or at least at the time he didn’t. And at one point he called me a speciesist for being pro-human” ↗

«Ларри было всё равно на безопасность ИИ — по крайней мере тогда. И в какой-то момент он назвал меня видистом за то, что я за людей.»

О том, чем стала компания, он говорит резко:

“the open in open AI is supposed to mean open source, and it was created as a nonprofit open source, and now it is a closed source for maximum profit, which I think is not good karma” ↗

«„open“ в OpenAI должно означать открытый исходный код, и она создавалась как некоммерческая и с открытым кодом, а теперь это закрытый код ради максимальной прибыли — что, на мой взгляд, плохая карма.»

Физика, любопытство и поиск истины

Здесь он формулирует свой главный принцип от первого лица, своими словами. Биографы эту фразу лишь пересказывают:

“Like physics is the law, everything else is a recommendation. I’ve seen plenty of people break the laws made by man, but none break the laws made by physics.” ↗

«Физика — это закон, всё остальное — рекомендация. Я видел множество людей, нарушавших законы, созданные человеком, но никого, кто нарушил бы законы, созданные физикой.»

Свою настоящую философию жизни он формулирует прямо:

“we don’t know the meaning of life, but the more we can expand the scope and scale of consciousness, digital and biological, the more we’re able to understand what questions to ask about the answer that is the universe. So I have a philosophy of curiosity.” ↗

«Мы не знаем смысла жизни, но чем больше мы способны расширять охват и масштаб сознания — цифрового и биологического, — тем лучше понимаем, какие вопросы задавать об ответе, которым является вселенная. Так что у меня философия любопытства.»

И тот же стандарт он хочет видеть в самом Grok:

“underlying the humor is an aspiration to adhere to the truth of the universe as closely as possible” ↗

«под юмором лежит стремление держаться истины вселенной настолько близко, насколько это возможно.»

Психология — буря, одиночество и как он справляется

На вопрос, какой трудности люди в нём не видят, он даёт самое откровенное самоописание из всех источников здесь:

“my mind is a storm and I don’t think most people would want to be me. They may think they would want to be me, but they don’t. They don’t know, they don’t understand.” ↗

«Мой разум — это буря, и я не думаю, что большинство людей хотело бы быть мной. Им может казаться, что хотят, но это не так. Они не знают, они не понимают.»

Одиночество прорывается одной сдержанной строкой:

“There are many nights I sleep alone. I don’t have to, but I do.” ↗

«Есть много ночей, когда я сплю один. Я не обязан, но я так делаю.»

Когда речь заходит о прощении и его тяжёлом детстве, он отвечает, что прощать нечего:

“What is forgiveness? At least I don’t think I have a resentment, so nothing to forgive.” ↗

«Что такое прощение? По крайней мере, я не думаю, что у меня есть обида, так что прощать нечего.»

Чтобы прийти к этому, он направляет всё в будущее и отпускает прошлое:

“I try to think about, what is going to affect the future in a good way? And holding onto grudges does not affect the future in a good way.” ↗

«Я стараюсь думать о том, что повлияет на будущее хорошим образом. А держаться за обиды — это не влияет на будущее хорошим образом.»

Взгляд на человеческую природу

При всём этом он отказывается от цинизма и останавливается на нарочито скромной оценке людей:

“Most people are kind of medium good.” ↗

«Большинство людей в общем-то умеренно хорошие.»

Связи (затронутые страницы)

• Илон Маск — дополнена психологией #400 («буря», одиночество, прощение и устремлённость в будущее), рассуждением о войне и эмпатии, историей возникновения безопасности ИИ и кредо о физике.
• Экзистенциальный риск ИИ — создана: десятилетие предупреждений, большая сила и большая ответственность, размолвка с Ларри Пейджем (видист / команда роботов) и линия об OpenAI и карме.
• Любопытство и поиск истины — создана: философия любопытства, расширение сознания и Grok, созданный, чтобы держаться истины вселенной.
• Подчёркнутые акты доброты — создана: деэскалация как стратегия, фраза «око за око», подсчёт созданных врагов, а не убитых.
• Первопринципы — дополнена цитатой от первого лица о том, что физика — это закон.
• Светлое будущее человечества — дополнена устремлённостью в будущее, работающей и как мотивация, и как механизм совладания.
• Подавление эмоций · Тяга к драме — автопортрет «буря и одиночество», прочитанный вместе с психологией Айзексона.