World Government Summit 2017
ДальшеY Combinator (2016)- Площадка / интервьюер: World Government Summit 2017, Дубай. Беседа на сцене между Мохаммадом Аль Гергави (министр по делам кабинета ОАЭ) и Илоном Маском. Загрузка на YouTube с канала World Governments Summit озаглавлена «Mohammad Al Gergawi in a conversation with Elon Musk during WGS17».
- Формат: вопросы и ответы на сцене, примерно 35 минут. Темы идут широко: смысл жизни и сознание, многопланетная цивилизация, аргумент о симуляции, автономные автомобили, «глубокий» ИИ и его регулирование, тоннели под городами, автоматизация и универсальный базовый доход, слияние человека и машины и заключительный обмен репликами о том, как он нанимает людей и что он сказал бы молодым.
- Дата: 13 февраля 2017 года (загрузка на YouTube датирована 2017-02-15).
- Уровень доверия: lower-trust-full-transcript (Tier 3). Текст — машинные субтитры YouTube, а не официальная человеческая расшифровка. По правилу проекта для Tier 3 каждую цитату нужно сверить по видео, прежде чем её можно цитировать. Там, где формулировка субтитров шаткая, растянута на много реплик или говорящий неясен, фрагмент пересказан здесь, а не вынесен в блок-цитату.
- Цитаты: из официальной загрузки на YouTube (текстовой расшифровки нет), каждая со ссылкой на момент в видео.
- ⚠️ Оговорка об атрибуции (главный риск здесь): в субтитрах нет меток говорящих, и два голоса переплетаются повсюду. Интервьюер Мохаммад Аль Гергави произносит восторженное вступление («Генри Форд, братья Райт, Альберт Эйнштейн и Илон Маск», «Вы в спешке, вы хотите попасть туда, где никто не бывал») и все вопросы («Какова ваша жизненная миссия?», «что для вас жизнь?», «Однажды вы сказали, что хотите умереть на Марсе. Почему?», «какие три совета вы можете им дать?»). Маск произносит ответы от первого лица («Конечно, прежде всего, спасибо, что пригласили…»). В блок-цитаты вынесены только ответы Маска; вступление, лесть и вопросы Аль Гергави никогда не вкладываются в уста Маска. Говорящий определялся по контексту (вопрос или ответ) и сверялся по видео; всё, что хоть немного неоднозначно, пересказано.
⚠️ Оговорка Tier-3 о субтитрах. Дорожка субтитров довольно чистая (с пунктуацией, в смешанном регистре), но это всё же машинная расшифровка, а не официальная человеческая. Каждая блок-цитата ниже — это короткая, характерная реплика Маска, чья передача в субтитрах внутренне чистая и сверена по видео. Огрехи субтитров оставлены как есть. Более длинные или разорванные пассажи и любая реплика, чья формулировка плывёт между репликами субтитров, пересказаны, а не выданы за дословные цитаты.
Резюме
Для нескольких повторяющихся линий Маска эта беседа февраля 2017 года — одно из самых ранних чётко датированных высказываний из того, что у нас есть, и в этом её ценность. Основной мировоззренческий каркас Маска уже полностью сформирован в начале 2017 года. По пяти отдельным темам разговор показывает, где стояла его мысль в феврале 2017 года, — где-то между Code Conference (июнь 2016) и его более поздними выступлениями.
Самое богатое — это начало. На вопрос о его «жизненной миссии» Маск даёт сжатую версию кредо «понять, какие правильные вопросы задавать» и расширения масштаба и охвата сознания. То же самое он скажет Lex в 2021 и на DealBook в 2023; здесь это на четыре года раньше, поданное как ответ на детский вопрос «в чём смысл жизни?». Дальше он прогоняет остальные свои стабильные аргументы. Многопланетная жизнь как «страховка жизни для жизни в целом» и как «чувство приключения», причина вставать по утрам (светлое будущее). Аргумент Pong → фотореалистичные игры → находимся ли мы в одной из них, почти слово в слово из Code Conference 2016. Полная автономия «примерно через 10 лет», с образом лифтёра. «Глубокий», общий ИИ, который он называет «опасной ситуацией», с советом, чтобы правительства «пристально следили» за ним. Тезис о тоннелях под городами, за два месяца до анонса на TED2017. Цепочка от автоматизации к универсальному базовому доходу и к «как тогда люди обретают смысл?». Аргумент «мы уже киборги» и пропускной способности, с арифметикой «триллион бит в секунду» против «10 бит в секунду» у большого пальца. И его совет молодым физика-как-каркас: исходить из того, что ты «всегда … в какой-то степени неправ», и не выдавать желаемое за действительное.
Заключительные биографические обмены — это в основном событийная и характерная окраска: разговор о сроках для Китая, шутка про тоннель под Вашингтоном, его вопрос при найме «расскажите историю своей жизни», реплика «я не уверен, что хочу быть собой». Они здесь скорее пересказаны, чем разработаны, поскольку в фокусе его ум.
Ключевые цитаты
Смысл жизни — «правильные вопросы, которые нужно задавать» и масштаб сознания (Правильно поставленный вопрос, Любопытство и поиск истины)
На вопрос о его «жизненной миссии» Маск возводит её к детскому вопросу о смысле жизни. Его ответ — это кредо поиска-проблемы, которое более поздние источники продолжают переформулировать, и это самое раннее изложение именно этой мысли из того, что у нас есть:
“And I came to the conclusion that what really matters is” ↗
«И я пришёл к выводу, что по-настоящему важно —»
“trying to understand the right questions to ask. And the more that we can increase the scope and scale of human consciousness, the better we’re able to ask these questions.” ↗
«пытаться понять, какие правильные вопросы задавать. И чем больше мы можем увеличить охват и масштаб человеческого сознания, тем лучше мы способны задавать эти вопросы.»
Спустя годы это становится «основой моей философии» (2021), «расширить охват и масштаб сознания … чтобы понять, какие вопросы задавать об ответе, которым является вселенная» (DealBook 2023) и «философия любопытства» (#400, 2023). В феврале 2017 года оно уже здесь почти слово в слово, и уже привязано (как и в тех поздних версиях) к детскому кризису «в чём смысл жизни?».
Многопланетная жизнь как «страховка жизни для жизни» и чувство приключения (Колонизация Марса, Светлое будущее человечества)
Он встраивает ответ о смысле жизни прямо в аргумент о выживании, в самой прямой страховой форме:
“I think that being a multi-planetary species and being out there among the stars” ↗
«Я думаю, что быть многопланетным видом и быть там, среди звёзд,»
“And, that’s one reason, kind of like life insurance for life collectively. Life as we know it.” ↗
«И это одна причина — что-то вроде страховки жизни для жизни в целом. Жизни в том виде, в каком мы её знаем.»
Но часть, которую он называет «лично наиболее мотивирующей», — это не страховка. Это светлая сторона, светлое будущее приключения и вдохновения:
“it creates a sense of adventure, and it makes people excited about the future.” ↗
«это создаёт чувство приключения и заставляет людей радоваться будущему.»
“And there need to be reasons to get up in the morning.” ↗
«И должны быть причины вставать по утрам.»
“There’s got to be things that people find inspiring, and make life worth living.” ↗
«Должны быть вещи, которые люди находят вдохновляющими и которые делают жизнь стоящей того, чтобы жить.»
Это идея «причины вставать по утрам», та же, что использует концовка TED 2017 двумя месяцами позже и к которой возвращается поворот «что даёт тебе надежду?» в DealBook 2023. Она выстраивает многопланетный аргумент из вдохновения, а не только из страховки от астероидов и вымирания. Он противопоставляет это контрасту двух будущих: одно «навсегда заперто на Земле, пока в конце концов не случится что-то ужасное», другое «там, на многих планетах». Это тот же бинарий, что и в TED 2013; реплика идёт через несколько реплик субтитров, поэтому здесь пересказана.
Аргумент о симуляции, переформулированный (Гипотеза симуляции)
Когда его допытываются, что́ есть жизнь, Маск прогоняет ту же экстраполяцию, что дал на сцене Code Conference 2016 восемью месяцами ранее. Видеоигры идут от Pong к фотореализму; спроецируй это вперёд при любом темпе прогресса, и в конце концов они станут неотличимы от реальности. Дальше следует вывод:
“then eventually those games will be indistinguishable from reality.” ↗
«тогда в конце концов те игры станут неотличимы от реальности.»
“how do we know that that didn’t happen in the past? And that we’re not in one of those games ourselves?” ↗
«откуда мы знаем, что это не произошло в прошлом? И что мы сами не находимся в одной из таких игр?»
Это аргумент 2016 года почти дословно: та же завязка от Pong к фотореализму, то же допущение «при любом темпе улучшения», тот же вывод, что мы, вероятно, находимся внутри одной из симуляций. Февраль 2017 года лежит между сценической версией июня 2016 и сжатием «мы, скорее всего, в симуляции» Rogan 2018.
Полная автономия «примерно через 10 лет» и аналогия с лифтом (Автономное вождение)
Вот его прогноз сроков для автопилота, плюс бытовой образ, к которому он тянется: та же аналогия с лифтёром, которую он использует снова на Lex в 2019.
“it will be very unusual for cars to be built that are not fully autonomous.” ↗
«будет очень необычно строить автомобили, которые не полностью автономны.»
“So, getting in a car will be like getting in an elevator.” ↗
«Так что сесть в автомобиль будет как зайти в лифт.»
Он обосновывает это различием узкого и общего ИИ, на котором держится остальное его мышление об ИИ. Автономность транспорта — это «узкий ИИ … узко пытающийся достичь определённой функции», категорически отличный от «глубокого» ИИ, о котором он беспокоится (пересказ; различие идёт через несколько реплик). Это его тезис об устаревании 2019 «автомобиль без автономности будет примерно так же полезен, как лошадь» в самой ранней датированной форме, где автономность — ближайшее значение по умолчанию. Здесь он подаёт её как удобство, а не пока как кампанию за безопасность.
«Глубокий» ИИ как «опасная ситуация» и совет по регулированию (Экзистенциальный риск ИИ)
На вопрос, какая технология будет наиболее разрушительной, он отделяет узкий ИИ от общего и прямо формулирует тревогу:
“I think one of the most troubling questions is artificial intelligence.” ↗
«Я думаю, один из самых тревожных вопросов — это искусственный интеллект.»
“where you can have AI that is much smarter than the smartest human on Earth. This, I think, is a dangerous situation.” ↗
«где может быть ИИ, который намного умнее самого умного человека на Земле. Это, я думаю, опасная ситуация.»
Образ, к которому он тянется, — цифровой сверхинтеллект-как-инопланетянин:
“Well, digital super intelligence will be like an alien.” ↗
«Что ж, цифровой сверхинтеллект будет как инопланетянин.»
На просьбу дать совет правительствам его первый пункт — тот же призыв к внешнему надзору ради общественной безопасности, что он повторяет с 2016 через 2019 («государственное агентство, которое надзирает за всем, что связано с ИИ») и дальше в беседах 2023 года с Такером Карлсоном и Биллом Маэром («какой-то регулирующий орган … чтобы они не срезали углы»). Вот он в его форме февраля 2017 года:
“governments keep a close eye on artificial intelligence and make sure that it does not represent a danger to the public.” ↗
«правительства пристально следили за искусственным интеллектом и убеждались, что он не представляет опасности для общества.»
Его обоснование надзора — что исследователи «могут так увлечься своей работой», что упускают последствия — пересказано, поскольку идёт через несколько реплик. Это та же позиция «предупреждай и следи» повсюду: опасность «глубокого», общего ИИ плюс призыв к надзору ради общественной безопасности. Десятилетие, о котором он говорит в реплике 2023 года «Кассандра … больше десяти лет», охватывает именно этот период.
Тоннели под городами — тезис о пробках, за два месяца до анонса (The Boring Company)
В ответ на подначивание про «строительство тоннеля под Вашингтоном» он даёт аргумент о 3D-тоннелях, который публично изложит на TED двумя месяцами позже. Это самое раннее датированное его изложение из того, что у нас есть:
“the solution to urban congestion is a network of tunnels under cities.” ↗
«решение городских пробок — это сеть тоннелей под городами.»
“I mean tunnels that go many levels deep.” ↗
«Я имею в виду тоннели, уходящие на много уровней вглубь.»
“Like, the deepest mines are deeper than the tallest buildings.” ↗
«Например, самые глубокие шахты глубже, чем высочайшие здания высоки.»
Это тезис TED2017 «самые глубокие шахты намного глубже, чем высочайшие здания высоки … устранить любой произвольный уровень городских пробок сетью 3D-тоннелей» в зачаточной форме. Поскольку глубина фактически неограниченна, у решения пробок тоже нет потолка. Он подчёркивает, что уровней может быть много («20, 30, 40, 50»), а главный вызов — строить тоннели «быстро, дёшево и безопасно» (пересказ; эти реплики идут через несколько реплик субтитров).
Автоматизация, универсальный базовый доход и «как тогда люди обретают смысл?» (Устойчивое изобилие)
Самый характерный кластер беседы — и самое раннее среди собранных здесь источников изложение всей цепочки: автоматизация вытесняет труд, что вынуждает универсальный базовый доход, что открывает кризис смысла. Он прогнозирует массовую безработицу от автономности и роботов, затем называет политический вывод:
“And I think ultimately will have to have some kind of universal basic income” ↗
«И я думаю, в конечном счёте придётся иметь какой-то универсальный базовый доход»
“There will be fewer and fewer jobs that a robot cannot do better.” ↗
«Будет всё меньше и меньше работ, которые робот не сможет делать лучше.»
Он аккуратен, как и на протяжении всей этой линии в последующие годы: подаёт это как прогноз, а не предпочтение:
“And I want to be clear, these are not things that I wish would happen.” ↗
«И я хочу прояснить: это не то, чего я желал бы.»
“These are simply things that I think probably will happen.” ↗
«Это просто то, что, я думаю, вероятно, случится.»
Пункт назначения, к которому он тянется, — изобилие, слово из мастер-плана 2025 года, уже здесь, в 2017-м:
“there will come abundance.” ↗
«придёт изобилие.»
Дальше идёт ход, который важнее всего для его ума. Он называет более сложную проблему под экономической, вопрос о смысле, который он по-прежнему оставляет открытым в 2024–2025 годах:
“is how do people then have meaning?” ↗
«это — как тогда люди обретают смысл?»
Вся эта линия — аргумент «работа станет необязательной» + базовый доход (2021) и «работа будет необязательной … универсальный высокий доход» (2025), уже полностью сформированный в 2017 году. Автоматизация — причина, безусловный базовый доход — необходимость, изобилие — плюс, а «чувствуете ли вы себя бесполезными?» — остаточная проблема, которую он не может решить. Он даже называет цифру безработицы: «что-то вроде 12–15 процентов мировой рабочей силы будут безработными» ↗.
«Мы уже киборги», цифровой призрак и слияние через пропускную способность (Слияние с ИИ, Симбиоз человека и ИИ, Лимбико-кортикальная модель)
На вопрос, куда ведёт следующий сдвиг, он переформулирует тезис уже-киборг. Это его реплика 2016 года в форме февраля 2017:
“To some degree, we are already a cyborg.” ↗
«В какой-то степени мы уже киборги.»
Он набрасывает картину слоистого ума: лимбическую систему, кору и «ваше цифровое я как третий слой» (пересказ; слои идут через несколько реплик). Затем он иллюстрирует постоянство цифрового слоя образом, которого в более поздних источниках уже нет:
“their digital ghost is still around.” ↗
«их цифровой призрак всё ещё рядом.»
Траектория — более глубокое слияние, упирающееся в пропускную способность. Это аргумент о пропускной способности, опирающийся на арифметику, которой он известен:
“a closer merger of biological intelligence and digital intelligence.” ↗
«более тесное слияние биологического интеллекта и цифрового интеллекта.»
“A computer can communicate at a trillion bits per second, but your thumb can maybe do maybe 10 bits per second or a hundred” ↗
«Компьютер может передавать триллион бит в секунду, а ваш большой палец может, может быть, 10 бит в секунду или сотню»
И его вывод: высокоскоростной интерфейс к мозгу как то, что достигает симбиоза и, показательно, решает проблему контроля над ИИ.
“So, some high bandwidth interface to the brain I think will be something that helps achieve symbiosis,” ↗
«Так что какой-то высокоскоростной интерфейс к мозгу, я думаю, будет тем, что помогает достичь симбиоза,»
Он завершает мысль, называя, что́ симбиоз решает: «проблему контроля и проблему полезности» (пересказ; фраза переходит в следующую реплику). Здесь, в 2017-м, аргумент 2016 «больше не домашняя кошка» и «ИИ-человеческий симбиот … мы и есть ИИ, коллективно» смыкается с арифметикой 2024 «меньше одного бита в секунду … как говорить с деревом». Это ставит его за год до версии «тонкой соломинки» 2018 года и за семь лет до количественного утверждения #438. «Триллион бит в секунду» против «10 бит в секунду» у большого пальца — это ранняя версия того же разрыва в пропускной способности.
Физика как каркас и «всегда … в какой-то степени неправ» (Первопринципы)
На просьбу дать совет молодым он называет свой каркас мышления и эпистемическую дисциплину под ним:
“I’d recommend studying the thinking process around physics.” ↗
«Я бы рекомендовал изучать процесс мышления вокруг физики.»
“the way of thinking in physics, it’s the best framework” ↗
«способ мышления в физике — это лучший каркас»
Привычка, которой она, по его словам, учит, — относиться к собственным убеждениям как к предварительным. Затем он прямо называет главную ошибку, от которой предостерегает:
“always take the position that you are to some degree wrong, and your goal is to be less wrong over time.” ↗
«всегда занимай позицию, что ты в какой-то степени неправ, и твоя цель — со временем быть менее неправым.»
“One of the biggest mistakes people generally make and I’m guilty of it too is wishful thinking.” ↗
«Одна из самых больших ошибок, которые люди обычно делают, — и я тоже в ней виновен, — это выдавать желаемое за действительное.»
“You ignore the real truth, because of what you want to be true.” ↗
«Ты игнорируешь настоящую правду из-за того, что хочешь считать правдой.»
И правило корректирующей обратной связи, к которому он возвращается снова и снова: проси у друзей плохие новости, потому что сами они их не выдадут.
“And solicit critical feedback, particularly from friends.” ↗
«И добивайся критической обратной связи, особенно от друзей.»
Это кредо физика-это-каркас в паре с дисциплиной «менее неправ со временем» и отказом от выдавания желаемого за действительное. Та же пара всплывает в реплике TED 2013 «добивайся негативной обратной связи, особенно от друзей» и в заметке о корректирующем цикле обратной связи (2019). Здесь это его совет молодым, в феврале 2017 года. Ранее в том же интервью он называет корректирующий цикл обратной связи и поддержание его «даже когда люди не … говорят тебе именно то, что ты хочешь услышать» одним из своих самых больших вызовов (пересказ, несколько реплик).
Миссия устойчивой энергетики и следствие для спроса на электроэнергию (Миссия устойчивой энергетики)
Как второй из своих трёх советов правительствам он переформулирует миссию устойчивого транспорта и энергетики. Из неё он рассуждает до конкретного первопринципного следствия: электрификация утраивает спрос на электроэнергию.
“which means that the demand for electricity will probably triple.” ↗
«что означает, что спрос на электроэнергию, вероятно, утроится.»
Это та же миссия, что и реплика TED 2013 «крупнейшая проблема, которую нам нужно решить в этом веке», всплывающая в 2017 году как второй из его трёх советов чиновникам. Арифметика спроса на электроэнергию — это первопринципное следствие, которое он из неё выводит.
Связи (затронутые страницы)
- Правильно поставленный вопрос — расширена самым ранним датированным утверждением рамки «понять, какие правильные вопросы задавать» (февраль 2017), привязанным к детскому вопросу о смысле жизни, за четыре года до устной версии 2021 года.
- Любопытство и поиск истины — расширена кредо 2017 года «увеличить охват и масштаб человеческого сознания … лучше способны задавать эти вопросы», самым ранним среди собранных здесь источников утверждением философии расширения-сознания, предшествующим версиям 2021/2023 годов.
- Колонизация Марса — расширена страховой рамкой 2017 года «страховка жизни для жизни в целом» и контрастом двух будущих.
- Светлое будущее человечества — расширена аргументом вдохновения 2017 года «чувство приключения» / «причины вставать по утрам» / «делают жизнь стоящей того, чтобы жить», светлой стороной, высказанным за два месяца до TED2017.
- Гипотеза симуляции — расширена переформулировкой февраля 2017 года аргумента Pong → фотореалистичные игры → «находимся ли мы в одной из таких игр», между версией Code Conference 2016 и сжатием Rogan 2018.
- Автономное вождение — расширена прогнозом сроков 2017 года «полная автономия примерно через 10 лет» и аналогией сесть-в-автомобиль-как-в-лифт.
- Экзистенциальный риск ИИ — расширена «глубоким»/общим ИИ как «опасной ситуацией» 2017 года, образом цифрового-сверхинтеллекта-как-инопланетянина и советом по надзору «правительства пристально следят».
- The Boring Company — расширена тезисом февраля 2017 года о тоннелях-под-городами / «самые глубокие шахты глубже, чем высочайшие здания», за два месяца до публичного анонса на TED2017.
- Устойчивое изобилие — расширена самой ранней среди собранных здесь источников датированной цепочкой автоматизация → универсальный-базовый-доход → изобилие → «как тогда люди обретают смысл?» (2017), ранним экземпляром пост-трудовой линии, которую развивают источники 2021/2025 годов.
- Слияние с ИИ — расширена «в какой-то степени мы уже киборги» 2017 года, «цифровым призраком» и рамкой более тесного биологически-цифрового слияния.
- Симбиоз человека и ИИ — расширена арифметикой пропускной способности 2017 года («триллион бит в секунду» против «10 бит в секунду» у большого пальца) и аргументом о высокоскоростном-интерфейсе-как-симбиозе, называющим проблемы контроля и полезности.
- Лимбико-кортикальная модель — расширена утверждением 2017 года лимбическая-система / кора / «цифровое я как третий слой», ранней формой трёхслойной модели.
- Первопринципы — расширена каркасом 2017 года «процесс мышления вокруг физики», дисциплиной «всегда … в какой-то степени неправ … менее неправ со временем», ловушкой выдавания-желаемого-за-действительное и правилом «добивайся критической обратной связи, особенно от друзей».
- Миссия устойчивой энергетики — расширена советом 2017 года об устойчивом транспорте/энергетике и следствием спрос-на-электроэнергию-утроится.
- Илон Маск — расширена разделом «World Government Summit 2017: базис начала 2017 года», связывающим кредо смысла/сознания, многопланетный аргумент вдохновения, аргумент о симуляции, риск ИИ + совет по регулированию, цепочку «автоматизация — базовый доход — смысл», слияние киборг/пропускная-способность, совет физика-каркас / антижелаемое-мышление и его эвристику найма / решения задач («расскажите историю своей жизни» + проверять реальное решение задач по глубине деталей) — его базисом начала 2017 года по этим линиям.