Code Conference (2016)

• Интервьюеры: Кара Свишер и Уолт Моссберг, на сцене конференции Code Conference (Recode).
• Формат: живое интервью на сцене.
• Дата: 1 июня 2016 года.
• Уровень доверия: выдержки (частичная верификация). Recode выложил только полное видео; ни организатор, ни телеканал так и не опубликовали расшифровку в виде статьи. Поэтому первоисточник — это набор дословных выдержек, собранных из авторитетных изданий, которые цитировали Илона Маска напрямую. Источник в целом не верифицирован, но каждую выдержку можно процитировать через статью, в которой она прозвучала.
• Цитаты: каждая ведёт на издание, которое её напечатало, а не на видео. В статье ACS Information Age — цитаты о симуляции и ИИ. В Alternet — цитаты о киборге и нейроинтерфейсе, о SpaceX, несколько марсианских и фраза «…либо цивилизация прекратит существование» (Information Age передаёт её слегка иначе). Точная цитата о сроках по Марсу взята из Time, а цитаты об устройстве власти на Марсе — из Recode (его статья 2016 года теперь живёт на Vox).

Резюме

Это самое интеллектуально содержательное из интервью Илона Маска 2016 года, что у нас есть, и именно здесь публично дебютирует идея, с которой он теперь сильнее всего ассоциируется за пределами своих компаний, — аргумент о симуляции. Когда его спрашивают об этом на сцене, он прогоняет всё рассуждение целиком: от Pong к фотореалистичным играм и к выводу, что шансы жить в базовой реальности — один к миллиардам. Затем, как обычно, он переворачивает это в аргумент в пользу надежды, а не отчаяния. Беседа состоялась за три месяца до интервью Y Combinator в сентябре 2016 года, и это самый ранний из имеющихся у нас источников ряда его фирменных фраз.

Интервью держится на четырёх темах. Первая — метафизика: аргумент о симуляции, изложенный от начала до конца, с обнадёживающим поворотом. Находиться внутри симуляции — это хороший исход, ведь альтернатива в том, что цивилизация перестаёт развиваться. Вторая — ИИ, где он коротко повторяет свою тревогу об экзистенциальном риске: не все варианты будущего с ИИ безобидны. Третья — человек, и здесь он впервые среди собранных у нас источников говорит мы уже киборг. Телефон и компьютер — это сверхспособности, доказывает он, а с широкополосной связью с цифровым «я» ты уже не домашняя кошка рядом с ИИ. Это тезис о пропускной способности в раннем виде и аргумент о нейроинтерфейсе в его пользу, за месяцы до Neuralink. Четвёртая — Марс. Он делает (с тех пор не сбывшийся) прогноз по срокам: пилотируемый запуск около 2024-го, прибытие в 2025-м. И он излагает необычное видение устройства власти: на Марсе должна быть прямая демократия, потому что без посредников потенциал коррупции существенно снижен.

Ключевые цитаты

Аргумент о симуляции

Он начинает с признания, как далеко зашло наваждение, — вплоть до запрета на тему в джакузи:

“I’ve had so many simulation discussions, it’s crazy.” ↗

«У меня было столько разговоров о симуляции, это просто безумие.»

“In fact it got to the point where basically every conversation was the AI/simulation conversation, and my brother and I finally agreed that we would ban such conversations if we were ever in a hot tub.” ↗

«Дошло до того, что практически каждый разговор был разговором про ИИ/симуляцию, и мы с братом в итоге договорились, что запретим такие разговоры, если когда-нибудь окажемся в джакузи.»

Сам аргумент — экстраполяция темпа прогресса в видеоиграх: от Pong к фотореализму за сорок лет:

“Forty years ago we had Pong, like two rectangles and a dot, and that was what games were.” ↗

«Сорок лет назад у нас был Pong — два прямоугольника и точка, вот чем были игры.»

“Now, 40 years later we have photorealistic 3D simulations with millions of people playing simultaneously and it’s getting better every year. And soon we’ll have virtual reality and augmented reality.” ↗

«Теперь, 40 лет спустя, у нас фотореалистичные 3D-симуляции, в которые одновременно играют миллионы людей, и с каждым годом они становятся лучше. А скоро у нас будут виртуальная и дополненная реальность.»

Единственная нужная ему посылка — хоть какое-то продолжение улучшений:

“If you assume any rate of improvement at all, then the games will become indistinguishable from reality.” ↗

«Если допустить хоть какой-нибудь темп улучшения, то игры станут неотличимы от реальности.»

Из чего следует вывод — миллиарды устройств, на каждом из которых крутятся неотличимые симуляции:

“So given that we’re clearly on a trajectory to have games that are indistinguishable from reality and those games could be played on any set top box or on a PC or whatever, and there would probably be billions of such set top boxes and computers, it would seem to follow that the odds that we’re in base reality is one in billions.” ↗

«Итак, раз мы явно движемся к играм, неотличимым от реальности, и в эти игры можно играть на любой приставке, или на ПК, или на чём угодно, а таких приставок и компьютеров, вероятно, будут миллиарды, — отсюда, похоже, следует, что шансы, что мы находимся в базовой реальности, — один к миллиардам.»

На прямой вопрос он не уклоняется:

“No. There’s a one in billions chance that this is base reality.” ↗

«Нет. Шанс, что это базовая реальность, — один к миллиардам.»

И затем поворот, который делает аргумент его собственным: быть симулируемым — это обнадёживающее прочтение, потому что альтернатива — крах цивилизации:

“We should hope that’s true because otherwise if civilization stops advancing, that could be due to some calamitous event that erases civilization, so maybe we should be hopeful this is a simulation.” ↗

«Нам стоило бы надеяться, что это так, потому что иначе, если цивилизация перестаёт развиваться, это может быть из-за какого-то катастрофического события, стирающего цивилизацию, — так что, может, нам стоит надеяться, что это симуляция.»

“Either we’re going to create simulations that are indistinguishable from reality or civilization will cease to exist.” ↗

«Либо мы создадим симуляции, неотличимые от реальности, либо цивилизация прекратит существование.»

ИИ — не все варианты будущего безобидны

Сжатая формулировка 2016 года той тревоги об экзистенциальном риске, которую он озвучивал годами:

“I am concerned at certain directions that AI could take that would be not good for the future.” ↗

«Меня беспокоят некоторые направления, в которых может пойти ИИ и которые были бы нехороши для будущего.»

“I think it would be fair to say that not all AI futures are benign.” ↗

«Думаю, будет справедливо сказать, что не все варианты будущего с ИИ безобидны.»

«Мы уже киборг»

Самое раннее из того, что у нас есть, изложение тезиса о том, что мы уже киборг, — телефон и компьютер в роли усилителя возможностей:

“We’re already a cyborg.” ↗

«Мы уже киборг.»

“You basically have superpowers with your computer and your phone. You have more power than the president had 20 years ago.” ↗

«По сути, у тебя есть сверхспособности благодаря компьютеру и телефону. У тебя больше власти, чем было у президента 20 лет назад.»

И аргумент о пропускной способности, зачем нужен нейроинтерфейс: без него человек проигрывает ИИ так же, как питомец проигрывает человеку:

“If we can figure out how to establish a high bandwidth neural interface with your digital self effectively, then you’re no longer a house cat.” ↗

«Если мы сумеем эффективно наладить широкополосный нейроинтерфейс с твоим цифровым „я“, то ты больше не домашняя кошка.»

Марс — сроки и прямая демократия

Его прогноз по срокам 2016 года (с тех пор не сбывшийся) — пилотируемый запуск к середине десятилетия:

“We should be able to launch people [to Mars] in 2025.” ↗

«Мы должны быть в состоянии отправить людей [на Марс] в 2025 году.»

Более точная версия того же прогноза, как её зафиксировал Time:

“If things go according to plan, we should be able to launch people probably in 2024 with arrival in 2025.” ↗

«Если всё пойдёт по плану, мы должны быть в состоянии отправить людей, вероятно, в 2024 году с прибытием в 2025-м.»

Его видение устройства власти в марсианской колонии — прямая, а не представительная демократия:

“The form of government on Mars would be a direct democracy, not representative.” ↗

«Формой правления на Марсе была бы прямая демократия, а не представительная.»

“I think most likely the form of government on Mars will be direct democracy.” ↗

«Думаю, скорее всего, формой правления на Марсе будет прямая демократия.»

“people voting directly on issues” ↗

«люди голосуют напрямую по вопросам»

Причина, которую он называет, — меньше посредников, меньше захвата власти:

“because the potential of corruption is substantially diminished in a direct versus a representative democracy.” ↗

«потому что потенциал коррупции существенно снижен при прямой демократии по сравнению с представительной.»

SpaceX — выжать максимум из единственной выручки, что есть

О краткосрочной бизнес-логике SpaceX — марсианских денег пока нет, поэтому надо выжать всё из Земли:

“Right now we’re trying to maximize Earth-based revenue. There’s only earth-based revenue, so we’ve got to maximize it as it relates to rockets and spacecraft.” ↗

«Сейчас мы стараемся максимизировать выручку на Земле. Есть только земная выручка, так что нам надо выжимать из неё максимум — в том, что касается ракет и космических кораблей.»

И аналогия, которой он пользуется, чтобы объяснить создание спроса до появления рынка, — трансконтинентальная железная дорога к пустой Калифорнии:

“Space X is like the Union Pacific. Everyone thought 'Union Pacific, What a stupid idea. There’s nobody living in California. Well, now there’s a lot of people living in California.” ↗

«SpaceX — это как Union Pacific. Все думали: „Union Pacific, какая глупая идея. В Калифорнии никто не живёт“. Что ж, теперь в Калифорнии живёт куча людей.»

Связи (затронутые страницы)

• Гипотеза симуляции — создана здесь: аргумент от Pong к фотореализму, вывод один к миллиардам и обнадёживающее прочтение.
• Колонизация Марса — создана здесь: прогноз по срокам 2016 года и видение прямой демократии с его рассуждением о борьбе с коррупцией.
• Илон Маск — получила раздел «Code Conference 2016: симуляция и киборг».
• Экзистенциальный риск ИИ — добавлена реплика 2016 года не все варианты будущего с ИИ безобидны, самая ранняя из имеющихся у нас реплик об ИИ-риске от первого лица.
• Слияние с ИИ — добавлено первое высказывание мы уже киборг (июнь 2016), которое опережает и формулировку YC 2016, и формулировку 2024 года.
• Симбиоз человека и ИИ — добавлен аргумент про домашнюю кошку и широкополосный нейроинтерфейс, самый ранний из имеющихся у нас доводов о пропускной способности.
• SpaceX — получила логику максимизировать земную выручку и аналогию с Union Pacific.