Y Combinator (2016)
ДальшеИлон Маск- Интервьюер: Сэм Альтман (тогда президент YC Group), для серии How to Build the Future.
- Формат: Снятая на видео беседа / подкаст, ~21 минута.
- Дата: 15 сентября 2016.
- Уровень доверия: verified (Tier 1). Официальная стенограмма в блоге Y Combinator снабжена таймкодами.
- Цитаты: из официальной стенограммы Y Combinator. Интервьюер — Сэм Альтман, и цитируются только реплики Илона Маска; ни одно слово Альтмана Маску не приписывается.
Краткое содержание
Двадцать одна минута, и почти ни одного лишнего слова. Илон Маск садится напротив Сэма Альтмана сразу после того, как стал сооснователем OpenAI («компании, которой полгода», по его словам), и незадолго до того, как основал Neuralink. Почти каждая тема, которую подробно разворачивают более поздние источники из собранных здесь, здесь уже есть в сжатом виде, и это делает 2016 год удобной ранней отметкой для того, как его мышление двигалось дальше.
Самое важное собрано в четырёх местах. О том, чем заниматься, он даёт самую ясную раннюю формулировку теста на полезность: прирост полезности, умноженный на число затронутых людей, «площадь под кривой». Он же ранжирует цивилизационные приоритеты: сначала ИИ, затем генетика, затем интерфейс мозга. Об ИИ он говорит как о главном риске ближайшего времени и излагает своё решение образца 2016 года. Распространить технологию так, чтобы никто один её не контролировал (демократизировать её), — именно этим он объясняет, зачем стал сооснователем OpenAI. Контраст с его поздней горечью, после того как лаборатория стала закрытой и коммерческой, трудно не заметить. О мозге он называет людей «ограниченными по пропускной способности» и набрасывает симбиоз ИИ и человека, высокоскоростной нейроинтерфейс, ставший Neuralink. Сказано это за год до того, как компания стала публичной. И о психологии он откровенен насчёт страха: чувствует его «весьма сильно», опирается на фатализм (прими вероятности), чтобы его уменьшить, и всё равно действует. В основе лежит энтропийный взгляд на цивилизацию, при котором технология улучшается, только если люди борются за её улучшение.
Ключевые цитаты
Чем заниматься — полезность важнее «изменения мира»
Его первый ход: тест — это польза, а не грандиозность; даже малое добро, распространённое широко, засчитывается.
“Stuff doesn’t need to change the world to be good.” ↗
«Вещам не обязательно менять мир, чтобы быть хорошими.»
Эвристика, которую, по его словам, он оптимизировал в собственной юности:
“That’s the optimization, what can I do that would actually be useful?” ↗
«Вот в чём оптимизация: что я могу сделать такого, что действительно было бы полезным?»
Формула, лежащая за этим, — влияние на человека, умноженное на охват:
“Whatever this thing is that you’re trying to create, what would be the utility delta compared to the current state of the art times how many people it would affect.” ↗
«Что бы это ни было, что ты пытаешься создать, — каков прирост полезности по сравнению с текущим уровнем, умноженный на то, сколько людей это затронет.»
ИИ как главный риск ближайшего времени
Его ранжирование цивилизационных приоритетов ставит ИИ на первое место:
“But in terms of things that I think are most likely to affect the future of humanity, I think AI is probably the single biggest item in the near term that’s likely to affect humanity.” ↗
«Но что касается вещей, которые, как я думаю, с наибольшей вероятностью повлияют на будущее человечества, — я думаю, что ИИ — вероятно, самый крупный пункт ближайшего времени, способный повлиять на человечество.»
Планка, которую он задаёт для правильного исхода, — тест с хрустальным шаром:
“It’s very important that we have the advance of AI in a good way that is something that if you could look into a crystal ball and see the future you would like that outcome.” ↗
«Очень важно, чтобы развитие ИИ шло хорошим путём — таким, что, заглянув в хрустальный шар и увидев будущее, ты бы одобрил этот исход.»
Его средство 2016 года — распространить технологию так, чтобы никто один её не контролировал:
“is that we achieve democratization of AI technology, meaning that no one company or small set of individuals has control over advanced AI technology.” ↗
«…это чтобы мы достигли демократизации технологий ИИ — то есть чтобы ни одна компания и ни малая группа лиц не имели контроля над передовыми технологиями ИИ.»
Зачем существует OpenAI, в его изложении, — минимизация экзистенциального риска:
“I think people really believe in the mission. I think it’s important and it’s about minimizing the risk of existential harm in the future.” ↗
«Думаю, люди действительно верят в миссию. Думаю, это важно, и речь идёт о минимизации риска экзистенциального вреда в будущем.»
Мозг как задача пропускной способности — зерно Neuralink
За годы до большинства собранных здесь источников он уже описывает человека как ограниченного по пропускной способности:
“I think having a high bandwidth interface to the brain, we’re currently bandwidth limited.” ↗
«Думаю, иметь высокоскоростной интерфейс к мозгу [важно] — сейчас мы ограничены по пропускной способности.»
Слияние, набросанное как решение для медленного канала между кортексом и машиной:
“So if we can effectively merge with AI by improving the neural link between your cortex and the digital extension of yourself, which already exists, it just has a bandwidth issue.” ↗
«Так что, если мы сможем эффективно слиться с ИИ, улучшив нейросвязь между твоим кортексом и цифровым продолжением тебя самого, которое уже существует, — у него просто есть проблема пропускной способности.»
Пункт назначения — человек и ИИ, слитые воедино:
“And then effectively you become an AI human symbiote.” ↗
«И тогда ты, по сути, становишься симбиотом ИИ и человека.»
Как это решает проблему контроля — стирая границу «мы против него»:
“We don’t have to worry about some evil dictator AI because we are the AI, collectively.” ↗
«Нам не придётся беспокоиться о каком-то злом ИИ-диктаторе, потому что мы — это ИИ, коллективно.»
Страх, фатализм и энтропия
Он прямо говорит, что бесстрашие, которое в нём видят другие, — не отсутствие страха:
“But there are just times when something is important enough, you believe in it enough that you do it in spite of the fear.” ↗
«Но просто бывают моменты, когда что-то достаточно важно, ты достаточно в это веришь, что делаешь это вопреки страху.»
Его заявленный механизм совладания — фатализм, принятие шансов:
“Yeah, you know something that can be helpful is fatalism.” ↗
«Да, знаешь, что может помочь, так это фатализм.»
Механизм, изложенный явно:
“If you just accept the probabilities, then that diminishes fear.” ↗
«Если ты просто принимаешь вероятности, это уменьшает страх.»
Его взгляд на технологический прогресс как на то, за что приходится бороться против упадка:
“It only gets better if smart people work like crazy to make it better.” ↗
«Оно становится лучше, только если умные люди работают как сумасшедшие, чтобы сделать его лучше.»
Принцип, который он выводит из падения цивилизаций:
“So I think, sure, let’s bear in mind that entropy is not on your side.” ↗
«Так что, думаю, конечно, будем помнить, что энтропия не на твоей стороне.»
Инженер, а не бизнесмен
На вопрос, как он проводит время, он представляет себя прежде всего инженером — и указывает на завод как на более трудную задачу:
“Because the biggest company I’ve had this year is that what really matters is the machine that builds the machine, the factory.” ↗
«Потому что главное открытие этого года для меня в том, что по-настоящему важна машина, которая строит машину, — завод.»
Связи (затронутые страницы)
- Илон Маск — получает раздел «Y Combinator 2016: взгляды в зачаточном виде»: эвристика полезности, решение через демократизацию ИИ, ранняя идея пропускной способности мозга и симбиота, страх и фатализм, энтропийный взгляд на цивилизацию.
- Сэм Альтман — создана: интервьюер, сооснователь OpenAI и главный визави Маска в ранней истории OpenAI.
- Максимизация полезности — создана: эвристика «прирост полезности × число затронутых людей / площадь под кривой» для выбора того, чем заниматься.
- Экзистенциальный риск ИИ — расширена его позицией 2016 года: ИИ как главный риск ближайшего времени, демократизация как средство и OpenAI как способ снизить экзистенциальный риск (на фоне его позднего вердикта из #400).
- Слияние с ИИ — расширена идеей 2016 года «симбиот ИИ и человека» и «мы — это ИИ, коллективно», самым ранним изложением тезиса о слиянии из того, что у нас есть.
- Симбиоз человека и ИИ — расширена зерном 2016 года «ограничены по пропускной способности» и «высокоскоростной интерфейс к мозгу» позднейшего аргумента о пропускной способности.
- Neuralink — расширена докомпанийной (2016) версией идеи интерфейса мозга, ставшей Neuralink.
- Страх неудачи — расширена его рассказом от первого лица 2016 года: страх чувствуется «весьма сильно», фатализм как инструмент, который его уменьшает, действие «вопреки страху».
- Первопринципы — расширена аргументом об энтропии: технология улучшается, только если люди борются за её улучшение.