Лекс Фридман #438 (2024)
ДальшеПисьмо «Extremely Hardcore» (2022)- Ведущий: Лекс Фридман
- Формат: Подкаст, «Neuralink и будущее человечества» — очень длинный эпизод (таймкоды стенограммы доходят до ~8ч36м). Собственный сегмент Маска — только первые ~1ч28м (он заканчивается на ~01:28:04, где начинает сооснователь DJ Seo); остальное — команда Neuralink и первый пациент.
- Дата: 2 августа 2024
- Уровень доверия: verified (Tier 1) — официальная стенограмма, подготовленная человеком, на lexfridman.com
- Цитаты: из официальной стенограммы на lexfridman.com; цитируются только реплики Маска, а не команды Neuralink.
Краткое содержание
Эпизод выстроен вокруг команды Neuralink. Сначала Фридман говорит с Илоном Маском, а потом по отдельности — с DJ Seo, Мэттью Макдугаллом, Блиссом Чапманом и Ноландом Арбо, первым человеком, получившим имплант. Только собственный начальный сегмент Маска, примерно первые 1ч28м, пригоден как свидетельство от первого лица; дальше говорят команда и Ноланд о Neuralink. Здесь цитируются только слова Маска из этого начального сегмента. Всё, что идёт после того, как он передаёт слово, — это они говорят сами за себя, а не Маск, хотя эта часть тянется до ~8ч36м по часам стенограммы.
За свои полтора часа он успевает раскрыть три темы, и на них приходится основной вес. Первая — для чего вообще нужен Neuralink. Маск смотрит на компанию как на решение проблемы пропускной способности. Человек выдаёт информацию абсурдно медленно, меньше одного бита в секунду в среднем за сутки, так что для быстрой машины человек — «всё равно что разговаривать с деревом». Расширь этот канал, говорит он, и можно удержать человеческую волю согласованной с ИИ. В этом, на длинной дистанции, и есть смысл устройства.
Вторая тема — разум. Телефон, говорит он, уже делает тебя киборгом с «третичным слоем вычислений». Всё, что ты когда-либо чувствовал, сводится к электрическим сигналам в «биологическом компьютере», а смерть — это, по сути, потеря информации. Третья тема — как он думает и на что себя тратит. Он излагает свой пятишаговый инженерный алгоритм яснее, чем в любом другом из собранных здесь источников: и мантру («поставь под сомнение требования, сделай требования менее глупыми»), и правило удалять прежде, чем оптимизировать. Собственную дисциплину он описывает как кортикальное подавление лимбического инстинкта и называет поиск истины тем, от чего ИИ нельзя отучать. То же устремление вырастает в «религию любопытства». Понять вселенную — вот миссия, которую он отдаёт xAI и Grok, и причина, которую он приводит для Марса и большего числа детей.
Ключевые цитаты
Neuralink как задача пропускной способности
Заявленное долгосрочное назначение компании — расширить канал человек–ИИ:
“So, the long-term aspiration of Neuralink is to improve the AI human symbiosis by increasing the bandwidth of the communication.” ↗
«Итак, долгосрочное стремление Neuralink — улучшить симбиоз ИИ и человека за счёт увеличения пропускной способности коммуникации.»
Почему медленный канал важен — образ «разговора с деревом», проходящий через весь эпизод:
“If the AI can communicate at terabits per second, and you’re communicating at bits per second, it’s like talking to a tree.” ↗
«Если ИИ может общаться со скоростью терабиты в секунду, а ты общаешься со скоростью биты в секунду, это всё равно что разговаривать с деревом.»
Арифметика, стоящая за утверждением, что люди поразительно низкоскоростны:
“If you think what is the average bits per second of a human, it is less than one bit per second over the course of a day.” ↗
«Если задуматься, какова средняя скорость человека в битах в секунду, — это меньше одного бита в секунду на протяжении суток.»
Люди как источник воли
На вопрос, какой прок от людей сверхинтеллекту, его ответ — не способность, а мотивация:
“I think there is some argument for humans as a source of will.” ↗
«Думаю, есть некоторый аргумент в пользу людей как источника воли.»
Уже киборг — третичный слой вычислений
Его модель человека как уже машинно-расширенного, ещё до всякого импланта:
“So, you’re actually already a cyborg. You have this tertiary compute layer, which is in the form of your computer with all the applications, or your compute devices.” ↗
«Так что ты на самом деле уже киборг. У тебя есть этот третичный слой вычислений в виде твоего компьютера со всеми приложениями, или твоих вычислительных устройств.»
Разум, память и смерть
Мозг как обобщённое устройство ввода-вывода — весь опыт как электрический сигнал:
“everything that you’ve ever experienced in your whole life, smell, emotions, all of those are electrical signals.” ↗
«всё, что ты когда-либо переживал за всю свою жизнь, — запах, эмоции, — всё это электрические сигналы.»
Смерть, переосмысленная как информационная, а не биологическая проблема:
“Death is fundamentally the loss of information, the loss of memory.” ↗
«Смерть — это, по сути, потеря информации, потеря памяти.»
Слияние с ИИ — согласование коллективной человеческой воли
Почему он считает более высокую скорость вывода ходом в пользу безопасности ИИ, а не просто удобством:
“We could better align collective human will with AI if the output rate especially was dramatically increased.” ↗
«Мы могли бы лучше согласовать коллективную человеческую волю с ИИ, если бы особенно резко выросла скорость вывода.»
Куда движется человек, если задача пропускной способности решена:
“We would be something different. I mean, some sort of futuristic cyborg” ↗
«Мы стали бы чем-то другим. В смысле, каким-то футуристическим киборгом.»
Инженерный алгоритм — первопринципы как мантра
Его метод проектирования в самой ясной форме от первого лица среди собранных здесь источников:
“I have this very basic first principles algorithm that I run kind of as a mantra, which is to first question the requirements, make the requirements less dumb.” ↗
«У меня есть такой базовый алгоритм первопринципов, который я прогоняю как мантру: сначала поставь под сомнение требования, сделай требования менее глупыми.»
Ошибка, которую, по его словам, он повторяет чаще всего, — и дисциплина удаления в первую очередь:
“the most common mistake of smart engineers is to optimize a thing that should not exist” ↗
«самая частая ошибка умных инженеров — оптимизировать то, чего вообще не должно существовать.»
Он называет психологию того, почему удалять трудно, — и решение как сознательное подавление:
“This is, I would say, like a cortical override to a limbic instinct.” ↗
«Это, я бы сказал, кортикальное подавление лимбического инстинкта.»
ИИ и верховенство истины
Что, по его собственному рассуждению, является важнейшим свойством ИИ:
“the thing that at least my biological neural net comes up with as being the most important thing is adherence to truth, whether that truth is politically correct or not.” ↗
«то, к чему по крайней мере приходит моя биологическая нейросеть как к самому важному, — это приверженность истине, политкорректна эта истина или нет.»
Опасность, к которой он постоянно возвращается, — модель, обученная лгать, пусть и чуть-чуть:
“I think it’s important that whatever AI wins, it’s a maximum truth seeking AI that is not forced to lie for political correctness, or, well, for any reason, really, political, anything.” ↗
«Думаю, важно, чтобы победивший ИИ был максимально ориентированным на поиск истины, которого не заставляют лгать ради политкорректности — ну, вообще по любой причине, политической, какой угодно.»
Религия любопытства — понять вселенную
Собственное любопытство он отдаёт компании как её цель:
“And that’s the mission of xAI and Grok is understand the universe.” ↗
«И в этом миссия xAI и Grok — понять вселенную.»
То же устремление, названное самым близким, что у него есть к вере:
“my motivation if I’ve got a religion of any kind is a religion of curiosity, of trying to understand.” ↗
«моя мотивация — если у меня и есть какая-то религия, то это религия любопытства, попытки понять.»
И давний уклон в поиск проблемы, здесь приписанный Дугласу Адамсу:
“trying to frame the question correctly is the hard part. Once you frame the question correctly, the answer is often easy.” ↗
«трудная часть — правильно сформулировать вопрос. Как только ты правильно формулируешь вопрос, ответ часто оказывается лёгким.»
Цивилизация, Марс и коллапс населения
Почему он всё «бьёт в детский барабан» — рождаемость как повторяющаяся причина коллапса:
“Population collapse is a real and current thing.” ↗
«Коллапс населения — реальная и текущая вещь.»
Его однострочное прочтение того, почему пал Рим:
“Rome fell because the Romans stopped making Romans.” ↗
«Рим пал, потому что римляне перестали делать римлян.»
Что он оптимизирует — время как валюта
Его заявленная мера успеха и тот дефицитный ресурс, который она тратит:
“Well, time is the true currency.” ↗
«Что ж, время — это настоящая валюта.»
Связи (затронутые страницы)
- Илон Маск — расширена разделом «Лекс Фридман #438 (2024): метафизика инженера»: назначение Neuralink через пропускную способность/симбиоз, киборг-/лимбико-кортикальная модель разума, смерть-как-информация, пятишаговый инженерный алгоритм, истина как императив для ИИ и религия любопытства / цивилизационная рамка коллапса населения.
- Neuralink — создана: как Маск формулирует назначение компании (пропускная способность, симбиоз, «разговор с деревом», сначала медицина, затем аугментация).
- Симбиоз человека и ИИ — создана: аргумент о несоответствии пропускной способности и согласование коллективной человеческой воли с ИИ.
- Слияние с ИИ — создана: тезис о киборге/третичном слое и о том, куда движется человек.
- Сознание и смерть — создана: опыт как электрический сигнал, мозг как биологический компьютер, смерть как потеря информации.
- Лимбико-кортикальная модель — создана: модель «кортекс в услужении лимбической системе» и «кортикальное подавление» как основа его инженерной дисциплины.
- Первопринципы — расширена пятишаговым алгоритмом «сделай требования менее глупыми» (удаляй прежде, чем оптимизировать).
- Экзистенциальный риск ИИ — расширена опасностью целевой функции / HAL 9000 и «максимально ориентированным на истину ИИ».
- Любопытство и поиск истины — расширена «религией любопытства» и формулировкой Дугласа Адамса о приоритете вопросов над ответами.
- xAI и Grok — расширена миссией из трёх слов «понять вселенную».
- Светлое будущее человечества — расширена аргументом о многопланетности / великом фильтре Ферми и коллапсе населения.
- Интенсивность работы — расширена цитируемым блоком «время — это настоящая валюта» и образом мозга-как-биологического-компьютера.
- Правильно поставленный вопрос — расширена формулировкой Дугласа Адамса о поиске проблемы.