Лекс Фридман #438 (2024)

• Ведущий: Лекс Фридман
• Формат: Подкаст, «Neuralink и будущее человечества» — очень длинный эпизод (таймкоды стенограммы доходят до ~8ч36м). Собственный сегмент Маска — только первые ~1ч28м (он заканчивается на ~01:28:04, где начинает сооснователь DJ Seo); остальное — команда Neuralink и первый пациент.
• Дата: 2 августа 2024
• Уровень доверия: verified (Tier 1) — официальная стенограмма, подготовленная человеком, на lexfridman.com
• Цитирование: каждая блок-цитата привязана к официальной стенограмме по адресу https://lexfridman.com/elon-musk-and-neuralink-team-transcript/ через фрагмент #:~:text=, декодированная часть которого является дословной подстрокой стенограммы.

Краткое содержание

Это эпизод с командой Neuralink: одна длинная запись, в которой Лекс Фридман отдельно беседует с Илоном Маском и с участниками команды Neuralink — DJ Seo, Мэттью Макдугаллом, Блиссом Чапманом и первым человеком с имплантом, Ноландом Арбо. Для вики о разуме Маска в качестве свидетельства от первого лица пригоден только его собственный начальный сегмент (~первые 1ч28м); всё, что идёт после его передачи слова (бо́льшая часть этого очень длинного эпизода — команда и Ноланд, тянущаяся до ~8ч36м по таймкодам самой стенограммы), — это их рассказ о Neuralink, а не его, и здесь не цитируется. Приведённые ниже извлечения взяты исключительно из сегмента Маска.

Внутри этого сегмента самый ценный материал собирается в трёх местах. О назначении Neuralink Маск переформулирует компанию как задачу пропускной способности: вывод человека абсурдно медленный (менее одного бита в секунду в среднем за сутки), так что для быстрого ИИ человек — «всё равно что разговаривать с деревом», а долгосрочный смысл устройства — расширить канал и удержать человеческую волю согласованной с ИИ. О разуме, сознании и о том, что ты киборг, он утверждает, что телефон уже делает тебя киборгом с «третичным слоем вычислений», что опыт сводится к электрическим сигналам в «биологическом компьютере» и что смерть — это, по сути, потеря информации. И о том, как он рассуждает и что оптимизирует, он даёт самую чистую публичную формулировку своего пятишагового инженерного алгоритма («поставь под сомнение требования, сделай требования менее глупыми»; удаляй прежде, чем оптимизировать), описывает дисциплину как кортикальное подавление лимбического инстинкта, называет поиск истины тем, от чего ИИ нельзя отучать, и снова излагает свою «религию любопытства» — понять вселенную — как общую миссию xAI/Grok и причину для Марса и большего числа детей.

Ключевые цитаты (дословно, с привязкой к стенограмме — только Илон Маск)

Neuralink как задача пропускной способности

Заявленное долгосрочное назначение компании — расширить канал человек–ИИ:

“So, the long-term aspiration of Neuralink is to improve the AI human symbiosis by increasing the bandwidth of the communication.” ↗

«Итак, долгосрочное стремление Neuralink — улучшить симбиоз ИИ и человека за счёт увеличения пропускной способности коммуникации.»

Почему медленный канал важен — образ «разговора с деревом», проходящий через весь эпизод:

“If the AI can communicate at terabits per second, and you’re communicating at bits per second, it’s like talking to a tree.” ↗

«Если ИИ может общаться со скоростью терабиты в секунду, а ты общаешься со скоростью биты в секунду, это всё равно что разговаривать с деревом.»

Арифметика, стоящая за утверждением, что люди поразительно низкоскоростны:

“If you think what is the average bits per second of a human, it is less than one bit per second over the course of a day.” ↗

«Если задуматься, какова средняя скорость человека в битах в секунду, — это меньше одного бита в секунду на протяжении суток.»

Люди как источник воли

На вопрос, какой прок от людей сверхинтеллекту, его ответ — не способность, а мотивация:

“I think there is some argument for humans as a source of will.” ↗

«Думаю, есть некоторый аргумент в пользу людей как источника воли.»

Уже киборг — третичный слой вычислений

Его модель человека как уже машинно-расширенного, ещё до всякого импланта:

“So, you’re actually already a cyborg. You have this tertiary compute layer, which is in the form of your computer with all the applications, or your compute devices.” ↗

«Так что ты на самом деле уже киборг. У тебя есть этот третичный слой вычислений в виде твоего компьютера со всеми приложениями, или твоих вычислительных устройств.»

Разум, память и смерть

Мозг как обобщённое устройство ввода-вывода — весь опыт как электрический сигнал:

“everything that you’ve ever experienced in your whole life, smell, emotions, all of those are electrical signals.” ↗

«всё, что ты когда-либо переживал за всю свою жизнь, — запах, эмоции, — всё это электрические сигналы.»

Смерть, переосмысленная как информационная, а не биологическая проблема:

“Death is fundamentally the loss of information, the loss of memory.” ↗

«Смерть — это, по сути, потеря информации, потеря памяти.»

Слияние с ИИ — согласование коллективной человеческой воли

Почему более высокая скорость вывода, в его рамке, — это ход в пользу безопасности ИИ:

“We could better align collective human will with AI if the output rate especially was dramatically increased.” ↗

«Мы могли бы лучше согласовать коллективную человеческую волю с ИИ, если бы особенно резко выросла скорость вывода.»

Куда движется человек, если задача пропускной способности решена:

“We would be something different. I mean, some sort of futuristic cyborg” ↗

«Мы стали бы чем-то другим. В смысле, каким-то футуристическим киборгом.»

Инженерный алгоритм — первопринципы как мантра

Самая чистая формулировка его метода проектирования во всей вики, от первого лица:

“I have this very basic first principles algorithm that I run kind of as a mantra, which is to first question the requirements, make the requirements less dumb.” ↗

«У меня есть такой базовый алгоритм первопринципов, который я прогоняю как мантру: сначала поставь под сомнение требования, сделай требования менее глупыми.»

Ошибка, которую, по его словам, он повторяет чаще всего, — и дисциплина удаления в первую очередь:

“the most common mistake of smart engineers is to optimize a thing that should not exist” ↗

«самая частая ошибка умных инженеров — оптимизировать то, чего вообще не должно существовать.»

Он называет психологию того, почему удалять трудно, — и решение как сознательное подавление:

“This is, I would say, like a cortical override to a limbic instinct.” ↗

«Это, я бы сказал, кортикальное подавление лимбического инстинкта.»

ИИ и верховенство истины

Что, по его собственному рассуждению, является важнейшим свойством ИИ:

“the thing that at least my biological neural net comes up with as being the most important thing is adherence to truth, whether that truth is politically correct or not.” ↗

«то, к чему по крайней мере приходит моя биологическая нейросеть как к самому важному, — это приверженность истине, политкорректна эта истина или нет.»

Опасность, к которой он постоянно возвращается, — модель, обученная лгать, пусть и чуть-чуть:

“I think it’s important that whatever AI wins, it’s a maximum truth seeking AI that is not forced to lie for political correctness, or, well, for any reason, really, political, anything.” ↗

«Думаю, важно, чтобы победивший ИИ был максимально ориентированным на поиск истины, которого не заставляют лгать ради политкорректности — ну, вообще по любой причине, политической, какой угодно.»

Религия любопытства — понять вселенную

Его миссия для Grok, изложенная как институциональная версия его собственного устремления:

“And that’s the mission of xAI and Grok is understand the universe.” ↗

«И в этом миссия xAI и Grok — понять вселенную.»

То же устремление, названное самым близким, что у него есть к вере:

“my motivation if I’ve got a religion of any kind is a religion of curiosity, of trying to understand.” ↗

«моя мотивация — если у меня и есть какая-то религия, то это религия любопытства, попытки понять.»

И давний уклон в поиск проблемы, здесь приписанный Дугласу Адамсу:

“trying to frame the question correctly is the hard part. Once you frame the question correctly, the answer is often easy.” ↗

«трудная часть — правильно сформулировать вопрос. Как только ты правильно формулируешь вопрос, ответ часто оказывается лёгким.»

Цивилизация, Марс и коллапс населения

Почему он всё «бьёт в детский барабан» — рождаемость как повторяющаяся причина коллапса:

“Population collapse is a real and current thing.” ↗

«Коллапс населения — реальная и текущая вещь.»

Его однострочное прочтение того, почему пал Рим:

“Rome fell because the Romans stopped making Romans.” ↗

«Рим пал, потому что римляне перестали делать римлян.»

Что он оптимизирует — время как валюта

Его заявленная мера успеха и тот дефицитный ресурс, который она тратит:

“Well, time is the true currency.” ↗

«Что ж, время — это настоящая валюта.»

Связи (затронутые страницы)

• Илон Маск — расширена разделом «Что раскрывает Лекс Фридман #438»: назначение Neuralink через пропускную способность/симбиоз, киборг-/лимбико-кортикальная модель разума, смерть-как-информация, пятишаговый инженерный алгоритм, истина как императив для ИИ и религия любопытства / цивилизационная рамка коллапса населения.
• Neuralink — создана: как Маск формулирует назначение компании (пропускная способность, симбиоз, «разговор с деревом», сначала медицина, затем аугментация).
• Симбиоз человека и ИИ — создана: аргумент о несоответствии пропускной способности и согласование коллективной человеческой воли с ИИ.
• Слияние с ИИ — создана: тезис о киборге/третичном слое и о том, куда движется человек.
• Сознание и смерть — создана: опыт как электрический сигнал, мозг как биологический компьютер, смерть как потеря информации.
• Лимбико-кортикальная модель — создана: модель «кортекс в услужении лимбической системе» и «кортикальное подавление» как основа его инженерной дисциплины.
• Первопринципы — расширена пятишаговым алгоритмом «сделай требования менее глупыми» (удаляй прежде, чем оптимизировать).
• Экзистенциальный риск ИИ — расширена опасностью целевой функции / HAL 9000 и «максимально ориентированным на истину ИИ».
• Любопытство и поиск истины — расширена «религией любопытства» и формулировкой Дугласа Адамса о приоритете вопросов над ответами.
• xAI и Grok — расширена миссией из трёх слов «понять вселенную».
• Светлое будущее человечества — расширена аргументом о многопланетности / великом фильтре Ферми и коллапсе населения.
• Интенсивность работы — расширена цитируемым блоком «время — это настоящая валюта» и образом мозга-как-биологического-компьютера.
• Правильно поставленный вопрос — расширена формулировкой Дугласа Адамса о поиске проблемы.