Musk Wiki

Слияние с ИИ

ДальшеСознание и смерть

Слияние с ИИ

В беседе с Лексом Фридманом в 2024 году Илон Маск говорит это так, будто сообщает прогноз погоды: люди уже отчасти машины, и мы движемся к более глубокому слиянию. Симбиоз — его аргумент о том, почему это неизбежно (пропускная способность, согласование). А здесь — его картина того, чем мы становимся.

Тезис

Он начинает с того, что отвергает саму посылку, будто слияние — это что-то из далёкого будущего. Твой телефон и ноутбук уже делают тебя киборгом:

“So, you’re actually already a cyborg. You have this tertiary compute layer, which is in the form of your computer with all the applications, or your compute devices.” ↗

«Так что ты на самом деле уже киборг. У тебя есть этот третичный слой вычислений в виде твоего компьютера со всеми приложениями, или твоих вычислительных устройств.»

В его слоистой модели разума этот «третичный слой» сидит поверх лимбической системы и коры. Интерфейс класса Neuralink просто убирает медленное «бутылочное горлышко» клавиатуры и экрана между биологическими слоями и цифровым. Если зайти достаточно далеко, человек перестаёт быть узнаваемо человеком:

“We would be something different. I mean, some sort of futuristic cyborg” ↗

«Мы стали бы чем-то другим. В смысле, каким-то футуристическим киборгом.»

Горизонт он задаёт близкий: не за углом, но порядка десяти-пятнадцати лет (пересказ). Как только это станет безопасным и даст сверхчеловеческие способности и резервную копию памяти, он ожидает массового внедрения — на замену телефону.

Первое «уже киборг» (июнь 2016)

Строчка «уже киборг», с которой открывается беседа 2024 года, не была новой в 2024-м. Почти теми же словами он сказал это ещё на Code Conference в июне 2016 года, самом раннем источнике вики на эту тему. Телефон и компьютер уже делают тебя отчасти машиной:

“We’re already a cyborg.” ↗

«Мы уже киборг.»

“You basically have superpowers with your computer and your phone. You have more power than the president had 20 years ago.” ↗

«По сути, у тебя есть сверхспособности благодаря компьютеру и телефону. У тебя больше власти, чем было у президента 20 лет назад.»

И уже в 2016 году он связывает это со ставкой о пропускной способности. Без слияния человека превзойдёт ИИ — так же, как питомца превосходит хозяин:

“If we can figure out how to establish a high bandwidth neural interface with your digital self effectively, then you’re no longer a house cat.” ↗

«Если мы сумеем эффективно наладить широкополосный нейроинтерфейс с твоим цифровым „я“, то ты больше не домашняя кошка.»

Так что третичный слой вычислений из 2024 года — то же самое утверждение, которое он делал на восемь лет раньше, уже с образом домашней кошки, от которого ставка становится наглядной.

Истоки 2016 года — «симбиот ИИ и человека» и проблема контроля

Беседа Y Combinator 2016 года излагает тезис почти целиком. Это самая ранняя версия в вики, и та, что яснее всего говорит, для чего слияние. Механизм — расширить медленную связь между биологическим мозгом и цифровым «я», которое, как он отмечает, уже существует:

“So if we can effectively merge with AI by improving the neural link between your cortex and the digital extension of yourself, which already exists, it just has a bandwidth issue.” ↗

«Так что, если мы сможем эффективно слиться с ИИ, улучшив нейросвязь между твоим кортексом и цифровым продолжением тебя самого, которое уже существует, — у него просто есть проблема пропускной способности.»

Результат — слитая сущность:

“And then effectively you become an AI human symbiote.” ↗

«И тогда ты, по сути, становишься симбиотом ИИ и человека.»

И здесь, где поздние источники в основном молчат, он прямо говорит, для чего слияние: оно растворяет проблему контроля ИИ, стирая границу между «нами» и «ИИ»:

“We don’t have to worry about some evil dictator AI because we are the AI, collectively.” ↗

«Нам не придётся беспокоиться о каком-то злом ИИ-диктаторе, потому что мы — это ИИ, коллективно.»

Так две половины его аргумента сходятся с противоположных сторон. Эта сентябрьская беседа рассуждает вперёд — к симбиоту как к безопасному пункту назначения; июньская Code Conference выше и беседа 2024 года рассуждают назад, от твоего телефона, показывая, что слияние уже идёт. Фраза «которое уже существует» — место, где они сходятся. Третичный слой, который он называет в 2024-м, всегда сидел внутри картины 2016 года.

Повтор 2017 года — «мы уже киборги» и цифровой призрак

На World Government Summit в феврале 2017 года, между источниками 2016 года и версией Rogan 2018, он говорит это снова:

“To some degree, we are already a cyborg.” ↗

«В какой-то степени мы уже киборги.»

Он проходит по трёхслойной картине: лимбическая система, кора и «ваше цифровое я как третий слой» (пересказ; слои идут через несколько реплик). А потом тянется за образом, который более поздние источники роняют. Цифровой слой постоянен, говорит он, потому что «цифровой призрак» переживает тело в письмах, фотографиях и соцсетях:

“their digital ghost is still around.” ↗

«их цифровой призрак всё ещё рядом.»

И траектория указывает туда же, куда всегда, — к более глубокому слиянию:

“a closer merger of biological intelligence and digital intelligence.” ↗

«более тесное слияние биологического интеллекта и цифрового интеллекта.»

Это тезис 2016 «мы уже киборги» и «ИИ-человеческий симбиот» в его форме начала 2017 года. Половина о пропускной способности звучит в том же дыхании: «триллион бит в секунду» у машины против «10 бит в секунду» у большого пальца. «Цифровой призрак» — всего лишь образ 2017 года для той мысли, что в 2024-м передаёт лексика третичного вычислительного слоя. Цифровой слой уже часть тебя и сохраняется даже после смерти.

Повтор 2018 года — телефон как медленное продолжение

У Джо Рогана в 2018 году, между формулировками 2016 и 2024 годов, он рассказывает ту же историю в самом приземлённом виде. Телефон уже часть тебя; не хватает лишь пропускной способности:

“That phone is an extension of yourself.” ↗

«Этот телефон — продолжение тебя самого.»

Скорость передачи данных между тобой и твоим цифровым «я» он описывает как медленную «тонкую соломинку», которую нейроинтерфейс должен расширить в «огромную реку» (пересказ; точная формулировка варьируется между сторонними расшифровками этого источника). Снова тезис о пропускной способности, за три года до лексики «третичного слоя вычислений» эпохи Neuralink.

«Третичный слой» 2019 года — и «присоединяйся» (Lex Fridman #49)

Беседа с Лексом Фридманом 2019 года (#49) даёт яснейшую раннюю устную формулировку слияния. Она записана, когда демонстрировались первые наработки Neuralink, за пять лет до командного эпизода 2024 года, и она связывает слова «уже киборг» 2016 года с лексикой «третичного вычислительного слоя» 2024 года. Здесь он называет третий слой прямо. Это не телефон, а грядущий цифровой сверхинтеллект поверх лимбической системы и коры:

“And then there’s a tertiary layer which will be digital superintelligence.” ↗

«А ещё есть третичный слой, которым будет цифровой сверхинтеллект.»

И причину, по которой к нему стоит присоединиться, он излагает прямо. Люди не смогут переиграть цифровой суперкомпьютер в мышлении, поэтому разумный ход — слиться:

“We will not feel to be smarter than a digital supercomputer. So therefore, if you cannot beat them, join them.” ↗

«Мы не будем умнее цифрового суперкомпьютера. А значит, не можешь победить — присоединяйся.»

Это та же логика «не можешь победить — присоединяйся», что он повторяет у Рогана в 2020 году. Здесь она в паре с архитектурой третичного слоя и единственной конструкторской предпосылкой, без которой ничего не выйдет: машинная сторона куда более податлива, чем биологическая. Картина «третичного вычислительного слоя» 2024 года — это формулировка 2019 года с одним переименованием: цифровой слой из «грядущего сверхинтеллекта» превращается в «телефон, который у тебя уже есть».

Повтор 2020 года — узкое место на выходе (Joe Rogan #1470)

Во втором появлении у Джо Рогана, в 2020 году, он даёт ту же картину в самой сжатой форме. Слияние уже существует; не хватает пропускной способности, и именно вывода:

“we’re already a cyborg to some degree” ↗

«мы уже в какой-то степени киборги»

“the data rate to the electronics is slow” ↗

«скорость передачи данных к электронике низкая»

Скорость вывода у человека он оценивает, при щедром прочтении, в низкие сотни бит в секунду против куда более высоких машинных скоростей (точное число различается между расшифровками этого источника, поэтому перефразировано, а не процитировано). Роган подаёт слияние как нечто, что люди более или менее обязаны принять (это пересказ слов Рогана). Маск же превращает это обратно в выбор, в Симбиоз человека и ИИ, всё равно поддерживая его, чтобы люди могли не отставать от ИИ (Экзистенциальный риск ИИ). То же утверждение 2016 года про «домашнюю кошку» и пропускную способность, в обыденном наряде 2020-го.

Коллективный киборг — «humanity acquiring a nervous system» (Tesla AI Day 2022)

На Tesla AI Day 2022 в сентябре, в том же Q&A, где он подаёт AGI Tesla как эмерджентный (отслеживается на Экзистенциальный риск ИИ), он обращает идею киборга вовне — от индивида к коллективу. Интеллект, доказывает он, уже существует в масштабе вида:

“arguably humans collectively are sort of a superintelligence as well” ↗

«можно сказать, люди коллективно — это тоже своего рода сверхинтеллект»

И, как и в его индивидуально-киборговом аргументе, рычаг — это пропускная способность. Коллективный интеллект растёт по мере улучшения скорости передачи данных между людьми. Его образ для последнего большого скачка — интернет как новый орган:

“the internet was like humanity acquiring a nervous system” ↗

«интернет был как обретение человечеством нервной системы»

Внезапно «любой отдельный элемент человечества мог знать всё знание людей», а не обмениваться информацией медленно, «осмосом» — написать письмо, нести его вручную (пересказ). Это тот же инстинкт «мы уже киборги» и пропускной способности, что тянется с 2016 по 2020 год, только масштабированный. Индивидуальный киборг человек-плюс-телефон и коллективный человеческий сверхинтеллект — один и тот же аргумент о слиянии на двух масштабах. Он вкладывает его прямо в обсуждение AGI: машинный AGI и сетевой человеческий коллектив как два лица одного эмерджентного интеллекта.

Что это раскрывает

  • Преемственность, а не разрыв. Он представляет слияние как следующий шаг на пути, по которому мы уже идём, и в его изложении это делает радикальную идею почти неизбежной. Тот же ход он делает с заселением Марса, трактуя его как логическое продолжение статуса многопланетного вида.
  • Идентичность не зависит от субстрата. Поскольку он трактует опыт как информацию и электрический сигнал, добавление цифрового слоя — не угроза «я», а его расширение. Настоящей потерей была бы потеря памяти; приобретение оборудования — нет.
  • Это его личная ставка в аргументе о безопасности ИИ. Слияние — то, как человек избегает участи медленного дерева. Это снижение риска, нацеленное на отдельное тело, а не только на политику.

⚠️ Слияние больше не избегает контроля (разрешает C1). Процитированная выше «цель» слияния 2016 года, «We don’t have to worry about some evil dictator AI because we are the AI, collectively», была утверждением, что слияние растворяет проблему контроля, не оставляя отдельного ИИ, который мог бы быть «у руля». Его пессимизм в отношении контроля 2025 года ограничивает это обещание. Шимпанзе не может контролировать людей, что бы он ни делал (аналогия с шимпанзе), и «the AI is going to be in charge … not humans», так что слитый человек, работающий на терабитах, по-прежнему остаётся меньшим интеллектом в контуре. По его же позднейшим рассуждениям слияние соскользнуло с решения проблемы контроля на способ прокатиться вместе с ИИ. Оговорка была с самого начала: формулировка 2019 года «hopefully bring us along for the ride … the vast majority of our intelligence will be digital» (на Симбиоз человека и ИИ). Полная датированная разработка — в Два ответа на один страх.

Самые ранние твиты о тезисе слияния (2016-2017)

Тезис о слиянии рано появился и в Twitter. Июнь 2016, в твитах 2015-2017: «Creating a neural lace is the thing that really matters for humanity to achieve symbiosis with machines» — идея нейронного кружева (neural lace), которая становится Neuralink. А апрель 2017 даёт всему проекту его самую сжатую однострочную формулировку — держать ИИ продолжением человечества, а не отдельным, враждебным агентом: «That is the aspiration: to avoid AI becoming other.»

Связанное