Musk Wiki

Симбиоз человека и ИИ

ДальшеСлияние с ИИ

Симбиоз человека и ИИ

Спросите Илона Маска, зачем он построил Neuralink, и в ответ услышите число. Между человеком и ИИ стоит пропускная способность. Самое безопасное будущее, говорит он Лексу Фридману в 2024 году, — то, где человеческий канал достаточно широк, чтобы держать нас в контуре. Это обнадёживающая обратная сторона его страха перед ИИ: не столько «останови ИИ», сколько «ускорь человека».

Насколько медлителен человек

Начнём с медлительности. Усредни ввод и вывод человека за целые сутки, говорит Маск, и получишь меньше одного бита в секунду:

“If you think what is the average bits per second of a human, it is less than one bit per second over the course of a day.” ↗

«Если задуматься, какова средняя скорость человека в битах в секунду, — это меньше одного бита в секунду на протяжении суток.»

Поставь это рядом с машиной, работающей со скоростью терабиты в секунду, и человек едва считывается как собеседник. Образ, к которому он постоянно возвращается, — дерево:

“If the AI can communicate at terabits per second, and you’re communicating at bits per second, it’s like talking to a tree.” ↗

«Если ИИ может общаться со скоростью терабиты в секунду, а ты общаешься со скоростью биты в секунду, это всё равно что разговаривать с деревом.»

Поэтому рычаг, важный для согласования, по его словам, — это скорость человеческого вывода. Подними её на порядки, и сможешь удержать человеческое намерение сцепленным с машиной:

“We could better align collective human will with AI if the output rate especially was dramatically increased.” ↗

«Мы могли бы лучше согласовать коллективную человеческую волю с ИИ, если бы особенно резко выросла скорость вывода.»

Образ дерева несёт и мысль о согласовании. Низкоскоростному человеку трудно служить, потому что он едва может сказать, чего хочет. Чем больше ты дерево, говорит он, тем меньше кто-либо может понять, чего это дерево хочет (пересказ из того же отрывка).

2016 — без канала пошире ты «домашняя кошка»

Впервые он поставил на эту мысль реальную ставку на Code Conference в июне 2016 года. Зверь — питомец, а не дерево, но предупреждение то же. Без достаточно широкого канала человек попросту проигрывает:

“If we can figure out how to establish a high bandwidth neural interface with your digital self effectively, then you’re no longer a house cat.” ↗

«Если мы сумеем эффективно наладить широкополосный нейроинтерфейс с твоим цифровым „я“, то ты больше не домашняя кошка.»

За этим стоит та самая „уже киборг“, которую он формулирует в том же интервью: телефон уже есть тонкая связь с цифровым «я», и стоит её расширить, как домашняя кошка становится равным. Дерево и арифметика терабит в секунду 2024 года — та же мысль, теперь с числами.

Тремя месяцами позже — «ограничены по пропускной способности»

Язык пропускной способности возвращается той же осенью. В сентябрьской беседе Y Combinator 2016 года, всё ещё до того, как Neuralink стал публичным, Маск ставит человеку диагноз в простых терминах скорости и помещает интерфейс мозга в число своих главных цивилизационных приоритетов:

“I think having a high bandwidth interface to the brain, we’re currently bandwidth limited.” ↗

«Думаю, иметь высокоскоростной интерфейс к мозгу [важно] — сейчас мы ограничены по пропускной способности.»

Уже в 2016 году он прямо увязывает это с безопасностью ИИ: демократизацию ИИ, по его словам, нужно сочетать с решением высокоскоростного интерфейса к коре. Что добавляет 2024 год — это арифметику (меньше одного бита в секунду, «разговор с деревом») и названный рычаг, скорость человеческого вывода. Ядро утверждения устойчиво на протяжении восьми лет. Человеческий канал — узкое место, и расширять его значит двигаться к согласованию.

2017 — «триллион бит в секунду» против большого пальца

К World Government Summit в феврале 2017 года цифры уже приложены. Это арифметика 2024 года меньше одного бита в секунду / как говорить с деревом в более ранней форме. Предел любого слияния он кладёт в пропускную способность, «особенно на выходе», и подаёт разрыв в простых цифрах:

“A computer can communicate at a trillion bits per second, but your thumb can maybe do maybe 10 bits per second or a hundred” ↗

«Компьютер может передавать триллион бит в секунду, а ваш большой палец может, может быть, 10 бит в секунду или сотню»

Его вывод — сам симбиоз. Высокоскоростной интерфейс к мозгу держит человека сцепленным с машиной и, показательно, отвечает на проблему контроля над ИИ:

“So, some high bandwidth interface to the brain I think will be something that helps achieve symbiosis,” ↗

«Так что какой-то высокоскоростной интерфейс к мозгу, я думаю, будет тем, что помогает достичь симбиоза,»

Что чинит симбиоз, он называет так: «проблему контроля и проблему полезности» (пересказ; фраза переходит в следующую реплику). Это тот же ход, согласование через пропускную способность, что и в его реплике 2024 «лучше выровнять коллективную человеческую волю с ИИ». Так 2017 год смыкает ставки 2016 «больше не домашняя кошка» и арифметику 2024 «меньше одного бита в секунду». Человеческий канал, и прежде всего выход через большой палец, — это узкое место, а расширять его и есть рычаг.

2019 — почему гнётся машина, а не мозг

У симбиоза есть тихая инженерная предпосылка, которую цитаты о пропускной способности предполагают, но редко проговаривают: какая сторона подстраивается. В беседе с Лексом Фридманом 2019 года (#49) он говорит это прямо. Мозг — жёсткая сторона, поэтому гнуться приходится машине:

“I think the machine side is far more malleable than the biological side, by a huge amount.” ↗

«Я думаю, машинная сторона куда более податлива, чем биологическая, — на огромную величину.»

Именно поэтому это становится задачей проектирования устройства, а не требованием к человеческой биологии. Канал расширяют, строя гибкий интерфейс, а не переучивая нейроны. Это и несущее допущение под его рассуждением «не можешь победить — присоединяйся» из того же эпизода. Присоединение осуществимо именно потому, что адаптацию несёт машина, а не мозг.

Сам симбиоз он формулирует в том же эпизоде как надежду, а не гарантию. Цифровая и биологическая нейросети взаимодействуют, а человека берут с собой:

“we’re a neural net and AI is basically a neural net. So it’s like digital neural net will interface with biological neural net. And hopefully bring us along for the ride. But the vast majority of our intelligence will be digital.” ↗

«мы нейросеть, и ИИ — по сути нейросеть. Так что цифровая нейросеть будет взаимодействовать с биологической нейросетью. И, будем надеяться, возьмёт нас с собой. Но подавляющая часть нашего интеллекта будет цифровой.»

Вслушайтесь в оговорку: будем надеяться возьмёт нас с собой, и большая часть «нашего» интеллекта окажется цифровой. Это та же ставка, что и в более поздних образах дерева и домашней кошки. Симбиоз — это то, что сохраняет медленную биологическую сторону значимой, когда цифровая берёт верх.

2020 — «необязательно», когда Роган давит с другой стороны

Во втором появлении у Джо Рогана (2020) давление идёт с противоположной стороны, и это заостряет мысль. Роган напирает, не есть ли симбиотические отношения с ИИ нечто, что люди более или менее обязаны принять (формулировка Рогана, пересказ, не реплика Маска). Маск его поправляет. Слияние — это выбор, а не обязанность. Он отвечает, что это необязательно (пересказ; его двухсловная реплика не имеет фрагмента без апострофа для привязки, поэтому не цитируется). И всё же он одобряет это как рациональный шаг:

“you can’t beat them, join them” ↗

«не можешь победить — присоединяйся»

Так к 2020 году симбиоз читается как добровольная самозащита. Не то, к чему человечество принуждено, а то, что человек может выбрать, чтобы не отставать от ИИ (Экзистенциальный риск ИИ, Слияние с ИИ).

Что это раскрывает

  • Он трактует согласование как задачу пропускной способности, а не только как задачу ценностей. Большинство разговоров о безопасности ИИ — о целях и стимулах. Отличительный ход Маска в том, чтобы сделать переменной канал коммуникации: первопринципный способ превратить «сохраняй контроль» в «подними измеримую скорость данных».
  • Единица согласования коллективна. Он говорит о коллективной человеческой воле, а не об отдельном человеке. То, что нужно удерживать сцепленным с ИИ, есть совокупное намерение человечества, и это связывает мысль с его заботой о судьбе цивилизации в целом.
  • Это оптимистичный двойник его страха. Тот же взгляд, что и экзистенциальный риск ИИ, прочитанный с другого конца. Не замедлять машину, а расширять человека — через слияние и Neuralink.

⚠️ Пропускная способность больше не удерживает человека «у руля» (разрешает C2). Обещание выше звучит как утверждение, что пропускная способность сохраняет агентность: поднять скорость вывода человека и так «better align collective human will with AI», удерживая человеческое намерение сцепленным и направляющим. Его пессимизм в отношении контроля 2025 года ставит этому предел. Если суперинтеллект вообще не может контролироваться меньшим интеллектом (аналогия с шимпанзе; «it is difficult to imagine that any humans will actually be in charge»), то более широкий канал не удерживает человека «у руля». На терабитах человек по-прежнему шимпанзе, только с трубочкой пошире. Утверждение выживает в более слабой форме: пропускная способность удерживает человеческую волю сцепленной с ИИ, это поездка, а не поводок. Его собственная оговорка 2019 года уже это признавала: «hopefully bring us along for the ride. But the vast majority of our intelligence will be digital». Полная датированная разработка — в Два ответа на один страх.

Где тезис всплывает впервые (твиты, 2016-2017)

Его самая ранняя твит-форма этой идеи лежит в твитах 2015-2017, это зерно Neuralink. В июне 2016 он формулирует цель напрямую: «Creating a neural lace is the thing that really matters for humanity to achieve symbiosis with machines». К марту 2017 проект открыто становится ответом на экзистенциальный риск: «existential risk is too high not to». А в апреле он сводит всё слияние к одной строке о том, чтобы держать ИИ продолжением человека, а не отдельным, враждебным агентом: «That is the aspiration: to avoid AI becoming other.»

Страховка как вероятность, которую надо поднять (твиты, 2018-2020)

К твитам 2018-2020 симбиоз заявлен прямо как ответ на риск ИИ и впервые как вероятность, которую он хочет толкнуть вверх. Неотложность откровенна: «Need the neural interface soon to enable human/AI symbiosis». В 2019 он раскладывает всё пространство исходов на три варианта: «Symbiosis, irrelevance (hopefully blissful) or doom seem to be the three most likely paths». Самая операциональная строка делает работой Neuralink сдвиг числа с нуля: «trajectory of neuro-silicon symbiosis doesn’t appear to intersect trajectory of AGI. Goal of Neuralink is to raise this probability above 0.0%». Рядом — наблюдение, заземляющее весь проект: «The profound impact of high bandwidth, high precision neural interfaces is underappreciated».

Связанное