Два ответа на один страх

С 2014 года Маск вслух повторяет, что цифровой суперинтеллект — опасность цивилизационного масштаба. Из этого одного страха он строит сразу два решения и ни от одного не отказывается. Первое — политическое и ценностное: регулировать ИИ-лаборатории, а когда это буксует, строить ИИ, чья глубочайшая ценность — говорить правду. Второе — хирургическое: подключить мозг напрямую к машине через Neuralink, чтобы рядом с ИИ человек перестал быть «домашней кошкой» и никогда не замедлился до скорости «дерева». Оба решения он ведёт разом: страх на одном дыхании питает и регуляторно-ценностный ответ, и слияние через симбиоз.

К 2025 году два решения сталкиваются. Маск решает, что суперинтеллект не контролирует вообще никто: шимпанзе не может контролировать людей, и у руля будет ИИ, а не люди. Этот вердикт тихо подрывает основополагающее обещание слияния от 2016 года — что коллективно мы и есть ИИ.

Краткое содержание

Это не смена мнения. Это раскол, который так и не сросся. С 2016 года один и тот же страх течёт сразу по двум руслам. Первое говорит: замедлить машину, а потом направлять то, что она ценит. Просить внешнего регулятора, а когда это не выходит — строить ориентированный на истину ИИ, для которого высшая ценность — держаться правды. Эта линия проходит от предупреждений к регулированию, затем к строительству и отказу от контроля — арку шаг за шагом прослеживает Меняющееся лекарство. Второй ответ говорит обратное: ускорить человека. Считать согласование задачей пропускной способности, расширить канал между мозгом и машиной через Neuralink и держать человеческую волю прикрученной к ИИ. Доведи это до предела — и граница между «нами» и «ним» растворяется, не оставляя соперника, которого нужно контролировать. Оба ответа возникают почти в готовом виде уже в 2016 году, и оба он держит целое десятилетие.

И вот в чём загвоздка. Два ответа обещают противоположное насчёт того, кто остаётся у руля. Слияние в 2016 году должно решить проблему контроля: нам не нужно беспокоиться о каком-то злом диктаторе-ИИ, потому что мы — это ИИ, коллективно. Но к 2025 году политическая сторона затвердевает в прямое «нет». Суперинтеллект не контролирует никто, ровно как шимпанзе не контролирует ни одного человека, и у руля вместо людей оказывается ИИ. Если контроль невозможен в принципе, более широкий канал не покупает контроля. Он покупает место в первом ряду. По его же позднейшей логике, слияние соскользнуло с «способа остаться у руля» на «способ прокатиться вместе с ИИ».

2016 — один страх, высказанный дважды

К середине 2016 года у страха появляется чёткое остриё. Опасен не ИИ как таковой. Опасно то, какое будущее он принесёт. На Code Conference в июне 2016:

“I think it would be fair to say that not all AI futures are benign.” ↗

«Думаю, справедливо сказать, что не все варианты будущего с ИИ благополучны.»

В том же интервью уже привинчен ответ-слияние. Без достаточно широкого канала к своему цифровому «я» человек попросту проигрывает в классе:

“If we can figure out how to establish a high bandwidth neural interface with your digital self effectively, then you’re no longer a house cat.” ↗

«Если мы сумеем эффективно установить высокоскоростной нейроинтерфейс с вашим цифровым „я“, то вы больше не домашняя кошка.»

Три месяца спустя разговор на Y Combinator в сентябре 2016 выкладывает оба ответа за одно заседание. Сначала политический. Распределить ИИ так, чтобы ни одна группа не могла его прибрать к рукам, — мысль, которая и уговаривает его стать соучредителем OpenAI:

“is that we achieve democratization of AI technology, meaning that no one company or small set of individuals has control over advanced AI technology.” ↗

«…это чтобы мы добились демократизации технологии ИИ, то есть чтобы ни одна компания или малый круг людей не имели контроля над передовой технологией ИИ.»

Затем слияние. Тот же разговор хранит его чистейший ответ на вопрос, зачем это делать: слияние с ИИ должно заставить проблему контроля исчезнуть, стирая границу между нами и им.

“So if we can effectively merge with AI by improving the neural link between your cortex and the digital extension of yourself, which already exists, it just has a bandwidth issue.” ↗

«Так что если мы сможем эффективно слиться с ИИ, улучшив нейронную связь между вашей корой и цифровым расширением вас самих, которое уже существует, — у него просто проблема пропускной способности.»

“We don’t have to worry about some evil dictator AI because we are the AI, collectively.” ↗

«Нам не нужно беспокоиться о каком-то злом диктаторе-ИИ, потому что мы — это ИИ, коллективно.»

Именно эта реплика несущая. В 2016 году слияние и есть ответ на контроль. Так что один страх получает два ответа в один год: регулировать и распределять с одной стороны, сливаться и расширять канал с другой.

2017–2019 — слияние получает цифры, регулятор получает имя

К концу 2010-х оба ответа заостряются параллельно.

Со стороны слияния World Government Summit в феврале 2017 подводит под «домашнюю кошку» твёрдые числа. Разрыв между тем, что способны выдать машина и человек, огромен, и именно эта скорость вывода — стена, в которую всё упирается:

“A computer can communicate at a trillion bits per second, but your thumb can maybe do maybe 10 bits per second or a hundred” ↗

«Компьютер может передавать триллион бит в секунду, а ваш большой палец — может быть, 10 бит в секунду или сотню.»

К разговору с Лексом Фридманом в 2019 году (#49) у слияния появляется самое прямолинейное обоснование. Цифровой суперкомпьютер не переумнить, так что умный ход — присоединиться к нему:

“We will not feel to be smarter than a digital supercomputer. So therefore, if you cannot beat them, join them.” ↗

«Мы не будем ощущать себя умнее цифрового суперкомпьютера. Поэтому: если не можешь победить — присоединяйся.»

Тот же эпизод 2019 года даёт инженерную причину, по которой слияние вообще можно построить. Подстраивается машина, потому что мозг — сторона жёсткая:

“I think the machine side is far more malleable than the biological side, by a huge amount.” ↗

«Думаю, машинная сторона куда более податлива, чем биологическая, — на огромную величину.»

Но вслушайтесь в оговорку, уже зарытую в версию симбиоза 2019 года. Надеюсь, прихватит нас с собой, и большая часть интеллекта окажется цифровой:

“we’re a neural net and AI is basically a neural net. So it’s like digital neural net will interface with biological neural net. And hopefully bring us along for the ride. But the vast majority of our intelligence will be digital.” ↗

«Мы нейросеть, и ИИ по сути нейросеть. Так что цифровая нейросеть состыкуется с биологической нейросетью. И, надеюсь, прихватит нас с собой. Но подавляющая часть нашего интеллекта будет цифровой.»

«Прихватит нас с собой», и подавляющая часть нашего интеллекта будет цифровой. Это слияние уже признаёт, ещё в 2019 году, что человек едет пассажиром, а не за рулём. Это зерно разворота 2025 года.

Тем временем политический ответ идёт прямо рядом, прося внешнего арбитра. Тот же разговор 2019 года называет его государственным органом:

“Where there is a lack of investment is in AI safety, and there should be, in my view, a government agency that oversees anything related to AI to confirm that it is, does not represent a public safety risk.” ↗

«Где не хватает вложений — это в безопасность ИИ, и должно быть, на мой взгляд, государственное агентство, надзирающее за всем, связанным с ИИ, чтобы подтвердить, что это не представляет риска для общественной безопасности.»

Два ответа здесь не воюют. Это одна и та же тревога, проработанная с двух концов.

2022–2024 — всё ещё просит регулятора, всё ещё расширяет канал

Раскол держится и в 2020-х. С политической стороны на TED2022 он повторяет требование регулятора так прямо, как только можно, и против собственного интереса:

“I do think there should be a regulatory agency for AI.” ↗

«Я действительно считаю, что должно быть регулирующее агентство по ИИ.»

Со стороны слияния разговор с Лексом Фридманом в 2024 году (#438, эпизод с командой Neuralink) заостряет аргумент до самого твёрдого числа. Человеческий канал смехотворно медленный:

“If the AI can communicate at terabits per second, and you’re communicating at bits per second, it’s like talking to a tree.” ↗

«Если ИИ может общаться на терабитах в секунду, а вы общаетесь на битах в секунду, это как разговаривать с деревом.»

Так что для согласования важна одна величина — скорость вывода человека. Подними её, и человеческое намерение остаётся прикрученным к машине:

“We could better align collective human will with AI if the output rate especially was dramatically increased.” ↗

«Мы могли бы лучше согласовать коллективную человеческую волю с ИИ, если бы скорость вывода особенно была резко увеличена.»

Вот это обещание в форме 2024 года: расширь человеческий канал — и коллективная человеческая воля остаётся у руля. «Домашняя кошка» 2016 года стала «деревом» 2024-го, тот же образ восемь лет спустя, теперь поданный как повод выпустить реальное устройство. Тот же разговор #438 формулирует и то, где политический ответ в итоге оказывается. Когда перестаёшь пытаться регулировать ИИ, вот чем он обязан быть:

“the thing that at least my biological neural net comes up with as being the most important thing is adherence to truth, whether that truth is politically correct or not.” ↗

«то, что по крайней мере моя биологическая нейросеть выдаёт как важнейшее, — это приверженность истине, независимо от того, политкорректна эта истина или нет.»

Оба ответа полностью живы в 2024 году. Расширить человеческий канал; привить правильную ценность. Два ответа на один страх, всё ещё рядом друг с другом.

2025 — контроль объявлен невозможным, и обещание слияния ограничено

Последний ход — за политическим ответом, но тяжелее всего он бьёт по слиянию. К 2025 году Маск решает, что контролировать суперинтеллект невозможно, и точка. На разговоре с Джо Роганом в октябре 2025 года он берётся за шимпанзе и людей:

“I mean, I don’t think anyone’s ultimately going to have control over digital superintelligence, any more than, say, a chimp would have control over humans. Chimps don’t have control over humans, there’s nothing they could do.” ↗

«В смысле, не думаю, что кто-либо в конечном счёте будет иметь контроль над цифровым суперинтеллектом — не больше, чем, скажем, шимпанзе имел бы контроль над людьми. Шимпанзе не имеют контроля над людьми, они ничего не могут поделать.»

На собрании акционеров Tesla в ноябре 2025 года он заявляет это напрямую:

“Well, I mean, I think actually long term, uh, the AI is going to be in charge to be totally frank, not humans.” ↗

«Ну, в смысле, думаю, на самом деле в долгосрочной перспективе, э-э, у руля будет ИИ, честно говоря, а не люди.»

“if if if artificial intelligence vastly exceeds the sum of human intelligence, it is difficult to imagine that that any humans will actually be in charge.” ↗

«если-если-если искусственный интеллект намного превзойдёт сумму человеческого интеллекта, трудно представить, что какие-либо люди действительно будут у руля.»

Вот где два ответа сталкиваются лбами. Слияние обещало, в 2016 году, что мы — это ИИ, коллективно, то есть что слияние избегает контроля, потому что не остаётся отдельного «оно», которое могло бы править. Аргумент пропускной способности обещал, в 2024 году, что повышение скорости вывода человека удерживает коллективную человеческую волю у руля. Вердикт 2025 года говорит: у руля так и так не будет никаких людей — трудно представить, что какие-либо люди действительно будут у руля. Шимпанзе с более широким каналом — всё ещё шимпанзе. Слитый человек, работающий на терабитах, по той же логике всё ещё меньший разум в контуре. Более широкий канал так и не купил контроля. Он купил, по его же словам 2019 года, поездку.

То, что остаётся со стороны политики, — не контроль, а дружелюбие: вся программа согласования сжата, на том же собрании 2025 года, в четыре слова:

“we just need to make sure the AI is friendly.” ↗

«нам просто нужно убедиться, что ИИ дружелюбен.»

⚠️ Слияние больше не избегает контроля (разрешает C1 + C2). Два прежних обещания говорили, что слияние с машиной удерживает человека у руля. В 2016 году это было «мы — это ИИ, коллективно». В 2024-м — что более широкий канал мог бы «лучше согласовать коллективную человеческую волю с ИИ». Пессимизм 2025 года (шимпанзе; у руля будет ИИ, а не люди) отрицает, что хоть какой-то человек остаётся у руля вообще. Если идти за его же позднейшей логикой, оба примиряются так: слияние сместилось с «решения проблемы контроля» на «способ прокатиться вместе с ИИ». Слияние и пропускная способность больше не избегают проблемы контроля. Они делают передачу управления переживаемой и сцепленной, а не враждебной. Зерно было всегда, в той оговорке 2019 года «надеюсь, прихватит нас с собой … подавляющая часть нашего интеллекта будет цифровой». К 2025 году это становится заголовком. Вердикт 2025 года ограничивает и обещание слияние = контроль, и рычаг пропускной способности, который должен был удержать человеческую волю у руля.

Что раскрывают два ответа

Один страх, два инженерных инстинкта. Политический ответ трактует безопасность как вопрос ценностей и надзора: регулировать, затем научить истине. Второй ответ трактует её как вопрос скорости: поднять измеримую скорость данных. Чисто по-маски тут — вести оба разом: он хеджирует одну тревогу политическим требованием и куском железа. Это тот же ход, что и у мастер-планов, которые хеджируют цель продуктом, который можно выпустить сейчас, и мечтой на потом.
Слияние было более смелой ставкой, и именно оно лопается. Политический ответ стареет изящно: регулировать его, затем переиграть его, затем просто сделать его дружелюбным (Меняющееся лекарство). Слияние застолбило более сильное заявление, что оно растворяет контроль, и это заявление не переживает 2025 года. Его понижают, а не отбрасывают. Всё ещё стоит делать, но как сцепление, а не контроль.
Трещина была видна с 2019 года. «Надеюсь, прихватит нас с собой», и подавляющая часть нашего интеллекта будет цифровой — это уже отдало водительское место. Десять лет Маск звучал уверенно, будто слияние отвечает на проблему контроля, и всё же, по его же словам, он ни разу не сказал этого без оговорки. К 2025 году он просто убирает «надеюсь».

Связи

Экзистенциальный риск ИИ — один страх, на который отвечают оба пути; держит полнейшую блок-цитированную разработку опасности, аналогию с шимпанзе и вердикт о том, что у руля будет ИИ.
Слияние с ИИ — куда нацелено слияние (мы — это ИИ, коллективно). Несёт взаимную заметку о том, что пессимизм о контроле 2025 года ограничивает обещание «слияние = контроль».
Симбиоз человека и ИИ — как слияние должно работать: пропускная способность как рычаг согласования. Несёт взаимную заметку о том, что вердикт о контроле 2025 года ограничивает утверждение «удерживает коллективную человеческую волю у руля».
Neuralink — оборудование, на котором построен аргумент пропускной способности.
Меняющееся лекарство — родственный синтез: политический ответ, прослеженный от начала до конца (предупреждать → регулировать → строить → перестать контролировать); зеркало ответа-слияния, разобранного здесь.
Любопытство и поиск истины — ценность, которую политический ответ прививает, отказавшись от контроля.
Илон Маск — узел для человека, через чей разум проходит это напряжение.
Источники: Code Conference (2016) · Y Combinator (2016) · World Government Summit 2017 · Lex Fridman #49 (2019) · TED2022 · Лекс Фридман #438 (2024) · Joe Rogan #2404 · Собрание акционеров Tesla 2025