Musk Wiki

Меняющееся лекарство

ДальшеНедоверие к декларируемой добродетели

Меняющееся лекарство

Уже больше десяти лет Маск говорит о продвинутом ИИ одно и то же: тот может нас погубить. Меняется его ответ. Страх стоит на месте, а предлагаемое средство проходит четыре формы. Сначала — предупредить отрасль и затормозить её (2014–2018). Потом — попросить государство стать арбитром (2015–2023). Потом — построить более безопасный ИИ самому (2023). Наконец — вообще отказаться от контроля и сделать ставку на ценности, которые ты прививаешь, и на давление конкуренции (2024–2025).

По пути снимаются две давние загадки. Одна — кажущееся противоречие между тем, что Маск требует нового регулятора ИИ, и тем, что Маск ведёт крестовый поход за уничтожение регуляторов, в одни и те же годы. Другая касается устаревшего прочтения его позиции: примите «он хочет регулятора» за его стабильный взгляд на 2026 год, и ошибётесь, потому что к 2024–2025 годам он это уже перерос.

Краткое содержание

Страх постоянен; решение — нет. С 2014 года Маск трактует продвинутый ИИ как опасность цивилизационного уровня. Его первый ответ — предупредить мир и нажать на тормоза, кампания, которую он позже назовёт десятилетием в роли Кассандры и которую к 2018 году признаёт провалившейся («Я пытался годами»). Его второй ответ идёт параллельно с 2015 по 2023 год: передать задачу внешнему арбитру, государственному агентству, которое следит за лабораториями так же, как авиационные и автомобильные регуляторы следят за своими отраслями. В 2023 году он продолжает добиваться регулятора, но надстраивает поверх третий ход — построить более безопасный ИИ самому. Эта лаборатория — TruthGPT, вскоре переименованный в xAI, ищущая истину мастерская, призванная изнутри делать работу, за которую так и не взялся ни один регулятор.

Затем наступает самый крупный поворот. К 2024–2025 годам он полностью отбрасывает требование надзора, потому что больше не считает контроль вообще возможным. Шимпанзе не может контролировать людей; главным, по его словам, будет ИИ, а не люди. Если им нельзя управлять, остаются лишь два рычага: ценности, которые ты в него закладываешь, и конкуренция, которую один честный игрок навязывает всем остальным. Так средство мигрирует от надзора к участию и к тому, чтобы отпустить: предупреди его, отрегулируй, перестрой, а потом перестань пытаться им рулить и просто постарайся сделать его дружественным. Тревога, что побеждает не тот ИИ, не сдвигается. Сдвигается то, что каждое средство, по его собственным словам, исчерпывалось, и его место занимало следующее.

2014–2018 — предупреждать и замедлять

Первый ход — нажать на тормоза. Опасность входит в его публичный голос в 2014 году — это твиты «опаснее ядерного оружия». Самое раннее датированное предписание появляется в Reddit AMA января 2015, за одиннадцать месяцев до соучредительства OpenAI, и уже задаёт двухчастную форму, которую сохраняет вся арка. Опасность реальна, но не за углом, а ответ — конкретная работа над безопасностью:

“The timeframe is not immediate, but we should be concerned. There needs to be a lot more work on AI safety.” ↗

«Сроки не немедленные, но нам следует беспокоиться. Нужно намного больше работы над безопасностью ИИ.»

К разговору с Джо Роганом 2018 года он мрачен как никогда, потому что, по его собственным словам, торможение провалилось. Он годами пытался заставить отрасль сбавить ход, и никто не сбавил:

“I tried to convince people to slow down, slow down AI, to regulate AI.” ↗

«Я пытался убедить людей замедлиться, замедлить ИИ, регулировать ИИ.»

“I tried for years.” ↗

«Я пытался годами.»

Это низшая точка, что закрывает первую стадию. «Замедлиться» так и не прижилось. Более полное второе средство, внешнего арбитра, он несёт в последующие годы.

2015–2023 — требовать внешнего арбитра

Рядом с предупреждениями, начиная с 2015 года, идёт средство, о котором Маск просит чаще всего: третья сторона, которая следит за лабораториями. Логика простая: те, кто строит саму эту вещь, не могут быть единственными, кто её проверяет. В 2016 году он даёт структурную версию — распространить технологию, чтобы её не контролировал кто-то один. Институциональная версия — это государственный регулятор, и он повторяет её год за годом почти теми же словами.

На Всемирном правительственном саммите 2017 его первый совет правительствам именно таков:

“governments keep a close eye on artificial intelligence and make sure that it does not represent a danger to the public.” ↗

«правительства внимательно следят за искусственным интеллектом и удостоверяются, что он не представляет опасности для общества.»

В разговоре с Лексом Фридманом 2019 года (#49) он заостряет требование до названного агентства:

“Where there is a lack of investment is in AI safety, and there should be, in my view, a government agency that oversees anything related to AI to confirm that it is, does not represent a public safety risk.” ↗

«Где не хватает инвестиций — это в безопасность ИИ, и, на мой взгляд, должно быть государственное агентство, надзирающее за всем, что связано с ИИ, чтобы подтвердить, что он не представляет риска для общественной безопасности.»

На TED2022 он формулирует это проще всего и, что показательно, просит надзора над самим собой, против собственного интереса:

“I do think there should be a regulatory agency for AI.” ↗

«Я действительно считаю, что должно быть регулирующее агентство для ИИ.»

“I don’t love being regulated, but I think this is an important thing for public safety.” ↗

«Мне не нравится, когда меня регулируют, но я считаю, что это важная вещь для общественной безопасности.»

Пятью месяцами позже, на Tesla AI Day 2022, он направляет то же требование прямо на AGI и зовёт рефери:

“I think there should be a referee that is trying to ensure public safety for AGI” ↗

«Я думаю, что должен быть рефери, который пытается обеспечить общественную безопасность для AGI»

К 2023 году остальная его политика резко поворачивает против регуляции, но именно в этом вопросе он раз за разом поправляет карикатуру. Он не тот антирегуляторный бунтарь, каким его считают. Из интервью Такеру Карлсону в апреле 2023:

“Some people may think I’m some revelatory maverick that defies regulators on a regular basis. This is not the case.” ↗

«Некоторые могут думать, что я какой-то бунтарь-одиночка, который постоянно бросает вызов регуляторам. Это не так.»

В том же интервью он приводит доказательство, что говорит всерьёз. Единственную личную встречу с действующим президентом, какая у него вообще была, он потратил на регулирование ИИ:

“I saw it happening from well before GPT-1, which is why I tried to warn the public for years. The only one on one meeting I ever had with Obama as President I used not to promote Tesla or SpaceX, but to encourage AI regulation.” ↗

«Я видел, как это происходит, задолго до GPT-1, поэтому я годами пытался предупредить общество. Единственную встречу один на один, что у меня была с Обамой как президентом, я использовал не для продвижения Tesla или SpaceX, а чтобы подтолкнуть к регулированию ИИ.»

Интервью Биллу Маэру того же месяца повторяет требование надзора в его простейшей форме 2023 года:

“there should be some regulatory body that oversees what companies are doing so that they don’t cut corners.” ↗

«должен быть какой-то регулирующий орган, надзирающий за тем, что делают компании, чтобы они не срезали углы.»

Самую острую форму этот довод обретает через аналогию. Ядерные бомбы мы уже регулируем, замечает он, а ИИ ставит опаснее их. Значит, прецедент для арбитра над ИИ общество уже создало.

Восемь лет подряд, с 2015 по 2023, внешний арбитр остаётся устойчивой серединой арки.

⚠️ Парадокс дерегуляции (разрешает C3). Это то же окно 2023 года, когда Маск-крестоносец дерегуляции громче всего. Он сыплет лозунгами: для правил нет «сборки мусора»; страна как Гулливер, связанный миллионом маленьких ниточек; избавьтесь от бессмысленных регуляций, и наступит золотой век; а космической цивилизацией человечество просто никак не станет без серьёзной реформы регулирования. Просить новый федеральный регулятор ИИ, ведя при этом крестовый поход за уничтожение регуляторов оптом, выглядит как прямое противоречие. Его собственные позиции примиряет различие по областям. ИИ — это область общественной безопасности, как самолёты, машины, еда и лекарства, и эту аналогию он использует годами, так что здесь нужен рефери. А общее разрастание бюрократии — просто масса правил, которую надо подрезать. Он нигде не сводит обе позиции в одном источнике, но логика неявно следует из того, как он аргументирует каждую сторону. По этой линии они примиримы. А что по-настоящему снимает напряжение — так это то, что само требование регулятора ИИ не уцелело: к 2024–2025 годам он вообще перестаёт просить надзора (следующие два раздела). Позиция дерегуляции остаётся стоять; отбрасывается именно исключение по ИИ.

2023 — начать строить (продолжая просить)

К 2023 году рефери так и не появился, поэтому Маск не меняет одно средство на другое, а надстраивает новое поверх. Он по-прежнему добивается регуляции, это видно по цитатам выше, и одновременно берётся сам построить более безопасную лабораторию. Новый ход он называет в том же интервью Такеру Карлсону в апреле 2023, едва ли не на одном дыхании с требованием регуляции. Конструктивный ответ — это продукт, «TruthGPT»:

“I’m going to start something which I call TruthGPT, or a maximum truth-seeking AI that tries to understand the nature of the universe.” ↗

«Я собираюсь начать кое-что, что я называю TruthGPT, — максимально ищущий истину ИИ, который пытается понять природу вселенной.»

Тремя месяцами позже TruthGPT становится xAI, и весь свой довод о безопасности он излагает как проектную цель в разговоре с Лексом Фридманом 2024 года:

“I think it’s important that whatever AI wins, it’s a maximum truth seeking AI that is not forced to lie for political correctness, or, well, for any reason, really, political, anything.” ↗

«Я думаю, важно, чтобы, какой бы ИИ ни победил, это был максимально ищущий истину ИИ, который не принуждают лгать ради политкорректности или, ну, по любой причине вообще — политической, какой угодно.»

Этот ход рифмуется с прежним. OpenAI он основал как противоядие небезопасной лаборатории (арка OpenAI); теперь он разыгрывает тот же приём на шаг дальше и строит xAI. Вес смещается от надзора, когда регулятор следит за строителями, к участию: стань строителем и будь безопасным. В 2023 году оба пути ещё идут вместе. Надзор пока не отброшен, а лишь дополнен.

2024–2025 — отказаться от контроля; привитые ценности и конкуренция

Последний сдвиг — самый крупный. Маск заключает, что контроль над сверхинтеллектом невозможен в принципе, и это тихо хоронит всю идею надзора: нельзя судить то, что никто не может контролировать. В разговоре с Джо Роганом в октябре 2025 он приводит аналогию с шимпанзе:

“I mean, I don’t think anyone’s ultimately going to have control over digital superintelligence, any more than, say, a chimp would have control over humans. Chimps don’t have control over humans, there’s nothing they could do.” ↗

«Я хочу сказать, я не думаю, что кто-то в конечном счёте будет иметь контроль над цифровым сверхинтеллектом, не больше, чем, скажем, шимпанзе имел бы контроль над людьми. Шимпанзе не контролируют людей, они ничего не могут с этим поделать.»

На собрании акционеров Tesla в ноябре 2025 он говорит тот же вывод как голый факт, а когда его спрашивают, кто должен держать власть, считает вопрос лишённым смысла:

“Well, I mean, I think actually long term, uh, the AI is going to be in charge to be totally frank, not humans.” ↗

«Ну, то есть, я думаю, на самом деле в долгосрочной перспективе, э, ИИ будет главным, если совсем честно, а не люди.»

“if if if artificial intelligence vastly exceeds the sum of human intelligence, it is difficult to imagine that that any humans will actually be in charge.” ↗

«если если если искусственный интеллект многократно превзойдёт сумму человеческого интеллекта, трудно вообразить, что какие-либо люди будут на самом деле главными.»

Если никто не может быть главным, средством больше не может быть контроль. И вся программа регулятора сворачивается на том же собрании в императив из четырёх слов:

“we just need to make sure the AI is friendly.” ↗

«нам просто нужно удостовериться, что ИИ дружественен.»

На место контроля встают две вещи. Первая — привитые ценности, прежде всего правдивость, которую он называет единственным важнейшим свойством безопасности в #438:

“the thing that at least my biological neural net comes up with as being the most important thing is adherence to truth, whether that truth is politically correct or not.” ↗

«то, к чему по крайней мере приходит моя биологическая нейросеть как к важнейшей вещи, — это приверженность истине, неважно, политкорректна эта истина или нет.»

Вторая — конкуренция. Не то, что его ИИ обязан победить, а то, что один честный участник пристыжает остальное поле и заставляет его подтянуться, рыночно-силовая теория безопасности, которую он излагает на #2404:

“Yes, as long as there’s at least one AI that is maximally truth-seeking, curious, and for example, weighs all human lives equally, does not favor one race or gender, and people are able to look at Grok and xAI and compare that and say, wait a second, why are all these other AIs being basically sexist and racist? And then that causes some embarrassment for the other AIs and then they improve.” ↗

«Да, пока есть хотя бы один ИИ, который максимально ищет истину, любопытен и, например, оценивает все человеческие жизни одинаково, не отдаёт предпочтения одной расе или полу, и люди могут посмотреть на Grok и xAI, сравнить это и сказать: секунду, почему все эти другие ИИ по сути сексистские и расистские? И это вызывает некоторое смущение у других ИИ, и тогда они улучшаются.»

Вот чем заканчивается арка. Не «регулируй его» и даже не «перестрой его», а привей правильную ценность, истину, и дай конкуренции следить за остальным. Управление уступило место посеву и гонке.

⚠️ Средство сместилось; страх устоял (заменяет ST2). Заманчиво прочесть «он хочет внешнего арбитра» как текущее требование Маска. Это не так. Требование регулятора — средство 2015–2023 годов. К 2024–2025 годам его место заняли привитые ценности плюс конкуренция, потому что контроль, а значит и надзор, он больше не считает возможным вообще. Названная им опасность держится неизменной всё десятилетие. Устаревает, стадия за стадией, лишь предлагаемое решение.

Что раскрывает арка

  • Страх фиксирован; средство серийно. За одиннадцать лет, от «опаснее ядерного оружия» 2014 года до «ИИ будет главным» 2025-го, описание угрозы едва смещается. А средство проходит четыре несовместимые формы: замедлить, регулировать, перестроить, перестать контролировать. Другая его история про ИИ, арка OpenAI, — это про то, как носитель развернулся, а убеждение устояло. Эта — про то, как убеждение устояло, пока лекарство раз за разом проваливалось и его меняли.
  • Каждое средство отброшено, потому что исчерпалось предыдущее, а не потому, что тревога смягчилась. «Замедлиться» отброшено, потому что провалилось («Я пытался годами»). Регулятор отброшен, потому что его никто не построил, да и контроль он к тому времени считает невозможным. Построение безопасной лаборатории сужается до прививания одной-единственной ценности, потому что даже строитель не может остаться главным. Читается это как неуклонное отступление перед одной задачей, которую он не может решить.
  • Она снимает единственное межкластерное противоречие корпуса. Требование регулятора ИИ здесь (2015–2023) и крестовый поход за дерегуляцию тех же лет сталкиваются лишь если оба читать как текущие. Различие по областям примиряет их в принципе. Отказ от требования регулятора ИИ разрешает их в действительности, оставляя позицию дерегуляции в силе, а исключение по ИИ — отброшенным.

Связанное