Tesla AI Day 2022

Площадка / повод: второй AI Day компании Tesla, штаб-квартира в Пало-Альто, 2022-09-30 — первый проход прототипа Optimus по сцене без привязи, плюс глубокие технические обновления по FSD, сети занятости (occupancy), планированию и суперкомпьютеру Dojo.
Формат: трансляция ~3 ч 08 мин (Маск открывает, затем инженеры представляют свои сегменты, затем длинная сессия вопросов из зала); опубликована на официальном YouTube-канале Tesla (ODSJsviD_SU).
Дата: 30 сентября 2022 года.
Уровень доверия: lower-trust-full-transcript (Tier 3) — в raw встроена машинная транскрипция OpenAI-Whisper (публичный GitHub-gist) официальной трансляции Tesla. Whisper НЕ диаризует, поэтому в транскрипте нет меток говорящих; говорящие выводятся из контекста. Цитаты должны быть сверены по видео перед использованием.
Цитирование: канонический оригинал — это видео-трансляция Tesla, поэтому каждая блок-цитата привязана к загрузке на YouTube (https://www.youtube.com/watch?v=ODSJsviD_SU) через таймкод &t=<секунды>s, взятый из начала сегмента Whisper. Таймкоды Whisper относительны транскрипту и приблизительны (±~1с, плюс возможное смещение пре-ролла трансляции) — они локализуют цитату, но должны быть сверены по видео; без #:~:text= (видео-источник); путь gist/raw никогда не служит ссылкой.
⚠️ Оговорка об атрибуции (главный риск — НЕТ диаризации): без меток говорящих и при многоголосом инженерном мероприятии каждая цитата здесь атрибутируется по контексту: Маск произносит вступление (до того, как инженеры представляются — «Hey guys, I’m Milana…») и отвечает на вопросы из зала. В блок-цитаты вынесены только строки явно из вступления Маска или его ответов в Q&A; инженерные презентации (актуаторы/руки/локомоция Optimus, FSD, сети занятости, планирование, Dojo) — это другие докладчики, и они никогда не приписываются ему. Там, где говорящий хоть немного неоднозначен, мысль пересказана.

⚠️ Оговорка Tier-3. Машинный (Whisper) транскрипт без диаризации и с артефактами распознавания («Antity» вместо entity, «bumble sea» вместо Bumble C, «AGI is seems likely»). Блок-цитаты ниже — это короткие, характерные реплики Маска из его вступления и Q&A, воспроизведённые дословно (с артефактами), чтобы цитирование оставалось байт-точным, и сверенные по видео на атрибуцию. Подавляющее большинство мероприятия — это инженерия других докладчиков, оставленная прозой, не в цитатах.

Резюме

AI Day 2022 — это в основном инженерный показ (проход Optimus, масштабирование FSD с ~2 000 до 160 000 машин, сети занятости, Dojo) докладчиками помимо Маска — ничто из этого не мысль-материал. Сам анонс Optimus, «полезный человекоподобный робот», рамка труда и заявления «<$20 000» / «больше, чем автомобиль» переизлагают то, что вики уже содержит из AI Day 2021, Cyber Rodeo и TED2022, — и оставлены прозой. Что отличает сентябрь 2022 года — это единственный кластер: формулировка Маском Tesla как потенциального участника AGI и безопасности ИИ через и управление, и внешнего рефери.

Во вступлении он говорит, что Tesla «could make a meaningful contribution to AGI», и подаёт публично-торгуемую структуру Tesla как функцию безопасности — один класс акций, «the public controls Tesla», так что «if I go crazy you can fire me». В Q&A, когда на него давят насчёт экспертизы по безопасности AGI, он переизлагает запрос об регуляторе/рефери, который делает годами, — «an AI sort of regulatory authority at the government level», «a referee that is trying to ensure public safety for AGI» — и подаёт путь Tesla к AGI как эмерджентный: не целенаправленную задачу, а вероятный побочный продукт построения реально-мирового ИИ в масштабе автопарка.

Tesla как участник AGI и управление как функция безопасности (Tesla, Экзистенциальный риск ИИ)

Маск открывает не роботом, а заявлением о том, чем может оказаться ИИ-работа Tesla:

“make a meaningful contribution to AGI” ↗

«внести значимый вклад в AGI»

И — отличительно — он доказывает, что Tesla — подходящая организация, чтобы это делать, из-за своей структуры собственности, превращая корпоративное управление в аргумент о безопасности ИИ:

“we’re a publicly traded company with one class of stock” ↗

«мы публично торгуемая компания с одним классом акций»

“the public controls Tesla and I think that’s actually a good thing” ↗

«общественность контролирует Tesla, и я думаю, это на самом деле хорошо»

“So if I go crazy you can fire me.” ↗

«Так что если я сойду с ума, вы можете меня уволить.»

Это поразительная инверсия обычного инстинкта контроля основателя: здесь сдержка против самого себя подаётся как механизм безопасности. Это та же логика внешнего рефери, которую он применяет к ИИ в целом, обращённая на собственную компанию, — подотчётность акционерам как ограничитель для потенциального создателя AGI.

Рефери для AGI, переизложенный (Экзистенциальный риск ИИ)

В Q&A, на вопрос, будет ли Tesla строить экспертизу по технической безопасности AGI, Маск говорит, что будет, если Tesla начнёт выглядеть как «значимый вклад» в AGI (пересказ), и переизлагает запрос об государственном надзоре, который вики отслеживает с 2017 и TED2022 (апрель 2022), — здесь в его форме сентября 2022 года:

“I think there should be an AI sort of regulatory authority at the government level” ↗

«Я думаю, что должен быть своего рода регуляторный орган по ИИ на государственном уровне»

Он обосновывает это той же аналогией, что использует в других местах, — ИИ как любая область общественной безопасности (самолёты, машины, еда, лекарства) и заслуживает рефери:

“I think there should be a referee that is trying to ensure public safety for AGI” ↗

«Я думаю, что должен быть рефери, который пытается обеспечить общественную безопасность для AGI»

И он подаёт маршрут Tesla к AGI как эмерджентный, а не целенаправленный, — побочный продукт реально-мирового ИИ в масштабе автопарка, потому что миллионы машин и роботов, обрабатывающих реально-мировое видео, дают «probably the biggest dataset»:

“seems likely to be an emergent property of what we’re doing” ↗

«похоже, будет эмерджентным свойством того, что мы делаем»

Это та же логика внешнего рефери, что и совет 2017 «keep a close eye», рамка рефери 2019 и запрос апреля 2022 «regulatory agency for AI», — здесь направленная конкретно на AGI и соединённая с утверждением, что Tesla могла бы стать участником AGI случайно, что, по его словам, ровно и есть причина, по которой внешний надзор важен. (Tier-3 Whisper-транскрипт без меток говорящих; цитаты — ответы Маска в Q&A, атрибутированные по контексту и сверенные по видео — см. Tesla AI Day 2022.)

Реплика о коллективном сверхинтеллекте (Слияние с ИИ)

Тот же ответ в Q&A переходит в характерное киборг-отступление — что интеллект не только индивидуален, но и коллективен, и что соединение людей его повышает:

“arguably humans collectively are sort of a superintelligence as well” ↗

«можно сказать, люди коллективно — это тоже своего рода сверхинтеллект»

Механизм, к которому он обращается, — это пропускная способность: коллективный интеллект растёт по мере улучшения скорости передачи данных между людьми, — а его образ для последнего большого скачка — это интернет:

“the internet was like humanity acquiring a nervous system” ↗

«интернет был как обретение человечеством нервной системы»

— потому что внезапно «any one element of humanity could know all of the knowledge of humans», а не обмен информацией медленно «by osmosis» (пересказ). Это тот же инстинкт «we are already a cyborg» / повысь-скорость-данных, который вики отслеживает с 2016 и 2017, — здесь применённый к человечеству как коллективу и вложенный в аргумент об AGI: машинный AGI Tesla и человеческий коллективный сверхинтеллект — это, по его словам, два инстанса одного эмерджентного явления.

Связи (затронутые страницы)

Tesla — расширена заявлением AI Day 2022 «could make a meaningful contribution to AGI» и аргументом публично-торгуемое-управление-как-безопасность («one class of stock», «the public controls Tesla», «if I go crazy you can fire me»).
Экзистенциальный риск ИИ — расширена запросом сентября 2022 года о рефери / «regulatory authority at the government level», условием инвестиций в безопасность AGI и рамкой AGI-как-эмерджентное-свойство реально-мирового ИИ Tesla в масштабе автопарка.
Слияние с ИИ — расширена репликой о коллективном сверхинтеллекте («humans collectively are sort of a superintelligence»; «the internet was like humanity acquiring a nervous system») и рамкой скорости-данных-между-людьми.
Человекоподобные роботы / Устойчивое изобилие — переформулировки отмечены только прозой (анонс Optimus, «useful humanoid robot», «<$20 000», «bigger than the car» и рамка труда/изобилия уже на вики из Tesla AI Day 2021 / Tesla Cyber Rodeo 2022 / TED2022; новых блок-цитат здесь нет).