Tesla AI Day 2022
ДальшеTesla Cyber Rodeo 2022- Площадка / повод: второй AI Day компании Tesla, штаб-квартира в Пало-Альто, 30 сентября 2022 года. Прототип Optimus впервые прошёл по сцене без привязи, а инженеры дали подробные технические обновления по FSD, сети занятости (occupancy), планированию и суперкомпьютеру Dojo.
- Формат: трансляция примерно на 3 ч 08 мин. Маск открывает, инженеры представляют свои сегменты, а завершает всё длинная сессия вопросов из зала; опубликована на официальном YouTube-канале Tesla (
ODSJsviD_SU). - Дата: 30 сентября 2022 года.
- Уровень доверия: lower-trust-full-transcript (Tier 3). Источник — машинная транскрипция OpenAI-Whisper (публичный GitHub-gist) официальной трансляции Tesla. Whisper не диаризует, поэтому в транскрипте нет меток говорящих; кто говорит, приходится определять по контексту. Каждую цитату нужно сверить по видео, прежде чем использовать.
- Цитаты: каждая со ссылкой на момент в видеотрансляции Tesla. Таймкоды взяты из машинного транскрипта и приблизительны (плюс-минус секунда), так что каждую цитату всё равно нужно сверять с видео.
- ⚠️ Оговорка об атрибуции — главный риск, ведь ничто не диаризовано. Без меток говорящих на многоголосом инженерном мероприятии каждая цитата здесь привязана к говорящему по контексту. Маск ведёт вступление, до того как инженеры представляются («Привет всем, я Милана…»), и отвечает на вопросы из зала. В блок-цитаты вынесены только строки явно из его вступления или ответов в Q&A. Инженерные сегменты (актуаторы, руки и локомоция Optimus, FSD, сети занятости, планирование, Dojo) принадлежат другим докладчикам и ему никогда не приписываются. Там, где говорящий хоть немного под вопросом, мысль пересказана.
⚠️ Оговорка Tier-3. Это машинный транскрипт, без диаризации, и артефакты это подтверждают: «Antity» вместо entity, «bumble sea» вместо Bumble C, «AGI is seems likely». Блок-цитаты ниже — короткие, характерные реплики Маска из его вступления и Q&A, воспроизведённые ровно так, как их выдал Whisper, вместе с артефактами, и сверенные с видео на атрибуцию. Почти всё остальное на мероприятии — это инженерия других докладчиков, и она оставлена прозой, а не вынесена в цитаты.
Резюме
AI Day 2022 — это по большей части инженерный показ: проход Optimus, масштабирование FSD примерно с 2 000 до 160 000 машин, сети занятости, Dojo. Докладывают там инженеры, а не Маск, и почти ничто из этого не говорит о том, как он думает. Сам анонс Optimus, «полезный человекоподобный робот», рассуждение о труде и экономической выработке, заявления «<$20 000» и «больше, чем автомобиль» — всё это переизлагает то, что уже разобрано на AI Day 2021, Cyber Rodeo и TED2022. Потому всё это оставлено прозой. Ново в сентябре 2022 года одно, и идёт это от самого Маска. Он подаёт Tesla как возможного участника AGI, а безопасность ИИ трактует через две вещи: управление и внешнего рефери.
Во вступлении он говорит, что Tesla «могла бы внести значимый вклад в AGI». Затем он превращает саму структуру Tesla как публичной компании в аргумент о безопасности: один класс акций, «общественность контролирует Tesla» и «если я сойду с ума, вы можете меня уволить». В Q&A, когда на него давят насчёт экспертизы по безопасности AGI, он повторяет призыв к регулятору или рефери, с которым выступает уже годами. Звучит это так: «своего рода регуляторный орган по ИИ на государственном уровне», «рефери, который пытается обеспечить общественную безопасность для AGI». А AGI у Tesla, по его словам, может возникнуть сам: не цель, к которой она стремится, а вероятный побочный продукт того, что ИИ, работающий с реальным миром, действует на всём автопарке.
Tesla как участник AGI и управление как функция безопасности
Маск открывает не роботом, а заявлением о том, чем может оказаться ИИ-работа Tesla:
“make a meaningful contribution to AGI” ↗
«внести значимый вклад в AGI»
Дальше он доказывает, что Tesla — организация подходящего типа, чтобы это делать, и причина в её структуре собственности. Корпоративное управление он превращает в аргумент о безопасности ИИ:
“we’re a publicly traded company with one class of stock” ↗
«мы публично торгуемая компания с одним классом акций»
“the public controls Tesla and I think that’s actually a good thing” ↗
«общественность контролирует Tesla, и я думаю, это на самом деле хорошо»
“So if I go crazy you can fire me.” ↗
«Так что если я сойду с ума, вы можете меня уволить.»
Это переворачивает обычный инстинкт контроля основателя. Здесь механизмом безопасности служит сдержка против самого себя. Та же логика внешнего рефери, что он применяет к ИИ в целом, но обращённая на собственную компанию: подотчётность акционерам как ограничитель для потенциального создателя AGI.
Рефери для AGI, переизложенный
На вопрос в Q&A, будет ли Tesla строить экспертизу по технической безопасности AGI, Маск отвечает, что будет, если Tesla начнёт выглядеть как «значимый вклад» в AGI (пересказ). Затем он повторяет призыв к государственному надзору, с которым выступал на World Government Summit 2017 и на TED2022 в апреле, — теперь в формулировке сентября 2022 года:
“I think there should be an AI sort of regulatory authority at the government level” ↗
«Я думаю, что должен быть своего рода регуляторный орган по ИИ на государственном уровне»
Обосновывает он это той же аналогией, что использует в других местах. ИИ — такая же область общественной безопасности, как самолёты, машины, еда, лекарства, а значит, заслуживает рефери:
“I think there should be a referee that is trying to ensure public safety for AGI” ↗
«Я думаю, что должен быть рефери, который пытается обеспечить общественную безопасность для AGI»
А маршрут Tesla к AGI, по его словам, не целенаправленный: AGI может возникнуть сам. Это был бы побочный продукт ИИ, работающего с реальным миром в масштабе автопарка. Главный довод здесь — данные: миллионы машин и роботов, обрабатывающих видео из реального мира, дают «вероятно, крупнейший набор данных».
“seems likely to be an emergent property of what we’re doing” ↗
«похоже, будет эмерджентным свойством того, что мы делаем»
Это тот же запрос о рефери и регуляторном надзоре, что он уже высказывал и на саммите 2017 года («пристально следить»), и в разговоре 2019 года про «рефери», и как запрос апреля 2022 года о «регуляторном агентстве по ИИ», повторённый пять месяцев спустя. Ново здесь сцепление: данные масштаба автопарка могли бы сделать Tesla участником AGI вне зависимости от того, ставит ли она такую цель. Выходит, что компания может стать случайной лабораторией AGI, и, по его словам, именно поэтому ей нужен тот же внешний надзор, которого он просит для ИИ повсюду.
Реплика о коллективном сверхинтеллекте
Тот же ответ в Q&A сворачивает в одно из его привычных киборг-отступлений. Интеллект, говорит он, не только индивидуален, но и коллективен, и соединение людей его повышает:
“arguably humans collectively are sort of a superintelligence as well” ↗
«можно сказать, люди коллективно — это тоже своего рода сверхинтеллект»
Механизм, к которому он обращается, — это пропускная способность: коллективный интеллект растёт по мере того, как улучшается скорость передачи данных между людьми. Образ последнего большого скачка в этой скорости у него — интернет:
“the internet was like humanity acquiring a nervous system” ↗
«интернет был как обретение человечеством нервной системы»
Причина: внезапно «любой элемент человечества мог бы знать всё знание людей», а не обмениваться информацией медленно, «осмосом» (пересказ). Это тот же инстинкт «мы уже киборги» и повысь-скорость-данных, что он озвучивал ещё на Code 2016 и саммите 2017 года, только теперь обращённый к человечеству как к коллективу и вложенный в аргумент об AGI. По его словам, машинный AGI Tesla и человеческий коллективный сверхинтеллект — это два примера одного и того же явления, возникающего само собой.
Связи (затронутые страницы)
- Tesla — расширена заявлением AI Day 2022, что Tesla может «внести значимый вклад в AGI», и аргументом публично-торгуемое-управление-как-безопасность («один класс акций», «общественность контролирует Tesla», «если я сойду с ума, вы можете меня уволить»).
- Экзистенциальный риск ИИ — расширена запросом сентября 2022 года о рефери / «регуляторном органе по ИИ на государственном уровне», условием инвестиций в безопасность AGI и мыслью, что AGI может возникнуть как побочное свойство ИИ, работающего с реальным миром Tesla в масштабе автопарка.
- Слияние с ИИ — расширена репликой о коллективном сверхинтеллекте («люди коллективно — это тоже своего рода сверхинтеллект»; «интернет был как обретение человечеством нервной системы») и рамкой скорости-данных-между-людьми.
- Человекоподобные роботы / Устойчивое изобилие — переформулировки отмечены только прозой (анонс Optimus, «полезный человекоподобный робот», «<$20 000», «больше, чем автомобиль» и рамка труда/изобилия уже звучат в Tesla AI Day 2021 / Tesla Cyber Rodeo 2022 / TED2022; новых блок-цитат здесь нет).