Tesla AI Day 2022

• Local / ocasião: o segundo AI Day da Tesla, na sede de Palo Alto, em 30 de setembro de 2022. O protótipo do Optimus deu sua primeira caminhada sem cabos pelo palco, e os engenheiros apresentaram atualizações técnicas aprofundadas sobre o FSD, a rede de ocupação, o planejamento e o supercomputador Dojo.
• Formato: uma transmissão ao vivo de cerca de 3h08. Musk abre, os engenheiros apresentam seus blocos e uma longa sessão de perguntas da plateia encerra; publicada no canal oficial da Tesla no YouTube (ODSJsviD_SU).
• Data: 30 de setembro de 2022.
• Nível de confiança: transcrição completa de menor confiança (Nível 3). A fonte é uma transcrição automática do OpenAI Whisper (um gist público no GitHub) da transmissão oficial da Tesla. O Whisper não separa os falantes, então a transcrição não traz identificação de quem fala; é preciso deduzir pelo contexto. Confira cada citação com o vídeo antes de usá-la.
• Citações: cada uma aponta para o momento correspondente no vídeo da transmissão da Tesla. Os carimbos de tempo vêm da transcrição automática e são aproximados (com diferença de um segundo, mais ou menos), então cada citação ainda precisa ser conferida no vídeo.
• ⚠️ Ressalva de atribuição — o maior risco, já que nada tem identificação de falante. Sem rótulos de falante, num evento de engenharia com vários apresentadores, cada citação aqui é atribuída a quem fala pelo contexto. Musk faz a abertura, antes de os engenheiros se apresentarem (“Pessoal, eu sou a Milana…”), e responde à sessão de perguntas. Só as falas claramente da abertura dele ou de suas respostas nas perguntas viram bloco de citação. As partes de engenharia (atuadores, mãos e locomoção do Optimus, FSD, redes de ocupação, planejamento, Dojo) pertencem a outros apresentadores e nunca são atribuídos a ele. Sempre que há a menor dúvida sobre quem fala, o ponto é parafraseado.

⚠️ Ressalva do Nível 3. Esta é uma transcrição automática, sem separação de falantes, e tem os defeitos para provar: “Antity” para entity, “bumble sea” para Bumble C, “AGI is seems likely”. As citações em bloco abaixo são falas curtas e marcantes de Musk, tiradas da abertura e das perguntas, reproduzidas exatamente como o Whisper as transcreveu, defeitos incluídos, e conferidas com o vídeo quanto à atribuição. Quase tudo o mais no evento é engenharia apresentada por outras pessoas e fica em prosa, não em citações.

Resumo

Grande parte do AI Day 2022 é uma vitrine de engenharia: a caminhada do Optimus, o FSD escalando de cerca de 2.000 para 160.000 carros, as redes de ocupação, o Dojo. Quem apresenta isso são engenheiros, não Musk, e pouco disso diz respeito a como ele pensa. A estreia do Optimus, o “robô humanoide útil”, o argumento sobre trabalho e produção econômica, as afirmações de “menos de US$ 20.000” e “maior que o carro” repetem o que o AI Day 2021, o Cyber Rodeo e o TED2022 já cobrem. Por isso ficam em prosa. Uma coisa é nova em setembro de 2022, e vem do próprio Musk. Ele apresenta a Tesla como uma possível contribuidora para a AGI e trata a segurança da IA como uma questão tanto de governança quanto de um árbitro externo.

Na abertura, ele diz que a Tesla “poderia dar uma contribuição significativa para a AGI”. Depois transforma a estrutura da Tesla como empresa de capital aberto num argumento de segurança: uma única classe de ações, “o público controla a Tesla” e “se eu enlouquecer, vocês podem me demitir”. Na sessão de perguntas, pressionado sobre a competência da empresa em segurança de AGI, ele repete o pedido de um regulador ou árbitro que faz há anos. A formulação sai assim: “uma espécie de autoridade reguladora de IA no nível do governo”, “um árbitro que tente garantir a segurança pública em relação à AGI”. E ele descreve o caminho da Tesla até a AGI como emergente: não uma meta mirada de propósito, mas um subproduto provável de rodar IA no mundo real em toda a frota.

A Tesla como contribuidora para a AGI e a governança como recurso de segurança

Musk abre não com o robô, mas com uma afirmação sobre o que o trabalho de IA da Tesla poderia significar:

“make a meaningful contribution to AGI” ↗

“dar uma contribuição significativa para a AGI”

Depois ele argumenta que a Tesla é o tipo certo de organização para isso, e o motivo é a estrutura de propriedade. Ele transforma a governança corporativa num argumento de segurança da IA:

“we’re a publicly traded company with one class of stock” ↗

“somos uma empresa de capital aberto com uma única classe de ações”

“the public controls Tesla and I think that’s actually a good thing” ↗

“o público controla a Tesla e eu acho que isso, na verdade, é uma coisa boa”

“So if I go crazy you can fire me.” ↗

“Então, se eu enlouquecer, vocês podem me demitir.”

Isso inverte o instinto usual de controle do fundador. Aqui, o freio sobre ele mesmo é o mecanismo de segurança. É a mesma lógica do árbitro externo que ele aplica à IA em geral, só que apontada para a própria empresa: prestar contas aos acionistas como proteção contra quem pretende construir uma AGI.

O árbitro da AGI, de novo

Perguntado na sessão de perguntas se a Tesla vai criar competência técnica em segurança de AGI, Musk diz que sim, se a Tesla começar a parecer uma “contribuição significativa” para a AGI (parafraseado). Depois repete o pedido de supervisão do governo que fez na Cúpula Mundial de Governos de 2017 e no TED2022, em abril, agora na formulação de setembro de 2022:

“I think there should be an AI sort of regulatory authority at the government level” ↗

“Acho que deveria existir uma espécie de autoridade reguladora de IA no nível do governo.”

Ele se apoia na analogia que usa em outros momentos. A IA é como qualquer outra área de segurança pública (aviões, carros, alimentos, medicamentos), então pede um árbitro:

“I think there should be a referee that is trying to ensure public safety for AGI” ↗

“Acho que deveria haver um árbitro que tente garantir a segurança pública em relação à AGI.”

E ele descreve o caminho da Tesla até a AGI como emergente, não como algo mirado de propósito. Seria um subproduto de rodar IA no mundo real em toda a frota. O argumento dos dados sustenta a ideia: milhões de carros e robôs processando vídeo do mundo real formam “provavelmente o maior conjunto de dados”.

“seems likely to be an emergent property of what we’re doing” ↗

“parece provável que seja uma propriedade emergente do que estamos fazendo”

É o mesmo pedido de árbitro / supervisão regulatória que ele já tinha feito na cúpula de 2017 (“acompanhar de perto”), na conversa do “árbitro” de 2019 e de novo no “agência reguladora de IA” de abril de 2022, repetido cinco meses depois. O que há de novo é a combinação: os dados em escala de frota da Tesla podem torná-la uma contribuidora para a AGI queira ela ou não. No relato dele, isso faz da empresa um laboratório de AGI sem querer, e é justamente por isso que ela precisaria da mesma supervisão externa que ele pede para a IA em toda parte.

O comentário sobre a superinteligência coletiva

A mesma resposta nas perguntas deriva para uma de suas conhecidas digressões de ciborgue. A inteligência, diz ele, não é só individual, é também coletiva, e conectar as pessoas a eleva:

“arguably humans collectively are sort of a superintelligence as well” ↗

“dá para dizer que os humanos, coletivamente, também são uma espécie de superinteligência”

O mecanismo a que ele recorre é a largura de banda: a inteligência coletiva cresce à medida que a taxa de dados entre os humanos melhora. A imagem que ele usa para o último grande salto dessa taxa é a internet:

“the internet was like humanity acquiring a nervous system” ↗

“a internet foi como se a humanidade ganhasse um sistema nervoso”

O motivo: de repente “qualquer elemento da humanidade podia saber todo o conhecimento dos humanos”, em vez de trocar informações devagar “por osmose” (parafraseado). É o mesmo instinto do “já somos ciborgues” e do aumentar a taxa de dados que ele expressou na Code 2016 e na cúpula de 2017, agora voltado para a humanidade como coletivo e incorporado ao argumento da AGI. No relato dele, a AGI de máquina da Tesla e a superinteligência coletiva humana são duas instâncias de um mesmo fenômeno emergente.

Conexões (páginas tocadas)

• Tesla — ampliada com a afirmação do AI Day 2022 de que ela “poderia dar uma contribuição significativa para a AGI” e com o argumento da governança de empresa de capital aberto como segurança (“uma única classe de ações”, “o público controla a Tesla”, “se eu enlouquecer, vocês podem me demitir”).
• Risco existencial da IA — ampliada com o pedido de setembro de 2022 por um árbitro / “autoridade reguladora no nível do governo”, a condicional sobre investir em segurança de AGI e o enquadramento da AGI como propriedade emergente da IA em escala de frota da Tesla.
• Fusão com a IA — ampliada com o comentário sobre a superinteligência coletiva (“os humanos, coletivamente, são uma espécie de superinteligência”; “a internet foi como se a humanidade ganhasse um sistema nervoso”) e com o enquadramento de largura de banda da taxa de dados entre os humanos.
• Robôs humanoides / Abundância sustentável — repetições registradas apenas em prosa (a estreia do Optimus, o “robô humanoide útil”, “menos de US$ 20.000”, “maior que o carro” e o enquadramento de trabalho e abundância já aparecem no Tesla AI Day 2021, no Tesla Cyber Rodeo 2022 e no TED2022; sem novas citações em bloco aqui).