Lex Fridman #18 (2019)

Apresentador: Lex Fridman
Formato: podcast (o Artificial Intelligence Podcast), cerca de 32 minutos (“Tesla Autopilot”)
Data: 12 de abril de 2019
Nível de confiança: transcrição completa de menor confiança (Nível 3). O texto é uma faixa de legendas automáticas do YouTube, não uma transcrição oficial feita por humanos. Pela regra do projeto para o Nível 3, as citações precisam ser verificadas no vídeo antes de serem usadas e, onde a redação da legenda é duvidosa, a fala é parafraseada aqui em vez de citada em bloco.
Citações: tiradas do próprio vídeo do YouTube (não existe transcrição em texto publicada), cada uma ligada ao seu momento no vídeo. Só Elon Musk é citado; Lex Fridman faz as perguntas e nunca é citado.

⚠️ Ressalva sobre as legendas de Nível 3. Esta fonte é uma faixa de legendas gerada por máquina. As citações em bloco abaixo são falas curtas e marcantes de Musk, cuja versão na legenda está limpa e foi conferida com o vídeo no momento indicado. Os trechos mais longos ou fragmentados (quebras de linha da legenda, começos interrompidos) são parafraseados, e não disfarçados de citações literais.

Resumo

Esta é a primeira conversa de Musk com Lex Fridman e a mais antiga que temos. Boa parte da meia hora trata da engenharia do Autopilot da Tesla (conjuntos de sensores, dados da frota, o computador de FSD), que é detalhe de produto, sem relevância para a mente dele, e por isso aparece resumida aqui, sem ser explorada. Nos últimos dez minutos, a conversa muda de rumo. Ele passa pelas crenças que se repetem ao longo de toda a sua trajetória, o que faz desta conversa curta de 2019 uma boa linha de base para medir o quanto essas visões são estáveis.

Três fios se destacam. Sobre autonomia, ele enuncia a tese na sua forma inicial mais pura: um carro sem direção autônoma vai acabar tão antiquado quanto um cavalo. Ao lado dela, dá dois dos seus lances mentais mais citados: trate toda intervenção humana como erro e a frase da máquina da morte de duas toneladas, que recoloca a direção manual como o padrão perigoso e logo arcaico. Sobre IA, ele traça a sua nítida distinção entre IA restrita e IA geral (a torradeira e o computador). A inteligência artificial geral ainda precisa de algumas ideias-chave, diz, mas vai chegar até nós muito rápido, com um final sombrio: se é que teremos essa escolha. Sobre metafísica, perguntado sobre uma IA que se pudesse amar, ele responde pela física, não pelo sentimento. É uma declaração limpa da sua visão da física como epistemologia: se não existe nenhum teste que você possa aplicar… então não existe diferença. Ele aplica o mesmo teste ao amor e à simulação e fecha o episódio com a única pergunta que faria a uma AGI: o que existe fora da simulação?

Citações principais

Autonomia: um carro sem ela é “um cavalo” (Direção autônoma)

Esta é uma das suas declarações iniciais mais claras da tese da autonomia. Não é propaganda de produto, é uma afirmação sobre obsolescência:

“in the future, any car that does not have autonomy would be about as useful as a horse.” ↗

“no futuro, qualquer carro que não tenha autonomia vai ser tão útil quanto um cavalo.”

Ele dá um número para a diferença. Um carro autônomo “provavelmente vale de cinco a dez vezes mais do que um carro que não é autônomo”, mas limita o horizonte: pelo menos os próximos cinco a dez anos (parafraseado; o valor se espalha por uma troca de falas nas legendas).

“Veja toda intervenção como erro” (Direção autônoma, Primeiros princípios)

É assim que ele pensa o aprendizado com a frota. Um humano que toca nos comandos conta, por definição, como um sinal de falha:

“the way to look at this is view all input as error.” ↗

“a maneira de encarar isso é ver toda intervenção como erro.”

Instantes depois, ele repete a ideia sem rodeios: se o usuário precisou intervir, tem algo errado, então toda intervenção é erro (parafraseado; a fala se parte em duas marcações de legenda, ↗).

A “máquina da morte de duas toneladas” (Direção autônoma)

Ele vira o status quo de cabeça para baixo. O que vai parecer insano em retrospecto, argumenta, é dirigir manualmente, não a autonomia:

“Frankly it’s pretty crazy letting people drive a two-ton death machine manually.” ↗

“Francamente, é uma loucura deixar as pessoas dirigirem manualmente uma máquina da morte de duas toneladas.”

“it’s gonna seem like a mad thing in the future that people were driving cars.” ↗

“no futuro, vai parecer coisa de louco que as pessoas dirigissem carros.”

Duas vezes ele recorre à analogia do elevador para defender o mesmo ponto. Hoje ninguém quer um ascensorista mexendo numa alavanca entre os andares, porque o elevador automático é mais seguro. E, quando um sistema é muito mais seguro do que uma pessoa, recolocar um humano nele pode reduzir a segurança (a passagem mais longa sobre o elevador é parafraseada; ela se parte em muitas marcações de legenda).

Por que ele confia que o software vai chegar lá? Resume numa frase:

“The rate of improvement is exponential.” ↗

“A taxa de melhoria é exponencial.”

IA restrita versus inteligência geral: a torradeira e o computador (Risco existencial da IA)

Há uma distinção que ele insiste que as pessoas não enxergam. Um carro autônomo é uma IA restrita, categoricamente diferente da inteligência geral:

“It’s amazing how people can’t differentiate between, say, the narrow AI that allows a car to figure out what a lane line is, and navigate streets, versus general intelligence.” ↗

“É impressionante como as pessoas não conseguem diferenciar, por exemplo, a IA restrita que permite a um carro descobrir o que é uma faixa na pista e circular pelas ruas, de um lado, e a inteligência geral, do outro.”

“Like your toaster and your computer are both machines, but one’s much more sophisticated than another.” ↗

“Sua torradeira e seu computador são as duas máquinas, mas uma é muito mais sofisticada do que a outra.”

Depois ele passa para a própria AGI, e três coisas ficam no final: as peças que faltam, a velocidade e uma dúvida inquietante sobre se a escolha é mesmo nossa.

“I think we’re missing a few key ideas for artificial general intelligence.” ↗

“Acho que ainda faltam algumas ideias-chave para a inteligência artificial geral.”

“But it’s gonna be upon us very quickly, and then we’ll need to figure out what shall we do, if we even have that choice.” ↗

“Mas ela vai chegar até nós muito rápido, e aí vamos ter que descobrir o que fazer, se é que teremos essa escolha.”

A física como teste do que é real: o amor e a simulação (Primeiros princípios, Hipótese da simulação)

Poderíamos construir uma IA que pudéssemos amar, como a do filme Her? Ele responde pela física, não pelo sentimento: se nenhum teste consegue distinguir, não há diferença.

“from a physics standpoint, essentially, if it loves you in a way that you can’t tell whether it’s real or not, it is real.” ↗

“do ponto de vista da física, basicamente, se ela te ama de um jeito que você não consegue dizer se é real ou não, então é real.”

“if there’s no test that you can apply that would make it, allow you to tell the difference, then there is no difference.” ↗

“se não existe nenhum teste que você possa aplicar que permita distinguir a diferença, então não existe diferença.”

Ele estende a mesma epistemologia direto para a simulação: pode não haver teste que separe a realidade de base de uma simulação. Fridman resume dizendo que, do ponto de vista da física, as duas são a mesma coisa, e Musk concorda e avança a partir daí. Essa frase-síntese é do entrevistador, não de Musk, e por isso não é citada como dele. Musk então acrescenta um mecanismo que a versão de 2016 não tinha. Uma simulação, depois que uma entidade dentro dela a descobrisse, poderia pausar, reiniciar ou, de algum outro modo, corrigir o erro (parafraseado; a passagem se espalha por várias marcações de legenda e não é citada em bloco por causa da ressalva do Nível 3).

O encerramento é a pergunta que ele faria a uma AGI:

“What’s outside the simulation?” ↗

“O que existe fora da simulação?”

Conexões (páginas tocadas)

Direção autônoma — ampliada: o enquadramento de 2019 da obsolescência (“tão útil quanto um cavalo”), “veja toda intervenção como erro”, a “máquina da morte de duas toneladas”, a analogia do ascensorista e “a taxa de melhoria é exponencial”.
Risco existencial da IA — ampliada: a distinção restrita versus geral mais antiga que temos (torradeira/computador) e a fala de 2019 sobre prazo e controle da AGI (“chegar até nós muito rápido… se é que teremos essa escolha”).
Primeiros princípios — ampliada: a física como epistemologia (“se não existe nenhum teste… então não existe diferença”) aplicada ao amor e à simulação.
Hipótese da simulação — ampliada: a retomada de 2019 (nenhum teste distingue a realidade de base de uma simulação; o mecanismo da simulação que se autocorrige) e a pergunta final “o que existe fora da simulação?”.
Elon Musk — ampliada com uma seção “Lex Fridman #18 (2019): a primeira conversa com Fridman, as visões já formadas”, que costura o acima como a sua linha de base na primeira conversa com Lex.
Tesla — ampliada: o enquadramento de 2019 da autonomia como a linha que divide se um carro é “útil” ou não.