Lex Fridman #400 (2023)

Apresentador: Lex Fridman
Formato: podcast, cerca de 3 horas (War, AI, Aliens, Politics, Physics, Video Games, and Humanity)
Data: 9 de novembro de 2023
Nível de confiança: verificada (Nível 1). A transcrição é a oficial, feita por humanos, em lexfridman.com, então pode ser citada diretamente.
Citações: da transcrição oficial em lexfridman.com.

Resumo

Esta é a quarta e mais longa das conversas de Fridman com Musk, gravada poucas semanas depois do ataque do Hamas em outubro de 2023 e do lançamento do Grok da xAI. As três horas se espalham por guerra, IA, física, política e videogames, mas quatro trechos fazem o trabalho de verdade para entender a mente dele.

Sobre a guerra, o conselho dele é de contenção, e ele o defende por um ângulo friamente estratégico, quase de primeiros princípios. O único número que importa, diz, é se uma luta cria mais inimigos do que elimina, de modo que o movimento inteligente é uma bondade tão visível que não dá para fingir. Sobre a IA, ele retoma uma década de alertas de risco existencial e conta como a OpenAI começou, ligando-a a um rompimento com Larry Page sobre tomar ou não o lado da humanidade. Sobre engenharia e verdade, ele dá a versão em primeira pessoa mais limpa da sua regra de que a física é a única lei de verdade e chama a curiosidade e a busca da verdade de a sua filosofia de vida de fato. E, no trecho final, sobre a adversidade, ele dá o autorretrato mais cru que temos até agora: chama a própria mente de tempestade e fala de solidão, de uma infância difícil e de como olhar para o futuro é, em parte, o seu jeito de lidar com tudo isso.

Citações principais

Guerra, empatia e natureza humana

O verdadeiro inimigo, diz ele, não são as outras pessoas. É a ignorância:

“I’m generally a proponent of peace. I mean, ignorance is perhaps, in my view, the real enemy to be countered.” ↗

“Em geral, sou a favor da paz. Quer dizer, a ignorância talvez seja, na minha visão, o verdadeiro inimigo a ser combatido.”

Então o conselho dele a Israel é a desescalada, oferecida como estratégia fria, e não como sentimento:

“I would recommend that Israel engage in the most conspicuous acts of kindness possible” ↗

“Eu recomendaria que Israel fizesse os atos de bondade mais visíveis possíveis”

O raciocínio por trás disso conta os inimigos criados, não os inimigos mortos:

“an eye for an eye makes everyone blind” ↗

“olho por olho deixa todo mundo cego”

Nada disso quer dizer que ele ache que o conflito algum dia acaba. Ele trata isso como uma característica fixa do mundo:

“There will always be war.” ↗

“Sempre vai haver guerra.”

Risco existencial da IA

Ele repete um alerta que faz há uma década, recorrendo à frase do Homem-Aranha para dizê-lo:

“I’ve been pushing for some kind of regulatory oversight for a long time. I’ve been somewhat of a Cassandra on the subject for over a decade. I think we want to be very careful in how we develop AI. It’s a great power and with great power comes great responsibility.” ↗

“Há muito tempo eu venho pedindo algum tipo de supervisão regulatória. Fui meio que uma Cassandra no assunto por mais de uma década. Acho que a gente precisa ter muito cuidado em como desenvolve a IA. É um grande poder, e com grandes poderes vêm grandes responsabilidades.”

Depois vem a origem da OpenAI e o momento que, na versão dele, tornou a segurança da IA algo pessoal. Larry Page, diz ele, o chamou de especista por ficar do lado dos humanos:

“Larry did not care about AI safety, or at least at the time he didn’t. And at one point he called me a speciesist for being pro-human” ↗

“O Larry não ligava para a segurança da IA, ou pelo menos na época não ligava. E em determinado momento ele me chamou de especista por ser pró-humano”

O veredito dele sobre o que a empresa virou é direto:

“the open in open AI is supposed to mean open source, and it was created as a nonprofit open source, and now it is a closed source for maximum profit, which I think is not good karma” ↗

“o ‘open’ de OpenAI deveria significar código aberto, e ela foi criada como uma organização sem fins lucrativos de código aberto, e agora é código fechado para lucro máximo, o que eu acho que não é bom carma”

Física, curiosidade e busca da verdade

Aqui ele enuncia o seu princípio regente em primeira pessoa, com as próprias palavras, uma frase que os biógrafos só parafraseiam:

“Like physics is the law, everything else is a recommendation. I’ve seen plenty of people break the laws made by man, but none break the laws made by physics.” ↗

“Tipo assim: a física é a lei, todo o resto é recomendação. Já vi muita gente quebrar as leis feitas pelo homem, mas ninguém quebrar as leis feitas pela física.”

Ele declara a sua filosofia de vida de fato, sem rodeios:

“we don’t know the meaning of life, but the more we can expand the scope and scale of consciousness, digital and biological, the more we’re able to understand what questions to ask about the answer that is the universe. So I have a philosophy of curiosity.” ↗

“não sabemos o sentido da vida, mas, quanto mais conseguirmos expandir o alcance e a escala da consciência, digital e biológica, mais seremos capazes de entender que perguntas fazer sobre a resposta que é o universo. Então eu tenho uma filosofia da curiosidade.”

E esse mesmo padrão é o que ele quer que o próprio Grok persiga:

“underlying the humor is an aspiration to adhere to the truth of the universe as closely as possible” ↗

“por trás do humor há a aspiração de se manter o mais fiel possível à verdade do universo”

Psicologia — a tempestade, a solidão e o jeito de lidar

Perguntado sobre que dificuldade as pessoas não veem nele, ele dá a autodescrição mais crua de todas as fontes aqui:

“my mind is a storm and I don’t think most people would want to be me. They may think they would want to be me, but they don’t. They don’t know, they don’t understand.” ↗

“a minha mente é uma tempestade, e acho que a maioria das pessoas não ia querer ser eu. Elas podem achar que queriam ser eu, mas não queriam. Elas não sabem, não entendem.”

A solidão aparece numa frase discreta:

“There are many nights I sleep alone. I don’t have to, but I do.” ↗

“Há muitas noites em que eu durmo sozinho. Não precisava, mas durmo.”

Perguntado sobre perdão e a sua infância difícil, ele diz que não há nada a perdoar:

“What is forgiveness? At least I don’t think I have a resentment, so nothing to forgive.” ↗

“O que é perdão? Pelo menos não acho que eu tenha ressentimento, então não há nada a perdoar.”

O jeito de chegar lá é apontar tudo para o futuro e deixar o passado para trás:

“I try to think about, what is going to affect the future in a good way? And holding onto grudges does not affect the future in a good way.” ↗

“Eu tento pensar em o que vai afetar o futuro de um jeito bom. E guardar rancor não afeta o futuro de um jeito bom.”

Visão da natureza humana

Apesar de tudo isso, ele recusa o cinismo e se fixa numa estimativa deliberadamente modesta das pessoas:

“Most people are kind of medium good.” ↗

“A maioria das pessoas é meio que medianamente boa.”

Conexões (páginas tocadas)

Elon Musk — ampliada com a psicologia do #400 (a “tempestade”, a solidão, o perdão e a orientação para o futuro), o raciocínio sobre guerra e empatia, a história de origem da segurança da IA e o credo da física.
Risco existencial da IA — criada: a década de alertas, grande poder e grande responsabilidade, o rompimento com Larry Page sobre o especismo e o Time Robot, e a frase do carma da OpenAI.
Curiosidade e busca da verdade — criada: a filosofia da curiosidade, a expansão da consciência e o Grok feito para acompanhar a verdade do universo.
Atos de bondade ostensivos — criada: a desescalada como estratégia, a frase do olho por olho, contar os inimigos criados em vez dos mortos.
Primeiros princípios — ampliada com a citação em primeira pessoa de que a física é a lei.
Futuro brilhante da humanidade — ampliada com a orientação para o futuro funcionando ao mesmo tempo como motivação e como mecanismo de enfrentamento.
Supressão emocional · Vício em drama — o autorretrato da tempestade e da solidão, lido ao lado da psicologia de Isaacson.