Lex Fridman #438 (2024)

Apresentador: Lex Fridman
Formato: podcast, “Neuralink and the Future of Humanity”. É um episódio longuíssimo (os carimbos de tempo da transcrição chegam a cerca de 8h36). A parte do próprio Musk é só a primeira 1h28 ou por aí (termina por volta de 01:28:04, quando começa o cofundador DJ Seo); o resto é a equipe da Neuralink e o primeiro paciente.
Data: 2 de agosto de 2024
Nível de confiança: verificada (Nível 1), transcrição oficial feita por pessoas, no lexfridman.com
Citações: da transcrição oficial no lexfridman.com; só as falas de Musk são citadas, nunca as da equipe da Neuralink.

Resumo

O episódio é montado em torno da equipe da Neuralink. Fridman conversa primeiro com Musk e depois, separadamente, com DJ Seo, Matthew MacDougall, Bliss Chapman e Noland Arbaugh, a primeira pessoa a receber o implante. Só o trecho de abertura de Musk, de cerca de 1h28, serve como evidência em primeira pessoa; o resto é a equipe e Noland falando sobre a Neuralink. Só esse trecho de abertura de Musk é citado aqui. Tudo o que vem depois que ele passa a palavra são eles falando por si mesmos, e não Musk, mesmo que esse trecho vá até cerca de 8h36 no relógio da transcrição.

Dentro da sua hora e meia, três assuntos carregam a maior parte do peso. O primeiro é para que serve de fato a Neuralink. Ele trata a empresa como a solução de um problema de largura de banda. Uma pessoa produz informação de maneira absurdamente lenta, menos de um bit por segundo na média de um dia, então, para uma máquina rápida, falar com um humano é “como falar com uma árvore”. Alargue esse canal, argumenta ele, e dá para manter a vontade humana alinhada com a IA. No longo prazo, é para isso que o dispositivo existe.

O segundo é a mente. O celular, diz ele, já faz de você um ciborgue com uma “terceira camada de computação”. Tudo o que você já sentiu se reduz a sinais elétricos num “computador biológico”, e a morte é, no fundo, a perda de informação. O terceiro assunto é como ele pensa e no que gasta as próprias energias. Ele expõe o algoritmo de engenharia em cinco passos de modo mais claro do que em qualquer outra fonte aqui, até o mantra (“questionar os requisitos, tornar os requisitos menos burros”) e a regra de excluir antes de otimizar. Ele descreve a própria disciplina como uma sobreposição do córtex a um instinto límbico e aponta a busca da verdade como aquilo de que uma IA não pode ser treinada para se afastar. O mesmo impulso, em escala maior, vira uma “religião da curiosidade”. Entender o universo é a missão que ele passa à xAI e ao Grok e o motivo que dá para Marte e para ter mais filhos.

Citações principais

A Neuralink como problema de largura de banda

O propósito de longo prazo declarado da empresa: alargar o canal entre humanos e IA.

“So, the long-term aspiration of Neuralink is to improve the AI human symbiosis by increasing the bandwidth of the communication.” ↗

“Então, a aspiração de longo prazo da Neuralink é melhorar a simbiose entre IA e humanos aumentando a largura de banda da comunicação.”

Por que o canal lento importa: a imagem de “falar com uma árvore”, que volta ao longo do episódio:

“If the AI can communicate at terabits per second, and you’re communicating at bits per second, it’s like talking to a tree.” ↗

“Se a IA consegue se comunicar a terabits por segundo e você se comunica a bits por segundo, é como falar com uma árvore.”

A conta por trás da afirmação de que os humanos têm uma largura de banda assombrosamente baixa:

“If you think what is the average bits per second of a human, it is less than one bit per second over the course of a day.” ↗

“Se você pensar em quantos bits por segundo um humano produz em média, é menos de um bit por segundo ao longo de um dia.”

Os humanos como fonte de vontade

Perguntado para que servem os humanos a uma superinteligência, a resposta dele não é capacidade, é motivação:

“I think there is some argument for humans as a source of will.” ↗

“Acho que há algum argumento a favor dos humanos como fonte de vontade.”

Já somos ciborgues: a terceira camada de computação

O modelo dele do ser humano como alguém que já é estendido por máquinas, antes de qualquer implante:

“So, you’re actually already a cyborg. You have this tertiary compute layer, which is in the form of your computer with all the applications, or your compute devices.” ↗

“Então, você na verdade já é um ciborgue. Você tem essa terceira camada de computação, que tem a forma do seu computador com todos os aplicativos, ou dos seus dispositivos de computação.”

Mente, memória e morte

O cérebro como um dispositivo geral de entrada e saída, com toda experiência vista como sinal elétrico:

“everything that you’ve ever experienced in your whole life, smell, emotions, all of those are electrical signals.” ↗

“tudo o que você já experimentou na vida inteira, cheiros, emoções, tudo isso são sinais elétricos.”

A morte reformulada como um problema de informação, e não biológico:

“Death is fundamentally the loss of information, the loss of memory.” ↗

“A morte é, fundamentalmente, a perda de informação, a perda de memória.”

Fusão com a IA: alinhar a vontade coletiva humana

Por que ele conta uma taxa de saída maior como medida de segurança da IA, e não só como comodidade:

“We could better align collective human will with AI if the output rate especially was dramatically increased.” ↗

“Poderíamos alinhar melhor a vontade coletiva humana com a IA se a taxa de saída, em especial, aumentasse de forma dramática.”

Para onde o humano caminha se o problema da largura de banda for resolvido:

“We would be something different. I mean, some sort of futuristic cyborg” ↗

“Seríamos algo diferente. Quer dizer, algum tipo de ciborgue futurista”

O algoritmo de engenharia: primeiros princípios como mantra

O método de projeto dele, na forma em primeira pessoa mais limpa entre estas fontes:

“I have this very basic first principles algorithm that I run kind of as a mantra, which is to first question the requirements, make the requirements less dumb.” ↗

“Eu tenho esse algoritmo bem básico de primeiros princípios que eu rodo meio como um mantra, que é primeiro questionar os requisitos, tornar os requisitos menos burros.”

O erro que ele diz repetir mais, e a disciplina de excluir primeiro:

“the most common mistake of smart engineers is to optimize a thing that should not exist” ↗

“o erro mais comum dos engenheiros inteligentes é otimizar uma coisa que não deveria existir”

Ele aponta a psicologia de por que excluir é difícil, e a solução como uma sobreposição deliberada:

“This is, I would say, like a cortical override to a limbic instinct.” ↗

“Isso é, eu diria, como uma sobreposição cortical a um instinto límbico.”

A IA e a supremacia da verdade

O que o raciocínio dele diz ser a propriedade mais importante de uma IA:

“the thing that at least my biological neural net comes up with as being the most important thing is adherence to truth, whether that truth is politically correct or not.” ↗

“o que, pelo menos para a minha rede neural biológica, aparece como a coisa mais importante é a adesão à verdade, quer essa verdade seja politicamente correta, quer não.”

O perigo a que ele não para de voltar: um modelo treinado para mentir, mesmo que pouco:

“I think it’s important that whatever AI wins, it’s a maximum truth seeking AI that is not forced to lie for political correctness, or, well, for any reason, really, political, anything.” ↗

“Acho importante que, seja qual for a IA que vencer, ela seja uma IA que busca ao máximo a verdade, que não seja forçada a mentir por correção política ou, bom, por qualquer motivo, na verdade, político, qualquer coisa.”

Uma religião da curiosidade: entender o universo

Ele entrega a própria curiosidade à empresa como propósito:

“And that’s the mission of xAI and Grok is understand the universe.” ↗

“E essa é a missão da xAI e do Grok: entender o universo.”

O mesmo impulso, apontado como a coisa mais próxima de uma fé que ele tem:

“my motivation if I’ve got a religion of any kind is a religion of curiosity, of trying to understand.” ↗

“a minha motivação, se eu tiver uma religião de algum tipo, é uma religião da curiosidade, de tentar entender.”

E a velha inclinação a encontrar o problema, aqui creditada a Douglas Adams:

“trying to frame the question correctly is the hard part. Once you frame the question correctly, the answer is often easy.” ↗

“formular a pergunta do jeito certo é a parte difícil. Quando você formula a pergunta do jeito certo, a resposta costuma ser fácil.”

Civilização, Marte e o colapso populacional

Por que ele continua “batendo na tecla dos bebês”: a taxa de natalidade como a causa recorrente do colapso:

“Population collapse is a real and current thing.” ↗

“O colapso populacional é uma coisa real e atual.”

A leitura dele, em uma frase, de por que Roma caiu:

“Rome fell because the Romans stopped making Romans.” ↗

“Roma caiu porque os romanos pararam de fazer romanos.”

O que ele otimiza: o tempo como moeda

A medida de sucesso que ele declara e o recurso escasso que ela gasta:

“Well, time is the true currency.” ↗

“Bom, o tempo é a verdadeira moeda.”

Conexões (páginas tocadas)

Elon Musk: ampliada com a seção “Lex Fridman #438 (2024): a metafísica do engenheiro”: o propósito de largura de banda e simbiose da Neuralink, o ciborgue e o modelo límbico-córtex da mente, a morte como informação, o algoritmo de engenharia em cinco passos, a verdade como imperativo da IA e a religião da curiosidade, junto com o quadro civilizacional do colapso populacional.
Neuralink: criada: como Musk enquadra o propósito da empresa (largura de banda, simbiose, “falar com uma árvore”, primeiro o médico e depois o aprimoramento).
Simbiose entre humanos e IA: criada: o argumento do descompasso de largura de banda e o alinhamento da vontade coletiva humana com a IA.
Fusão com a IA: criada: a tese do ciborgue e da terceira camada, e para onde os humanos caminham.
Consciência e morte: criada: a experiência como sinal elétrico, o cérebro como computador biológico, a morte como perda de informação.
Modelo límbico-córtex: criada: o modelo do córtex a serviço do sistema límbico e a “sobreposição cortical” como base da disciplina de engenharia dele.
Primeiros princípios: ampliada com o algoritmo de cinco passos de “tornar os requisitos menos burros” (excluir antes de otimizar).
Risco existencial da IA: ampliada com o perigo da função objetivo e do HAL 9000 e com a “IA que busca ao máximo a verdade”.
Curiosidade e busca da verdade: ampliada com a “religião da curiosidade” e o enquadramento de Douglas Adams, que põe as perguntas acima das respostas.
xAI e Grok: ampliada com a missão de três palavras, “entender o universo”.
Futuro brilhante da humanidade: ampliada com o argumento multiplanetário e do grande filtro de Fermi, e com o colapso populacional.
Intensidade de trabalho: ampliada com a frase “o tempo é a verdadeira moeda” em bloco de citação e a imagem do cérebro como computador biológico.
Fazer a pergunta certa: ampliada com a retomada, por Douglas Adams, da busca do problema certo.