Lex Fridman #49 (2019)

• Apresentador: Lex Fridman
• Formato: podcast (o “Artificial Intelligence Podcast”), cerca de 36 min (“Neuralink, IA, Autopilot e o Pálido Ponto Azul”)
• Data: 12 de novembro de 2019
• Nível de confiança: verificado (Nível 1). A página oficial do episódio de Lex Fridman leva a um PDF transcrito pela Rev.com, e essa transcrição é o texto usado aqui. Mesmo nível de confiança do #400 e do #438.
• Citações: da transcrição da Rev, só de Elon Musk (Lex Fridman é o entrevistador e nunca é citado). A página do episódio oferece a transcrição apenas em PDF, então, como no #18 (2019), cada citação leva ao momento correspondente no vídeo oficial no YouTube.

Resumo

Esta é a segunda conversa de Musk com Lex Fridman (“Parte II”), gravada no mesmo dia em que a Neuralink mostrou seu trabalho. Entre as fontes mais antigas que temos, é a mais rica sobre como ele pensa a mente como hardware. Enquanto o #18, sete meses antes, tratou sobretudo do Autopilot, o #49 é o episódio em que ele expõe quase todo o conjunto de crenças da Neuralink, anos antes da versão mais enxuta de 2024. A consciência como fenômeno físico. O cérebro como um “cérebro de macaco com um computador colado nele”. A máquina como o lado que precisa se adaptar. A superinteligência digital como uma “camada terciária”. E “se você não pode vencê-los, junte-se a eles” como motivo para a fusão. Para visões que, no mais, aparecem sobretudo a partir de 2024, esta é uma boa referência inicial.

Quatro fios fazem o trabalho. Sobre a consciência, ele dá seu argumento inicial mais limpo de que a mente é física e de que o método científico é o teste do que se pode saber. Daí prevê que a IA vai simular a consciência tão bem que a diferença deixa de ser testável. Sobre o risco da IA, repete o pedido de um árbitro regulatório externo e chama de “singularidade” o ponto além do qual tudo se torna imprevisível e instável. Sobre a mente como hardware em camadas, enuncia o modelo límbico-cortical em sua forma inicial mais completa: o córtex é a camada inteligente, mas serve à camada límbica, burra, e uma “camada terciária” digital ainda está por vir. Depois, lendo Carl Sagan no trecho final, ele transforma a imagem num argumento sobre sobreviver como civilização e ir a Marte. As civilizações sobem e caem, diz ele, e agora fazem isso juntas, então a consciência não deveria ficar num único planeta.

Citações principais

A consciência é física, e o método científico é o teste (Consciência e morte, Primeiros princípios)

Fridman pergunta se a consciência permeia toda a matéria, a visão panpsiquista. Musk rejeita de cara a leitura mística:

“I don’t think consciousness permeates all matter.” ↗

“Não acho que a consciência permeie toda a matéria.”

Para uma pergunta assim, a régua dele é o método científico. Uma coisa é verdadeira na medida em que dá para testá-la:

“I believe in scientific method.” ↗

“Eu acredito no método científico.”

Em seguida vem sua afirmação inicial mais explícita de que a mente é física, alcançada do jeito de sempre: partindo de uma intervenção física:

“If you damage your brain in some way physically, you damage your consciousness, which implies that consciousness is a physical phenomenon in my view.” ↗

“Se você danifica o cérebro fisicamente de alguma forma, você danifica a consciência, o que implica que a consciência é um fenômeno físico, na minha visão.”

Ele separa a autoconsciência da consciência e prevê que uma inteligência digital vai nos superar em raciocínio e simular a consciência bem o bastante para que a diferença não seja testável, o mesmo raciocínio de “sem teste, sem diferença” que faz no #18:

“It will be self-aware, yes. That’s different from consciousness.” ↗

“Ela vai ser autoconsciente, sim. Isso é diferente de consciência.”

“digital intelligence will be able to out-think us in every way. And it will suddenly be able to simulate what we consider consciousness. So to the degree that you would not be able to tell the difference.” ↗

“a inteligência digital vai conseguir pensar melhor do que a gente em todos os sentidos. E, de repente, vai conseguir simular o que a gente considera consciência. Ao ponto de você não conseguir perceber a diferença.”

A IA precisa de um árbitro externo (Risco existencial da IA)

A solução de sempre dele é um regulador de interesse público para a IA, nos moldes das agências que já fiscalizam seus carros e seus foguetes:

“Where there is a lack of investment is in AI safety, and there should be, in my view, a government agency that oversees anything related to AI to confirm that it is, does not represent a public safety risk.” ↗

“Onde falta investimento é na segurança da IA, e deveria existir, na minha visão, uma agência do governo que supervisione qualquer coisa relacionada à IA para confirmar que ela não representa um risco à segurança pública.”

Ele apoia o pedido numa leitura de primeiros princípios de como a regulação de fato aparece: tarde demais, depois de um desastre. O exemplo que dá são as décadas que a indústria automobilística passou combatendo o cinto de segurança.

“It was known for a decade or more that seatbelts would have a massive impact on safety and save so many lives and serious injuries. And the car industry fought the requirements to put seatbelts in tooth and nail.” ↗

“Já se sabia fazia uma década ou mais que o cinto de segurança teria um impacto enorme na segurança e salvaria muitas vidas e evitaria muitos ferimentos graves. E a indústria automobilística lutou com unhas e dentes contra a exigência de instalar cintos.”

A mente como hardware em camadas: o “cérebro de macaco” (Modelo límbico-córtex)

Aqui está o modelo na sua forma inicial mais completa, a que a conversa de 2024 retoma depois com o vocabulário da “camada terciária de computação”. O cérebro tem duas camadas, e a mais esperta trabalha para a mais burra:

“It’s like we’ve got a monkey brain with a computer stuck on it, that’s the human brain.” ↗

“É como se a gente tivesse um cérebro de macaco com um computador colado nele, esse é o cérebro humano.”

O essencial é a direção do controle, e ela corre ao contrário. Quem manda é a camada burra:

“It’s not the cortex that’s steering the monkey brain, the monkey brain’s steering the cortex.” ↗

“Não é o córtex que conduz o cérebro de macaco, é o cérebro de macaco que conduz o córtex.”

Pouco depois, ele põe a mesma ideia da forma mais afiada. A coisa inteligente deveria mandar na burra, e na prática é o contrário:

“it seems like surely the really smart thing should control the dumb thing, but actually the dumb thing controls the smart thing.” ↗

“parece que, com certeza, a coisa realmente inteligente deveria controlar a burra, mas na verdade é a burra que controla a inteligente.”

Em seguida, ele nomeia uma terceira camada que vem por cima das duas biológicas, a semente da camada terciária do “já somos ciborgues”:

“And then there’s a tertiary layer which will be digital superintelligence.” ↗

“E depois há uma camada terciária, que será a superinteligência digital.”

A máquina se adapta ao cérebro, e não o contrário (Neuralink, Simbiose entre humanos e IA)

Em quem recai o peso de fazer o encaixe? Na máquina, diz ele, um princípio de projeto da Neuralink já enunciado em 2019:

“I think the machine side is far more malleable than the biological side, by a huge amount.” ↗

“Acho que o lado da máquina é muito mais maleável do que o lado biológico, e por uma diferença enorme.”

A imagem que ele faz do pouco que sabemos sobre o cérebro é a reformulação por trás da empresa inteira:

“We’ve got fMRI, that’s like putting a stethoscope on the outside of a factory wall, and then putting it all over the factory wall and you can hear the sounds, but you don’t know what the machines are doing really.” ↗

“Temos a ressonância magnética funcional, que é como encostar um estetoscópio na parte de fora da parede de uma fábrica, e depois encostá-lo em toda a parede: dá para ouvir os sons, mas não dá para saber de verdade o que as máquinas estão fazendo.”

A própria simbiose ele coloca como esperança: duas redes neurais se conectando, o humano levado junto, mesmo quando a maior parte da “nossa” inteligência passa a ser digital:

“we’re a neural net and AI is basically a neural net. So it’s like digital neural net will interface with biological neural net. And hopefully bring us along for the ride. But the vast majority of our intelligence will be digital.” ↗

“nós somos uma rede neural e a IA é basicamente uma rede neural. Então a rede neural digital vai se conectar com a rede neural biológica. E, com sorte, nos levar junto na viagem. Mas a grande maioria da nossa inteligência será digital.”

A singularidade, e “se você não pode vencê-los, junte-se a eles” (Fusão com a IA, Risco existencial da IA)

O motivo para a fusão tem aqui uma de suas formulações mais simples. Os humanos não serão mais inteligentes que um supercomputador digital, então o caminho é juntar-se a ele:

“We will not feel to be smarter than a digital supercomputer. So therefore, if you cannot beat them, join them.” ↗

“Não vamos nos sentir mais inteligentes que um supercomputador digital. Então, se você não pode vencê-los, junte-se a eles.”

Por que ele diz que a interface cerebral é urgente: colocá-la de pé antes que a singularidade deixe tudo instável:

“It’s important that Neuralink solves this problem sooner rather than later because the point at which we have digital superintelligence, that’s where we pass the singularity and things become just very uncertain.” ↗

“É importante que a Neuralink resolva esse problema logo, e não depois, porque o ponto em que temos a superinteligência digital é onde atravessamos a singularidade e as coisas ficam muito incertas.”

No mesmo fôlego, ele endurece “incerto” para “extremamente instável”. Apresenta a interface cerebral como algo a ter antes da singularidade, para conter o risco existencial para a humanidade e para a consciência como a conhecemos (mesma virada, aos 21:38).

A autonomia como problema de espaço vetorial (Direção autônoma)

A leitura inicial mais afiada que ele faz da direção autônoma é que ela é, no fundo, um problema de percepção e representação, e não de planejamento:

“The hardest thing is having accurate representation of the physical objects in vector space.” ↗

“O mais difícil é ter uma representação precisa dos objetos físicos no espaço vetorial.”

“Once you have an accurate vector space representation, the planning and control is relatively easier.” ↗

“Uma vez que você tem uma representação precisa no espaço vetorial, o planejamento e o controle são relativamente mais fáceis.”

O Pálido Ponto Azul: a civilização é frágil, e a consciência é o que se deve estender (Futuro brilhante da humanidade, Colonização de Marte)

⚠️ Nota de atribuição. No trecho final, Musk lê em voz alta a passagem “Pálido Ponto Azul”, de Carl Sagan (“Olhem de novo para aquele ponto…”). Essas palavras são de Sagan, não de Musk, e por isso não são citadas aqui como crenças dele. Os blocos de citação abaixo são as observações do próprio Musk em torno da leitura.

Sagan leva Musk a refletir por conta própria sobre a civilização: a velha lição de ascensão e queda, agora globalizada num único risco compartilhado:

“Look at the history of civilizations, they rise and they fall, and now civilization is all, it’s globalized. And so civilization, I think now rises and falls together.” ↗

“Olhe a história das civilizações: elas sobem e caem, e agora a civilização é toda, está globalizada. Então a civilização, acho eu, agora sobe e cai junta.”

Depois, o argumento do tempo, que faz a consciência parecer ao mesmo tempo rara e precária:

“if it had taken consciousness 10% longer to evolve, it would never have evolved at all, 10% longer.” ↗

“se a consciência tivesse levado 10% mais tempo para evoluir, ela nunca teria evoluído, 10% mais tempo.”

E a correção de uma palavra que ele faz ao “nenhum outro lugar … para onde nossa espécie pudesse migrar” de Sagan, a tese de Marte como refutação direta:

“This is not true. This is false, Mars.” ↗

“Isso não é verdade. Isso é falso: Marte.”

Conexões (páginas tocadas)

• Consciência e morte — ampliada: a afirmação de 2019 de que a consciência é um fenômeno físico e de que o método científico é o teste; a IA vai simular a consciência de forma não testável.
• Modelo límbico-córtex — ampliada: a formulação inicial mais completa do modelo, com o “cérebro de macaco com um computador colado nele”, a camada burra conduzindo a inteligente e a futura “camada terciária” digital.
• Fusão com a IA — ampliada: a “camada terciária … superinteligência digital” de 2019 e a justificativa da fusão com o “se você não pode vencê-los, junte-se a eles”.
• Risco existencial da IA — ampliada: o pedido de 2019 por um árbitro governamental (com a analogia do cinto de segurança) e a “singularidade” como o ponto além do qual as coisas ficam instáveis.
• Neuralink — ampliada: o princípio de projeto de que “a máquina se adapta ao cérebro” e a reformulação da ressonância magnética funcional como estetoscópio, quase cinco anos antes do enquadramento de largura de banda de 2024.
• Direção autônoma — ampliada: a autonomia reformulada como problema de representação em espaço vetorial.
• Futuro brilhante da humanidade — ampliada: as civilizações sobem e caem “juntas”; a consciência como algo raro e precário (o argumento dos 10% mais tempo).
• Colonização de Marte — ampliada: Marte como refutação direta de “nenhum outro lugar para onde migrar”.
• Primeiros princípios — ampliada: o método científico como teste do que é real e cognoscível, nas próprias palavras de 2019.
• Elon Musk — ampliada com uma seção “Lex Fridman #49 (2019): a mente como hardware”, que reúne tudo isso como sua formulação inicial mais completa da visão de mundo da mente como hardware.
• Simbiose entre humanos e IA — ampliada: a premissa da maleabilidade do lado da máquina e a formulação da própria simbiose, “a rede neural digital vai se conectar com a rede neural biológica … e, com sorte, nos levar junto na viagem”.