Code Conference (2016)

Entrevistadores: Kara Swisher e Walt Mossberg, no palco da Code Conference (Recode).
Formato: entrevista ao vivo no palco.
Data: 1º de junho de 2016.
Nível de confiança: trechos (verificação parcial). A Recode só publicou o vídeo completo; nenhum anfitrião nem emissora jamais divulgou uma transcrição em forma de artigo. Por isso a fonte é um conjunto de trechos literais retirados de veículos respeitáveis que citaram Musk diretamente. A fonte como um todo não é verificada, mas cada trecho pode ser citado pela matéria que o publicou.
Citações: cada uma aponta para o veículo que a imprimiu, não para o vídeo. O artigo da ACS Information Age tem as falas sobre simulação e IA. A Alternet tem as falas sobre ciborgue e interface neural, as da SpaceX, várias sobre Marte e “Either…or civilization will cease to exist”, que a Information Age redige de forma um pouco diferente. A Time traz a frase exata sobre o prazo para Marte, e a Recode (cuja matéria de 2016 hoje está na Vox) as falas sobre governança em Marte.

Resumo

Esta é a mais reveladora, do ponto de vista intelectual, das entrevistas de Musk em 2016 que temos, e é nela que estreia em público a ideia com a qual ele hoje é mais associado fora de suas empresas: o argumento da simulação. Perguntado sobre o assunto no palco, ele percorre o caso inteiro, de Pong aos jogos fotorrealistas e daí à conclusão de que a chance de estarmos na realidade de base é de uma em bilhões. Depois, como de costume, ele o vira de ponta-cabeça num argumento de esperança, não de desespero. A conversa acontece três meses antes da entrevista de setembro de 2016 no Y Combinator e é a fonte mais antiga que temos para várias de suas frases marcantes.

A entrevista gira em torno de quatro assuntos. O primeiro é a metafísica: o argumento da simulação, enunciado do começo ao fim, com a virada esperançosa de que estar dentro de uma simulação é o desfecho bom, já que a alternativa é uma civilização que para de avançar. O segundo é a IA, em que ele resume de forma compacta sua preocupação com o risco existencial: nem todos os futuros da IA são benignos. O terceiro é o humano, e aqui, pela primeira vez nas fontes que temos, ele diz que já somos ciborgues. O celular e o computador são superpoderes, argumenta, e, com um canal de alta largura de banda até o seu eu digital, você deixa de ser um gato doméstico ao lado da IA. É a tese da largura de banda em forma embrionária, e o argumento da interface neural a favor dela, meses antes da Neuralink. O quarto é Marte. Ele faz uma previsão de prazo (que depois não se cumpriu): lançamento tripulado por volta de 2024 e chegada em 2025. Ele também expõe uma visão incomum de governança: Marte deveria funcionar como uma democracia direta, porque a corrupção seria substancialmente reduzida sem representantes no meio.

Citações principais

O argumento da simulação

Ele abre admitindo até onde a obsessão tinha ido, a ponto de proibir o assunto na banheira de hidromassagem:

“I’ve had so many simulation discussions, it’s crazy.” ↗

“Já tive tantas discussões sobre simulação que é loucura.”

“In fact it got to the point where basically every conversation was the AI/simulation conversation, and my brother and I finally agreed that we would ban such conversations if we were ever in a hot tub.” ↗

“Na verdade, chegou a um ponto em que basicamente toda conversa virava a conversa sobre IA e simulação, e meu irmão e eu finalmente combinamos que íamos proibir esse tipo de conversa se a gente estivesse numa banheira de hidromassagem.”

O argumento em si é uma extrapolação da velocidade do progresso nos videogames, de Pong ao fotorrealismo em quarenta anos:

“Forty years ago we had Pong, like two rectangles and a dot, and that was what games were.” ↗

“Quarenta anos atrás a gente tinha Pong, dois retângulos e um ponto, e era assim que eram os jogos.”

“Now, 40 years later we have photorealistic 3D simulations with millions of people playing simultaneously and it’s getting better every year. And soon we’ll have virtual reality and augmented reality.” ↗

“Agora, 40 anos depois, a gente tem simulações 3D fotorrealistas com milhões de pessoas jogando ao mesmo tempo, e melhora a cada ano. E logo teremos realidade virtual e realidade aumentada.”

A única premissa de que ele precisa é que haja qualquer melhoria contínua:

“If you assume any rate of improvement at all, then the games will become indistinguishable from reality.” ↗

“Se você supõe qualquer taxa de melhoria que seja, os jogos vão ficar indistinguíveis da realidade.”

Daí vem a conclusão: bilhões de aparelhos, cada um rodando simulações indistinguíveis:

“So given that we’re clearly on a trajectory to have games that are indistinguishable from reality and those games could be played on any set top box or on a PC or whatever, and there would probably be billions of such set top boxes and computers, it would seem to follow that the odds that we’re in base reality is one in billions.” ↗

“Então, dado que estamos claramente numa trajetória rumo a jogos indistinguíveis da realidade, e que esses jogos poderiam rodar em qualquer set-top box, num PC ou no que for, e provavelmente haveria bilhões desses aparelhos e computadores, parece decorrer daí que a chance de estarmos na realidade de base é de uma em bilhões.”

Perguntado diretamente, ele não se esquiva:

“No. There’s a one in billions chance that this is base reality.” ↗

“Não. Há uma chance em bilhões de que isto seja a realidade de base.”

E então vem a virada que faz o argumento ser dele: ser simulado é a leitura esperançosa, porque a alternativa é o colapso da civilização:

“We should hope that’s true because otherwise if civilization stops advancing, that could be due to some calamitous event that erases civilization, so maybe we should be hopeful this is a simulation.” ↗

“A gente devia torcer para que isso seja verdade, porque, senão, se a civilização parar de avançar, pode ser por algum evento calamitoso que apague a civilização. Então talvez a gente deva ter esperança de que isto seja uma simulação.”

“Either we’re going to create simulations that are indistinguishable from reality or civilization will cease to exist.” ↗

“Ou vamos criar simulações indistinguíveis da realidade, ou a civilização vai deixar de existir.”

IA: nem todos os futuros são benignos

Uma declaração compacta de 2016 sobre a preocupação com o risco existencial que ele já vinha expressando havia anos:

“I am concerned at certain directions that AI could take that would be not good for the future.” ↗

“Me preocupam certos rumos que a IA poderia tomar e que não seriam bons para o futuro.”

“I think it would be fair to say that not all AI futures are benign.” ↗

“Acho que seria justo dizer que nem todos os futuros da IA são benignos.”

“Já somos ciborgues”

A formulação mais antiga que temos da tese de que já somos ciborgues, com o celular e o computador tratados como amplificadores de poder:

“We’re already a cyborg.” ↗

“Nós já somos um ciborgue.”

“You basically have superpowers with your computer and your phone. You have more power than the president had 20 years ago.” ↗

“Com o computador e o celular, você basicamente tem superpoderes. Você tem mais poder do que o presidente tinha 20 anos atrás.”

E o argumento da largura de banda sobre por que uma interface neural importa: sem ela, o humano fica em desvantagem diante da IA como um bicho de estimação diante de uma pessoa:

“If we can figure out how to establish a high bandwidth neural interface with your digital self effectively, then you’re no longer a house cat.” ↗

“Se a gente descobrir como estabelecer, de forma efetiva, uma interface neural de alta largura de banda com o seu eu digital, aí você deixa de ser um gato doméstico.”

Marte: prazo e democracia direta

Sua previsão de prazo de 2016 (que depois não se cumpriu): lançamento tripulado em meados da década:

“We should be able to launch people [to Mars] in 2025.” ↗

“A gente deveria conseguir lançar pessoas [para Marte] em 2025.”

A versão mais precisa da mesma previsão, como a Time registrou:

“If things go according to plan, we should be able to launch people probably in 2024 with arrival in 2025.” ↗

“Se tudo correr conforme o plano, a gente deveria conseguir lançar pessoas provavelmente em 2024, com chegada em 2025.”

Sua visão de governança para uma colônia em Marte: democracia direta, e não representativa:

“The form of government on Mars would be a direct democracy, not representative.” ↗

“A forma de governo em Marte seria uma democracia direta, não representativa.”

“I think most likely the form of government on Mars will be direct democracy.” ↗

“Acho que, muito provavelmente, a forma de governo em Marte será a democracia direta.”

“people voting directly on issues” ↗

“pessoas votando diretamente nas questões”

O motivo que ele dá: menos intermediários, menos captura:

“because the potential of corruption is substantially diminished in a direct versus a representative democracy.” ↗

“porque o potencial de corrupção é substancialmente menor numa democracia direta do que numa representativa.”

SpaceX: maximizar a única receita que existe

Sobre a lógica de negócio de curto prazo da SpaceX: ainda não existe dinheiro de Marte, então é preciso espremer tudo o que a Terra dá:

“Right now we’re trying to maximize Earth-based revenue. There’s only earth-based revenue, so we’ve got to maximize it as it relates to rockets and spacecraft.” ↗

“No momento, estamos tentando maximizar a receita gerada na Terra. Só existe receita gerada na Terra, então temos que maximizá-la no que diz respeito a foguetes e espaçonaves.”

E a analogia que ele usa para criar demanda antes de existir mercado: a ferrovia transcontinental rumo a uma Califórnia vazia:

“Space X is like the Union Pacific. Everyone thought 'Union Pacific, What a stupid idea. There’s nobody living in California. Well, now there’s a lot of people living in California.” ↗

“A SpaceX é como a Union Pacific. Todo mundo achava: ‘Union Pacific, que ideia idiota. Não mora ninguém na Califórnia.’ Bom, agora mora muita gente na Califórnia.”

Conexões (páginas tocadas)

Hipótese da simulação — criada aqui: o argumento de Pong ao fotorrealismo, a conclusão de uma em bilhões e a leitura esperançosa.
Colonização de Marte — criada aqui: a previsão de prazo de 2016 e a visão da democracia direta, com o raciocínio anticorrupção.
Elon Musk — ganhou uma seção “Code Conference 2016: a simulação e o ciborgue”.
Risco existencial da IA — acrescentada a observação de 2016 de que nem todos os futuros da IA são benignos, a fala em primeira pessoa sobre risco da IA mais antiga que temos.
Fusão com a IA — acrescentada a primeira declaração de que já somos ciborgues (junho de 2016), anterior tanto à do YC de 2016 quanto às versões de 2024.
Simbiose entre humanos e IA — acrescentado o argumento do gato doméstico e da interface neural de alta largura de banda, o argumento de largura de banda mais antigo que temos.
SpaceX — ganhou a lógica de maximizar a receita gerada na Terra e a analogia da Union Pacific.