Y Combinator (2016)

Entrevistador: Sam Altman (então presidente do YC Group), para a série How to Build the Future.
Formato: conversa filmada / podcast, de cerca de 21 minutos.
Data: 15 de setembro de 2016.
Nível de confiança: verificado (Nível 1). A transcrição oficial do blog da Y Combinator traz marcações de tempo.
Citações: da transcrição oficial da Y Combinator. O entrevistador é Sam Altman, e só as falas de Musk são citadas; nenhuma palavra de Altman é posta na boca de Musk.

Resumo

Vinte e um minutos, e quase nenhuma palavra desperdiçada. Musk se senta com Sam Altman logo depois de cofundar a OpenAI (uma “empresa de seis meses”, diz ele) e prestes a fundar a Neuralink. Quase todos os temas que as fontes posteriores e mais longas aqui reunidas desenvolvem já estão aqui de forma comprimida, o que faz desta um bom marco inicial para ver como o pensamento dele evoluiu depois.

Os sinais se concentram em quatro pontos. Sobre no que trabalhar, ele faz a declaração inicial mais clara de um teste de utilidade, “a área sob a curva”: variação de utilidade vezes o número de pessoas afetadas. Também ordena as prioridades civilizacionais: IA primeiro, depois genética, depois uma interface cerebral. Sobre a IA, ele a chama de maior risco isolado no curto prazo e detalha a solução de 2016: espalhar a tecnologia para que nenhum agente a controle sozinho (democratizá-la), que é o motivo que ele dá para ter cofundado a OpenAI. O contraste com a amargura posterior dele, depois que o laboratório se fechou e virou uma empresa com fins lucrativos, é impossível não notar. Sobre o cérebro, ele diz que os humanos têm “largura de banda limitada” e esboça o simbionte de IA e humano, a interface neural de alta largura de banda que virou a Neuralink. Ele diz isso um ano antes de a empresa vir a público. E sobre psicologia, ele é franco a respeito do medo: sente-o “com bastante força”, recorre ao fatalismo (aceitar as probabilidades) para diminuí-lo e age mesmo assim. Por baixo está uma visão de entropia da civilização, em que a tecnologia só melhora se as pessoas lutarem para melhorá-la.

Citações principais

No que trabalhar: utilidade acima de mudar o mundo

O primeiro movimento dele: o teste é a utilidade, não a grandiosidade; até algo pequeno, se alcançar muita gente, conta.

“Stuff doesn’t need to change the world to be good.” ↗

“As coisas não precisam mudar o mundo para serem boas.”

A heurística que, segundo ele, otimizou na juventude:

“That’s the optimization, what can I do that would actually be useful?” ↗

“Essa é a otimização: o que eu posso fazer que seria realmente útil?”

A fórmula por trás: impacto por pessoa vezes alcance:

“Whatever this thing is that you’re trying to create, what would be the utility delta compared to the current state of the art times how many people it would affect.” ↗

“Seja o que for que você está tentando criar, qual seria a variação de utilidade em relação ao estado da arte, vezes quantas pessoas isso afetaria.”

A IA como o maior risco de curto prazo

A ordenação que ele faz das prioridades civilizacionais põe a IA em primeiro lugar:

“But in terms of things that I think are most likely to affect the future of humanity, I think AI is probably the single biggest item in the near term that’s likely to affect humanity.” ↗

“Mas, em termos das coisas que acho mais prováveis de afetar o futuro da humanidade, acho que a IA é provavelmente o maior fator isolado, no curto prazo, com chance de afetar a humanidade.”

O critério que ele define para acertar: o teste da bola de cristal:

“It’s very important that we have the advance of AI in a good way that is something that if you could look into a crystal ball and see the future you would like that outcome.” ↗

“É muito importante que o avanço da IA aconteça de uma forma boa, de um jeito que, se você pudesse olhar numa bola de cristal e ver o futuro, você gostasse desse resultado.”

O remédio dele em 2016: espalhar a tecnologia para que nenhum agente único a controle:

“is that we achieve democratization of AI technology, meaning that no one company or small set of individuals has control over advanced AI technology.” ↗

“é que a gente consiga a democratização da tecnologia de IA, ou seja, que nenhuma empresa nem um pequeno grupo de pessoas tenha o controle da IA avançada.”

Por que a OpenAI existe, na versão dele: minimizar o risco existencial:

“I think people really believe in the mission. I think it’s important and it’s about minimizing the risk of existential harm in the future.” ↗

“Acho que as pessoas realmente acreditam na missão. Acho que é importante e que tem a ver com minimizar o risco de dano existencial no futuro.”

O cérebro como problema de largura de banda: a semente da Neuralink

Anos antes da maioria das fontes reunidas aqui, ele já descreve o humano como limitado em largura de banda:

“I think having a high bandwidth interface to the brain, we’re currently bandwidth limited.” ↗

“Acho que, com uma interface de alta largura de banda com o cérebro, hoje estamos limitados pela largura de banda.”

A fusão, esboçada como a solução para o canal lento entre o córtex e a máquina:

“So if we can effectively merge with AI by improving the neural link between your cortex and the digital extension of yourself, which already exists, it just has a bandwidth issue.” ↗

“Então, se a gente conseguir se fundir na prática com a IA melhorando a ligação neural entre o seu córtex e a extensão digital de você mesmo, que já existe, só que tem um problema de largura de banda.”

O destino: humano e IA fundidos:

“And then effectively you become an AI human symbiote.” ↗

“E aí, na prática, você vira um simbionte humano-IA.”

Como isso resolve o problema do controle: apagando a fronteira entre “nós” e “ela”:

“We don’t have to worry about some evil dictator AI because we are the AI, collectively.” ↗

“A gente não precisa se preocupar com uma IA ditadora malvada porque nós somos a IA, coletivamente.”

Medo, fatalismo e entropia

Ele deixa claro que o destemor que os outros enxergam nele não é ausência de medo:

“But there are just times when something is important enough, you believe in it enough that you do it in spite of the fear.” ↗

“Mas há momentos em que algo é importante o bastante, você acredita nisso o bastante, que você faz apesar do medo.”

O jeito de lidar com o medo que ele declara: o fatalismo, aceitar as probabilidades:

“Yeah, you know something that can be helpful is fatalism.” ↗

“É, sabe, uma coisa que pode ajudar é o fatalismo.”

O mecanismo, explicado:

“If you just accept the probabilities, then that diminishes fear.” ↗

“Se você simplesmente aceita as probabilidades, isso diminui o medo.”

A visão dele do progresso tecnológico como algo pelo qual é preciso lutar contra o declínio:

“It only gets better if smart people work like crazy to make it better.” ↗

“Ela só melhora se gente inteligente trabalhar feito louco para melhorá-la.”

O princípio que ele tira da queda das civilizações:

“So I think, sure, let’s bear in mind that entropy is not on your side.” ↗

“Então acho que sim, vamos ter em mente que a entropia não está do seu lado.”

O engenheiro, não o empresário

Perguntado como gasta o tempo, ele se apresenta primeiro como engenheiro, e aponta a fábrica como o problema mais difícil:

“Because the biggest company I’ve had this year is that what really matters is the machine that builds the machine, the factory.” ↗

“Porque a maior conclusão que tirei este ano é que o que realmente importa é a máquina que constrói a máquina, a fábrica.”

Conexões (páginas tocadas)

Elon Musk — ganha uma seção “Y Combinator 2016: as ideias em forma de semente”: a heurística da utilidade, a correção da democratização da IA, a ideia inicial de largura de banda do cérebro e do simbionte, o medo e o fatalismo e a visão de entropia da civilização.
Sam Altman — criada: o entrevistador, cofundador da OpenAI e principal contraparte de Musk na história do início da OpenAI.
Maximizar a utilidade — criada: a heurística da “variação de utilidade × pessoas afetadas / área sob a curva” para escolher no que trabalhar.
Risco existencial da IA — ampliada com a posição dele em 2016: a IA como o maior risco de curto prazo, a democratização como remédio e a OpenAI como meio de mitigar o risco existencial (em contraste com o veredito posterior do nº 400).
Fusão com a IA — ampliada com o “simbionte de IA e humano” de 2016 e a ideia de “nós somos a IA, coletivamente”, a declaração mais antiga que temos da tese da fusão.
Simbiose entre humanos e IA — ampliada com a semente de 2016 da “largura de banda limitada” e da “interface de alta largura de banda com o cérebro”, que deu origem ao argumento posterior de largura de banda.
Neuralink — ampliada com a versão de 2016, anterior à empresa, da ideia da interface cerebral que virou a Neuralink.
Medo do fracasso — ampliada com o relato dele em primeira pessoa de 2016: o medo sentido “com bastante força”, o fatalismo como a ferramenta que o diminui, a ação “apesar do medo”.
Primeiros princípios — ampliada com o argumento da entropia: a tecnologia só melhora se as pessoas lutarem para melhorá-la.