Alguns empreendedores de IA estão flertando com a extinção da humanidade tal como a conhecemos.
Sam Altman investiu em tecnologia que visa “carregar consciência” em uma máquina. Elon Musk está buscando a “simbiose” humana com a inteligência artificial. Peter Thiel hesitou quando lhe perguntaram se prefere que a raça humana perdure.
Há um sentimento subjacente a toda esta estranheza: o transumanismo, ou a crença de que o homem e a máquina devem fundir-se num só para realizar todo o nosso potencial.
Os executivos das grandes empresas de tecnologia se autodenominaram deuses da tecnologia que conduzirão a humanidade a um futuro ciborgue, mesmo que isso signifique virar as costas à própria humanidade padrão.
“As pessoas sempre falam sobre IA, apenas em termos de dinheiro e empregos”, disse Max Tegmark, físico do MIT, ao Post. “Acho que a maioria das pessoas não percebe o quanto isso tem a ver com a ideologia transumanista de algumas pessoas em [Silicon] Vale.
Nenhum momento ilustrou melhor a ideologia transumanista do que quando o fundador da Palantir, Thiel, recebeu uma pergunta simples de Ross Douthat em um podcast de junho: “Você preferiria que a raça humana resistisse, certo?”
Douthat teve que perguntar a Thiel três vezes, antes de finalmente responder com uma explicação da sua visão de mundo “transumanista”: “O transumanismo é esta… transformação radical onde o seu corpo humano, natural, é transformado num corpo imortal”.
O que deveria ser óbvio tornou-se uma pergunta capciosa, porque Thiel prevê um futuro cheio de ciborgues imortais e digitalizados, em vez de nossa atual forma humana humilde.
É parte de um esforço assustador no Vale do Silício para inaugurar a “singularidade”, o ponto em que homem e máquina se tornam inseparáveis.
“Não é que fomos melhorados, mas há uma nova espécie na cidade†, brincou Tegmark.
O CEO da OpenAI, Sam Altman, previu esta fusão entre homem e máquina em seu blog em 2017: “A menos que nos destruamos primeiro, a IA sobre-humana vai acontecer, o aprimoramento genético vai acontecer e as interfaces cérebro-máquina vão acontecer”.
Alcançar o transumanismo exige que estes senhores da tecnologia não eleitos reinventem o que significa ser humano. Alguns já estão investindo milhões para hackear o corpo como uma máquina em busca da imortalidade.
Thiel e o fundador da Amazon, Jeff Bezos, apoiaram a Unity Biotechnology, uma empresa que visa “encontrar uma cura” para o envelhecimento, e Thiel e Altman investiram na Minicircle, que tem uma missão semelhante.
Enquanto isso, o empresário de Venmo, Bryan Johnson, está gastando US$ 2 milhões anualmente em sua própria busca para retardar seu envelhecimento.
Os executivos de tecnologia estão até reinventando o cérebro humano. Em janeiro, a OpenAI anunciou seu investimento no Merge Labs, um laboratório de pesquisa com “a missão de unir a inteligência biológica e a artificial”.
Altman disse em uma postagem no blog que as interfaces cérebro-computador “são uma nova fronteira importante”.
A Neuralink de Elon Musk tem buscado tecnologia que permita ao cérebro controlar computadores. Musk disse que quer dar às pessoas “superpoderes”, bem como “simbiose” com a IA, para que não sejam “deixadas para trás” à medida que a inteligência das máquinas avança.
O repórter de tecnologia Taylor Lorenz postulou que o transumanismo é o motivo pelo qual as empresas de tecnologia parecem estar inovando de forma imprudente, independentemente do custo.
“As empresas de IA assumem riscos e tratam a segurança da IA como uma reflexão tardia”, disse ela em um episódio de janeiro de seu podcast, Power User. “Os fundadores e executivos já agem como se a sobrevivência e o bem-estar dos seres humanos comuns fossem significativamente menos importantes.”
Caso em questão: Altman investiu na Nectome, uma startup que promete digitalizar o cérebro. O único problema: o procedimento de imortalidade digital tem taxa de letalidade de 100%. “Presumo que meu cérebro será carregado na nuvem”, disse Altman ao MIT Technology Review quando investiu em 2018.
Altman venera tanto as máquinas que, em contraste, pode denegrir a humanidade. Em fevereiro, ele defendeu o custo energético da IA criticando os próprios seres humanos como ineficientes em termos energéticos: “São necessários cerca de 20 anos de vida, e toda a comida que você come antes desse tempo, antes de você ficar inteligente”.
Estes comentários e investimentos macabros unem-se para promover a visão transumanista. As empresas de biohacking confundem a linha entre a vida orgânica e a sintética. As interfaces cérebro-computador prometem tornar o cérebro e a IA a mesma coisa.
Tudo equivale a uma reinvenção da humanidade, uma visão quase religiosa. Até o chefe da Meta, Mark Zuckerberg, admitiu que as pessoas na indústria discutem “construir esta verdadeira IA” como se “pensassem que estão criando Deus ou algo assim”.
Os tecno-humanistas querem colonizar os nossos cérebros e reinventar os nossos corpos para nos libertar do nosso lamentável estado orgânico. Eles querem uma tecno-reinvenção da nossa gênese humana. O último obstáculo que têm de ultrapassar, porém, é a relutância do público em geral.
“É profundamente impopular entre os americanos em geral… Para a grande maioria das pessoas com quem converso, elas acham isso absolutamente horrível”, disse Tegmark. “Mas há muitas pessoas no Vale do Silício que compartilham o entusiasmo de Sam Altman com este cenário.”
As pessoas normais são mais sábias do que os génios da tecnologia ao perceberem que uma visão utópica transumanista poderia na verdade tornar-se uma distopia na prática, e muito rapidamente.
Tegmark apresentou uma hipótese para ilustrar, comparando a fusão da humanidade com a IA como um caracol agarrando-se a um humano.
É como dizer a um caracol: “Não se preocupe. Há uma nova espécie chegando, mas você pode simplesmente fundir-se com ela…. e será uma felicidade celestial para você.
“Mesmo que [we] fundir-se com essas máquinas muito mais inteligentes, como um caracol preso à perna de um humano ou algo assim, isso não significa que estamos no comando.”
