Um sistema de IA trabalhará com humanos para fazer uma descoberta ganhadora do prêmio Nobel dentro de 12 meses e os comerciantes serão ajudados por robôs bípedes em dois anos, segundo o cofundador da Anthropic.
Jack Clark descreveu uma “sensação vertiginosa de progresso” na tecnologia e fez uma série de previsões, incluindo que as empresas geridas exclusivamente por IA estariam a gerar milhões de dólares em receitas no prazo de 18 meses, e que até ao final de 2028, os sistemas de IA seriam capazes de conceber os seus próprios sucessores.
Numa palestra na Universidade de Oxford, na quarta-feira, ele também disse que permaneciam cenários plausíveis em que a tecnologia tinha “uma chance diferente de zero de matar todas as pessoas do planeta” e que era “importante afirmar claramente que esse risco não desapareceu”. O modelo mais popular da Antrópico chama-se Claude, mas lançou recentemente uma versão chamada Mythos que se revelou alarmantemente capaz de explorar as fraquezas da segurança cibernética.
Clark disse aos estudantes que seria melhor se os humanos pudessem retardar o desenvolvimento da tecnologia “para nos dar mais tempo como espécie” para lidar com as implicações dos seus poderes. Mas ele disse que isso não aconteceria, no desenvolvimento vertiginoso “por uma variedade de actores e uma variedade de países, presos numa competição entre si, onde as rivalidades comerciais e geopolíticas estão muitas vezes abafando os aspectos existenciais mais amplos da tecnologia que está a ser construída”. Isto “não era o ideal”, disse ele.
Clark é uma das figuras mais importantes da Anthropic, que foi fundada por pesquisadores de IA que deixaram a empresa rival OpenAI por divergências sobre segurança. A empresa de 900 mil milhões de dólares (670 mil milhões de libras) foi acusada pela Casa Branca de Donald Trump e outros aceleracionistas da IA de “promover o medo” para encorajar a regulamentação que poderia cimentar a sua posição competitiva.
A Anthropic contesta isso, e Clark disse que muitas pessoas pareciam negar o progresso da IA. Ele disse que queria encorajar a humanidade a se preparar para uma tecnologia que “em breve seria mais capaz do que todos nós coletivamente”. Comparando o fracasso na preparação para a IA com o fracasso na preparação para pandemias como a Covid, ele disse: “Se ficarmos parados e deixarmos a inteligência sintética se multiplicar, eventualmente seremos forçados à reatividade”.
Os críticos das empresas fronteiriças de IA, como a Anthropic, a OpenAI e a Google, temem que a dependência excessiva dos seus poucos modelos de IA – que têm sido apoiados por enormes quantidades de capital com fins lucrativos – possa criar um “ponto único de falha” nos sistemas globais.
O professor Edward Harcourt, diretor do Instituto de Ética em IA, que co-organizou a palestra de Clark, alertou separadamente que o surgimento de IAs que faziam cada vez mais coisas pelos humanos corria o risco de criar “atrofia cognitiva” que poderia enfraquecer a tomada de decisões e os poderes de julgamento dos humanos. Ele defendeu modelos alternativos de IA que pedem aos humanos que pensem mais, às vezes chamados de IA “socrática”.
Clark disse que a sua previsão mais conservadora era que “vastas áreas da economia e da sociedade passariam por mudanças profundas” – o que poderia incluir uma economia mecânica dissociada da economia humana, robôs ganhando cérebros, a ciência progredindo sem humanos e equipamento científico que as pessoas não tinham concebido mas que funcionava. Ele admitiu que algumas destas coisas pareciam “loucuras”.
