Ex-funcionário da Anthropic e OpenAI soa alarme sobre o ritmo de desenvolvimento de IA

Jacob Coxon, ex-pesquisador de segurança da Anthropic e OpenAI, aplaudiu os apelos do CEO da Anthropic, Dario Amodei, por uma desaceleração no desenvolvimento da inteligência artificial.

“Eu acho que é ótimo. É muito emocionante”, disse Coxon – que renunciou à Anthropic na semana passada por questões de segurança da IA ​​– ao âncora do “This Week”, George Stephanopoulos, no domingo. “Acho que este é um passo substancial em direção ao que eu estava falando, necessitando de algum tipo de desaceleração entre as pessoas que constroem as diferentes IAs.”

Numa carta impressionante no sábado intitulada “Devemos acelerar a fronteira”, Amodei apelou a uma desaceleração no ritmo a que as empresas de inteligência artificial desenvolvem a tecnologia revolucionária, escrevendo: “Acredito que devemos à humanidade tentar”.

Coxon causou sensação na semana passada quando se demitiu da Anthropic, postando no X que nem a Anthropic nem a OpenAI “estão agindo de forma responsável. Eles estão correndo direto para o autoaperfeiçoamento da superinteligência e apostando com nossas vidas”.

Ele também destacou o medo dentro da indústria sobre o potencial de uma aquisição da IA: “As pessoas que estão construindo a IA acreditam sinceramente que isso poderia matar todos nós até o final da década”, escreveu Coxon.

Coxon disse a Stephanopoulos que a maneira como sua postagem decolou o chocou.

– Na verdade, eu não esperava uma grande resposta. Foi excepcionalmente surpreendente ver o nível de envolvimento… e acho que foi realmente um indicativo de que o momento era propício para esse tipo de bate-papo”, disse Coxon.

Coxon também questionou se havia um sentimento crescente nas empresas em que trabalhava de que a tecnologia de IA estava se tornando mais difícil de controlar.

“Não há tempo suficiente para pensar constantemente sobre os riscos, mas definitivamente percebi que, nos últimos meses, isso surge cada vez com mais frequência”, disse Coxon. “Portanto, não importa onde você esteja na empresa, provavelmente algumas vezes por semana, eu acho, haverá algum tipo de conversa sobre os grandes riscos da tecnologia.”