A decisão da Anthropic de desativar abruptamente dois dos seus modelos de IA mais avançados, poucos dias após o seu lançamento, foi sem precedentes, especialmente porque ocorreu em resposta a uma ordem do governo dos EUA que restringe o acesso apenas aos americanos.
Mas de acordo com um relatório do Politico, a Casa Branca passou grande parte da sexta-feira a tentar persuadir a Anthropic a retirar voluntariamente o seu modelo de IA recentemente lançado, Fable, já que as autoridades dos EUA temiam que as suas barreiras de segurança pudessem ser contornadas de formas que representassem riscos para a segurança nacional.
O esforço acabou por falhar, levando a administração a impor controlos de exportação que desactivaram efectivamente os modelos Fable 5 e Mythos 5 da empresa apenas alguns dias após o seu lançamento público.
1. Amazon sinalizou preocupação
A Anthropic lançou os novos modelos com garantias de que eram seguros e protegidos por salvaguardas robustas. No entanto, de acordo com o relatório, altos funcionários da administração logo começaram a questionar se essas proteções eram tão fortes quanto a empresa afirmava.
As preocupações aumentaram na quinta-feira, quando o presidente-executivo da Amazon, Andy Jassy, supostamente sinalizou questões relacionadas a contornar as barreiras de proteção do modelo.
A Amazon é uma grande investidora na Anthropic e estava respondendo a um pedido de feedback do governo, segundo uma pessoa familiarizada com as discussões citada no relatório.
O Politico informou que em 24 horas a questão atingiu os mais altos níveis da Casa Branca.
O secretário do Tesouro dos EUA, Scott Bessent, o diretor cibernético da Casa Branca, Sean Cairncross, a chefe de gabinete da Casa Branca, Susie Wiles, e outros altos funcionários reuniram-se para discutir o modelo e determinar a resposta da administração.
Leia também | ‘Isso é grande’: Anthropic desativa Mythos, modelos Fable sobre a proibição de acesso estrangeiro do governo dos EUA
Após a reunião, as autoridades tentaram entrar em contato com o presidente-executivo da Anthropic, Dario Amodei. De acordo com funcionários da administração citados no relatório, inicialmente foram informados de que ele não estava disponível porque “estava participando de um retiro de bem-estar”.
A Antrópica contestou veementemente esse relato. Um porta-voz da empresa disse: “isso é absolutamente falso”, acrescentou o relatório.
Uma pessoa próxima à Anthropic disse ao Politico que Amodei foi contatado pela primeira vez por volta do meio-dia e participou de discussões com altos funcionários do governo em cerca de uma hora e 15 minutos. Durante o período em que ele esteve indisponível, a empresa ofereceu outros executivos seniores como alternativas, disse a fonte.
2. Três ligações e um desentendimento
Assim que o contato foi estabelecido, Amodei participou de três ligações envolvendo vários altos funcionários da administração, incluindo Bessent, Cairncross e o secretário de comércio Howard Lutnick.
Durante essas conversas, Amodei alegadamente argumentou que as preocupações da administração derivavam de um mal-entendido sobre a questão.
De acordo com o relatório, o CEO da Anthropic argumentou que era diferente de um “jailbreak” mais amplo que permitiria aos usuários operar o sistema sem nenhuma das restrições de segurança da Anthropic.
Leia também | O que a retirada da Fable 5 de Claude poderia significar e a longa rivalidade da Anthropic com o governo Trump
Mesmo após a imposição dos controles de exportação, a Anthropic defendeu publicamente sua tecnologia. Em comunicado, a empresa disse que “nenhum testador ainda foi capaz de encontrar um jailbreak universal – um método de jailbreak que pode contornar amplamente as salvaguardas do modelo, desbloqueando uma ampla gama de capacidades cibernéticas”.
A empresa também reconheceu que eliminar todas as tentativas de jailbreak continua impossível em toda a indústria de IA.
A Anthropic argumentou ainda que suas proteções eram altamente restritivas, dizendo que seus sistemas “são tão fortes que muitos usuários reclamaram que eles são excessivamente amplos”.
3. A Casa Branca não se convenceu
A administração, no entanto, não foi persuadida por essas explicações.
De acordo com um funcionário não identificado da Casa Branca citado pelo Politico, as descobertas fornecidas pela Amazon foram analisadas com a Agência de Segurança Nacional, que acreditava haver evidências suficientes de uma vulnerabilidade grave.
Logo após o término das ligações, a administração Trump avançou com os controles de exportação visando os modelos Fable 5 e Mythos 5.
“Os controles de exportação foram o último recurso depois de implorar por horas para que trabalhassem conosco”, disse um alto funcionário da Casa Branca ao Politico. “Isso não era algo que queríamos fazer, mas nossas mãos estavam atadas.”
A Anthropic disse mais tarde que a ordem, emitida pelas autoridades de segurança nacional, proibia o uso dos modelos por estrangeiros. A empresa acrescentou que o “efeito líquido” foi “desativar abruptamente” os sistemas para todos os usuários, a fim de cumprir as restrições.
4. Final dos “90 minutos”
Uma pessoa familiarizada com a posição da empresa disse ao meio de comunicação que a Anthropic nunca teve a oportunidade significativa de colaborar antes que as restrições fossem impostas.
“A Casa Branca deu 90 minutos para retirar os modelos, sem detalhes sobre a ameaça real”, disse a fonte. “Nunca houve nenhum pedido – ou pedido – para que eles trabalhassem conosco, apenas um prazo declarado de 90 minutos.”
Esta não é a primeira vez que a Anthropic e a Casa Branca atacam de frente, no início de Fevereiro, o departamento de defesa dos EUA designou a Anthropic como um “risco da cadeia de abastecimento” depois de a empresa de IA ter recusado as exigências do Pentágono para abandonar as barreiras de segurança que restringiam a utilização da sua tecnologia para armas autónomas e vigilância doméstica em massa.
