NOVA IORQUE — A OpenAI recebeu uma intimação de vários estados como parte de uma investigação sobre a segurança dos usuários de seu chatbot enquanto se prepara para oferecer ações ao público pela primeira vez.
A empresa por trás do popular chatbot, ChatGPT, disse que responderá ao inquérito “construtivamente” e que já tem medidas em vigor para proteger os seus clientes.
“A IA é uma tecnologia nova e poderosa, e trabalhamos todos os dias para levar seus benefícios às pessoas com segurança e de maneira responsável”, disse um comunicado enviado por e-mail por um porta-voz. “Levamos a sério as preocupações levantadas pelos procuradores-gerais do estado”.
A OpenAI atraiu críticas por ChatGPT supostamente oferecer palavras de incentivo a usuários que pensam em se matar ou praticar atos criminosos. Também está sob escrutínio sobre a forma como utiliza os dados de saúde e outras informações pessoais dos seus clientes.
Na quinta-feira, a empresa foi processada por um canadense que culpou o chatbot pela decisão da filha de se enforcar. No início de junho, o procurador-geral da Flórida processou a empresa após dois tiroteios separados, nos quais supostos homens armados teriam feito perguntas ao ChatGPT enquanto planejavam seus crimes.
A OpenAI afirmou num comunicado que os seus modelos encorajaram repetidamente os indivíduos a procurar apoio no mundo real, inclusive de profissionais de saúde mental. A empresa também disse que cooperou com as autoridades policiais em ambos os casos de tiroteio.
A nova investigação ocorre poucos dias depois de a empresa ter apresentado documentos aos reguladores de segurança dos EUA para uma oferta pública inicial de ações altamente antecipada. A rival de inteligência artificial SpaceX celebrou seu próprio IPO na sexta-feira. A fabricante de foguetes fundada por Elon Musk também administra uma empresa de IA responsável por um chatbot rival chamado Grok.
A forma como os governos devem responder ao potencial positivo e possivelmente perigoso da IA está a tornar-se uma grande questão política.
Os reguladores da Europa abriram investigações sobre Grok de Musk sobre conteúdo anti-semita e material sexualizado, incluindo nus deepfake. E outra empresa de chatbot que prepara um IPO, a Anthropic, foi orientada pela administração Trump na sexta-feira a encerrar dois dos seus modelos online a utilizadores no estrangeiro por razões de segurança nacional.
A intimação da OpenAI foi relatada anteriormente pelo The Wall Street Journal.
A Associated Press enviou e-mails a uma dúzia de procuradores-gerais estaduais no sábado pedindo detalhes da investigação, mas não recebeu nenhuma resposta.
Em sua declaração, a OpenAI destacou as medidas que tomou para manter seguras as crianças que usam seu chatbot.
“O ChatGPT de hoje inclui uma experiência mais protetora para menores e pessoas que enfrentam situações difíceis, com salvaguardas que os direcionam para recursos do mundo real e contatos humanos confiáveis”, dizia parte da declaração. “Acreditamos que as crianças devem ser tratadas como crianças, e é por isso que construímos uma previsão de idade, lançamos ferramentas parentais para orientar o uso de IA por seus filhos e proibimos publicidade direcionada a crianças”.
