A start-up de inteligência artificial (IA) Anthropic processou, nesta segunda-feira (9), várias agências do governo dos Estados Unidos em um tribunal federal da Califórnia. O objetivo é pedir a reversão de sanções impostas à empresa.
Na semana passada, o Departamento de Defesa incluiu a Anthropic em sua lista de empresas que representam um "risco" para a cadeia de suprimentos. Isso ocorreu depois que a companhia se recusou a autorizar o uso militar sem limites de seus modelos de IA Claude.
A ação de 48 páginas foi apresentada a um tribunal federal em San Francisco. Nela, a Anthropic solicita que essa designação seja revertida e declarada ilegal.
Desenvolvimento focado na humanidade
A empresa afirma no texto que desenvolveu sua IA para obter "resultados positivos para a humanidade" e para que seja "a mais segura e responsável". "A Anthropic apresenta esta ação porque o governo federal adotou represálias à companhia por expressar esse princípio", acrescenta a petição da empresa.
A Anthropic é a primeira empresa americana considerada de "risco" pelo governo federal. Essa classificação era, até então, reservada a entidades de países concorrentes, como a gigante de tecnologia chinesa Huawei.
A designação exige que fornecedores e contratados de defesa comprovem que não utilizarão os modelos da Anthropic em seus trabalhos com o Pentágono.
- Países defendem uma “IA segura, confiável e robusta” após cúpula na Índia
- Rivais de IA se recusam a dar as mãos em cúpula global
- CEO da OpenAI defende regulamentação da IA em cúpula global
As consequências deste caso são enormes, afirma a ação. Segundo o texto, o governo "pretende destruir o valor econômico criado por uma das empresas privadas de crescimento mais rápido do mundo".
A disputa eclodiu no fim do mês passado, pouco antes do ataque dos Estados Unidos e de Israel contra o Irã. A guerra no Oriente Médio foi desencadeada quando a Anthropic insistiu que sua tecnologia não poderia ser usada pelo Pentágono para tarefas de vigilância em grande escala ou sistemas de armas totalmente autônomos.
Apoio de gigantes da tecnologia
Mais de 30 engenheiros de IA da OpenAI e do Google, incluindo o cientista-chefe do Google, Jeff Dean, manifestaram seu apoio à Anthropic. O documento foi apresentado ao tribunal nesta segunda-feira.
Eles indicaram que expressavam suas opiniões como profissionais que desenvolvem, treinam ou estudam IA e que não representavam suas empresas. Os engenheiros instaram o tribunal a decidir a favor da Anthropic.
"Estamos unidos na convicção de que os atuais sistemas de IA de ponta apresentam riscos. Isso ocorre quando são usados para permitir a vigilância doméstica em massa ou na operação de sistemas de armas letais autônomas sem supervisão humana", afirmaram. Eles ressaltam que esses riscos exigem algum tipo de limite, seja por meio de salvaguardas técnicas ou de restrições de uso.
Também disseram que a designação governamental da Anthropic como um risco para a cadeia de suprimentos foi um uso indevido e arbitrário de poder. Esta ação tem sérias repercussões para o setor.
Claude: IA em foco militar
O conflito entre o Pentágono e a Anthropic surgiu poucos dias antes da ofensiva militar americana contra o Irã. Claude é o modelo de IA de ponta mais amplamente utilizado pelo Pentágono e o único desse tipo que opera atualmente nos sistemas classificados do Departamento de Defesa.
Na ação judicial, a Anthropic afirma que as medidas adotadas contra a empresa excedem a autoridade legal do Pentágono e violam direitos constitucionais. "A Constituição não permite que o governo utilize seu enorme poder para punir uma empresa por seu discurso", afirma o texto.
Fundada em 2021 pelos irmãos Dario e Daniela Amodei, ambos ex-funcionários da OpenAI, criadora do ChatGPT, a Anthropic se posicionou na corrida da IA como uma alternativa focada em segurança.