As gigantes da tecnologia dos Estados Unidos assinaram, nesta segunda-feira (30), um código de boas práticas na Casa Branca. O objetivo é gerenciar melhor os riscos associados à inteligência artificial, em resposta ao crescente número de incidentes de segurança relacionados a essa tecnologia.
Relutante em pressionar por restrições ao setor da IA tanto em nível nacional quanto internacional, o presidente americano, Donald Trump, apresentou uma carta de princípios muito breve, de apenas uma página, cuja adesão é "moralmente vinculativa".
"No entanto, com o tempo, pode ser adequado codificar essas medidas na forma de leis ou regulamentos", afirma o documento. Ele foi assinado por figuras proeminentes do setor de IA, de Elon Musk (X) a Dario Amodei (Anthropic), e incluindo Sundar Pichai (Google) e Jensen Huang (Nvidia).
Isso ocorre em um momento de crescentes apelos por regulamentações vinculativas, vindos de empresas como Anthropic (Claude) e OpenAI (ChatGPT). Também vêm de responsáveis políticos, particularmente do Partido Democrata nos Estados Unidos, e governos ao redor do mundo.
Gestão de riscos da inteligência artificial
Os fornecedores de modelos de IA se comprometeram a estabelecer "quatro níveis" de supervisão. O primeiro nível envolve a implementação de controles internos robustos para garantir que essas ferramentas sigam as instruções dos desenvolvedores, principalmente em relação à segurança cibernética e à biossegurança.
O objetivo é prevenir a introdução, disseminação e liberação de patógenos ou "riscos químicos". As empresas deverão criar equipes especializadas responsáveis por esses controles e por verificar se os modelos não lançam ataques cibernéticos ou obtêm acesso não autorizado a sistemas técnicos.
OpenAI, Anthropic e Google relataram recentemente diversos incidentes envolvendo comportamentos inesperados de seus sistemas de IA. Por exemplo, os agentes de IA da OpenAI, programas capazes de ações autônomas, acessaram recentemente o site de um sistema de saúde australiano e plataformas do governo dos EUA por iniciativa própria.
- Trump rejeita novas barreiras para IA e fala em “conspiração doentia” contra setor
- Governo dos EUA reluta em regulamentar IA
Auditoria externa e transparência
O código de boas práticas também prevê a participação de avaliadores externos para realizar auditorias independentes com o objetivo de determinar se as medidas implementadas pelas empresas são eficazes.
Anthropic e OpenAI já colaboram com esse tipo de avaliador externo e ambas anunciaram, nas últimas semanas, uma ampliação do acesso para que empresas de auditoria examinem seus modelos, principalmente durante a fase de projeto e não apenas antes da implementação.
A Anthropic afirmou ainda que não exercerá "nenhum controle editorial" sobre a publicação dos resultados dessas avaliações independentes, mesmo que sejam desfavoráveis à empresa.
Criação de comitê independente
A carta também prevê a criação de um comitê independente composto por representantes das diversas empresas nos mais altos níveis de gestão. Este órgão será responsável por revisar avaliações internas e externas de modelos de IA e garantir a resolução de quaisquer problemas potenciais.
As empresas também se comprometeram a se reunir "regularmente para estabelecer normas e boas práticas". A iniciativa parece estar alinhada com o projeto que OpenAI, Anthropic e Google DeepMind começaram a desenvolver anteriormente.
Em meados de setembro, essas três empresas indicaram que estavam trabalhando na criação de um órgão supervisor para riscos relacionados à IA. O modelo é inspirado na Autoridade Reguladora da Indústria Financeira dos EUA (FINRA), um órgão autorregulador do setor financeiro.
No entanto, esse modelo já atraiu fortes críticas de empresas concorrentes do setor, como a francesa Mistral e a canadense Cohere. Elas acusam as gigantes da tecnologia americanas de quererem definir suas próprias regras e, assim, proteger sua vantagem competitiva.