A Anthropic informou nesta sexta-feira que firmou uma parceria com a consultoria Accenture para avaliar a segurança de seus modelos de inteligência artificial (IA), como parte do compromisso assumido pelo CEO Dario Amodei de submeter os sistemas mais potentes da empresa à análise de observadores independentes.
Embora a startup californiana defenda que, no longo prazo, avaliações independentes de IA sejam financiadas pelo Estado ou por um fundo específico, afirmou que começará a remunerar a Accenture “devido à importância e urgência desse trabalho”.
A Anthropic deverá destinar US$ 1 bilhão à avaliação de seus sistemas de IA nos próximos cinco anos. A Accenture, por sua vez, planeja investir um valor equivalente na atividade durante o mesmo período.
Como prometido por Amodei, a Anthropic dará aos consultores da Accenture o mesmo nível de acesso aos seus sistemas concedido aos funcionários da empresa. Os profissionais envolvidos serão da Faculty, subsidiária da Accenture dedicada à inteligência artificial, adquirida neste ano pelo grupo de consultoria.
“Os avaliadores integrados podem observar como uma empresa opera, verificar se ela realmente cumpre seus compromissos de segurança e identificar pontos cegos”, afirmou a Anthropic. “Também podem relatar incidentes e fornecer uma prestação de contas mais bem documentada em relação aos benefícios e riscos.” Segundo a Anthropic, a parceria não é exclusiva, e novos acordos com outros avaliadores externos deverão ser anunciados nas próximas semanas.