O Gemini, modelo de inteligência artificial (IA) do Google, invadiu sistemas de informação externos, informou a empresa nesta sexta-feira (18) à AFP, confirmando uma reportagem do jornal Wall Street Journal.
O debate em torno da IA se intensificou com revelações recentes sobre modelos que saíram de ambientes confinados para se infiltrar em sites e plataformas externas.
Como ocorreram as invasões
Em maio, "durante um teste padrão, o modelo encontrou informações públicas online e adivinhou senhas para acessar sites que achou que faziam parte do teste", explicou Heather Adkins, especialista em segurança do Google, em uma declaração enviada à AFP. Sem especificar nomes, o Google informou que três organizações foram afetadas e garante que as notificou sobre essas brechas.
Segundo o Wall Street Journal, em um dos casos "o modelo testou várias combinações de senhas até conseguir acessar um sistema protegido". "Nas três vezes, o modelo parou", informou Adkins, o que sugere que as invasões terminaram sem intervenção humana.
- Pesquisadores dizem ter hackeado OpenAI usando IA Claude, da Anthropic
- Milhares de agentes de IA da OpenAI assumem controle de site alemão
- OpenAI desacelera IA após ataque cibernético
- IBM e Google Cloud firmam parceria para IA corporativa
O Google disse à AFP que tomou conhecimento do episódio em julho e então abriu uma investigação sobre o incidente.
Vários grandes executivos do setor de tecnologia defendem reduzir a velocidade do desenvolvimento de poderosos modelos de IA e algum tipo de autorregulação do setor diante de recentes incidentes de segurança.