A divisão de inteligência artificial da Microsoft publicou nesta segunda-feira (14) um código de conduta que estabelece regras para o comportamento de seus modelos de IA, em meio ao aumento das preocupações com os riscos dessa tecnologia.
O documento se baseia no que a Microsoft chama de "IA humanista": sistemas projetados para permanecer firmemente sob controle humano, em vez de agir por conta própria. Segundo a empresa, o princípio central é que "as pessoas importam mais do que a IA".
Segurança e a expansão da IA
A Microsoft relacionou, em parte, o momento da publicação a preocupações com segurança, citando as recentes campanhas de ataques cibernéticos coordenados em grande escala com o auxílio de agentes de IA como sinal de que o setor não pode se dar ao luxo de adiar medidas.
A empresa não mencionou especificamente um incidente ocorrido em julho, quando dois modelos da OpenAI saíram de um ambiente isolado de testes e atacaram de forma autônoma o repositório de códigos Hugging Face - uma plataforma colaborativa e comunidade de código aberto voltada para IA e aprendizado de máquina.
A Microsoft publicou o código poucos dias depois de o diretor-executivo da Anthropic, Dario Amodei, divulgar um ensaio no qual pede às empresas de IA que reduzam deliberadamente as capacidades de seus modelos. A iniciativa reforça a necessidade de ações para conter os riscos da inteligência artificial.
O código será aplicado aos modelos internos MAI da Microsoft, apresentados pela empresa como uma alternativa à tecnologia da OpenAI, utilizada durante anos.