A inteligência artificial está sendo governada de maneira quase medieval, com o poder concentrado nas mãos de poucos executivos do setor, denunciou nesta quinta-feira (19) o alto comissário da ONU para os direitos humanos. “Poucos homens continuam controlando a maior parte da capacidade computacional, dos dados e da infraestrutura. E seguimos sem normas comuns para regular ou orientar o desenvolvimento da IA”, disse Volker Turk durante o evento RightsX, em Genebra.
O alto comissário afirmou que existe um claro déficit democrático quando cinco empresas de tecnologia concentram mais de 70% da capacidade computacional global voltada para a inteligência artificial.
Modelo "medieval" de governança
“Temos a tecnologia do futuro governada quase de forma medieval: por alguns poucos escolhidos, praticamente sem controles, contrapesos, participação ou prestação de contas”, declarou. A história nos ensinou: com esse tipo de poder, os direitos e as liberdades das pessoas comuns são os primeiros a ser afetados”, advertiu.
Ao reiterar seu apelo pela elaboração de normas para a IA fundamentadas nos direitos humanos, Turk afirmou que a tecnologia exerce uma influência cada vez maior sobre a vida das pessoas. Segundo ele, isso ocorre muitas vezes sem que elas tenham conhecimento e pode alterar o debate público de maneiras “sutis e insidiosas”.
Além disso, algoritmos enviesados podem reproduzir injustiças em escala industrial, acrescentou.
- Chefe da ONU pede “coordenação global” sobre os riscos da IA
- IA avança na criação autônoma de novas versões, alerta Anthropic
“Nossos sistemas de transporte, alimentação e saúde estão cada vez mais digitalizados. Talvez não estejamos tão longe do dia em que a IA possa paralisar infraestruturas críticas em comunidades ou países inteiros, seja por conta própria ou por estar em mãos erradas”, alertou o alto comissário da ONU.
Regulamentação e prestação de contas
Turk defendeu que os benefícios da IA sejam compartilhados de forma equitativa. Para isso, segundo ele, são necessárias tanto a boa vontade das empresas de tecnologia quanto medidas de regulação e prestação de contas. O alto comissário afirmou ainda que escreveu a empresas líderes no setor de IA para pedir que adotem medidas eficazes de proteção “antes que seja tarde demais”.