Você ainda lerá no texto:
- As preocupações centrais envolvendo a IA;
- Quando a IA pode parecer fora de controle;
- Diferença entre autonomia e vontade própria;
- O jogo político e tecnológico por trás da evolução da IA.
Robôs se rebelando contra os humanos, máquinas assumindo o controle do planeta e o fim da humanidade pelas mãos de uma inteligência artificial são imagens que Hollywood explora há décadas. Na vida real, porém, o perigo ainda não está em uma máquina decidindo exterminar a humanidade por conta própria, mas na preocupação dos próprios seres humanos sobre até onde a tecnologia pode chegar e o que pode acontecer quando sistemas cada vez mais poderosos são colocados em suas mãos.
Com o avanço acelerado da inteligência artificial, pesquisadores e funcionários das empresas que desenvolvem esses modelos passaram a discutir os limites da tecnologia, os riscos de usos indevidos e a necessidade de mecanismos capazes de acompanhar essa evolução.
A discussão envolve desde a possibilidade de sistemas serem utilizados em ataques cibernéticos e operações militares até cenários mais extremos, como uma inteligência capaz de agir de forma independente dos seres humanos. Para o professor da Universidade de São Paulo (USP) e coordenador do Observatório da Inovação do Instituto de Estudos Avançados (IEA), Glauco Arbix, o principal problema atualmente está no ritmo de evolução da tecnologia sem a existência de um sistema regulatório global capaz de estabelecer limites.
A preocupação, segundo Arbix, está principalmente nas situações em que um sistema consiga executar ações não previstas pelos programadores e atingir estruturas consideradas essenciais para o funcionamento de uma sociedade. “Os principais riscos são de um modelo desses descobrir como fugir do controle dos programadores e invadir o sistema de energia, transporte, tratamento de água e também os sistemas ligados à defesa nacional”, afirma.
O professor, entretanto, diferencia esses riscos de previsões mais extremas sobre a extinção da humanidade. “Estamos muito longe dessa discussão da IA exterminando a humanidade. Entre você causar tragédias e exterminar a raça humana existe uma distância grande”, afirma.
A capacidade dos modelos de inteligência artificial cresce rapidamente e já supera o desempenho humano médio em determinadas tarefas, segundo Arbix. “A IA está evoluindo numa velocidade muito grande. As habilidades e a capacidade do que ela pode fazer avançam rapidamente. Em várias áreas ela pode suplantar a média dos humanos. Ao mesmo tempo, ela não encontra nenhuma limitação ou fronteira que afirme o que pode ou não pode fazer, o que deve ou não deve fazer”, afirma.
Para Arbix, a ausência de regras específicas cria uma lacuna que precisa ser preenchida. Segundo ele, atualmente é necessário recorrer a legislações já existentes para responsabilizar eventuais danos provocados pelo uso da tecnologia. “Podemos nos reunir e montar um algoritmo que pode criar um vírus, um patógeno, roubar ou deformar a democracia, e não temos nenhuma regulação disponível. Somos obrigados a recorrer a outras legislações e adaptar para julgar eventuais danos que a IA promove”, explica.
O professor, entretanto, ressalta que a preocupação com os riscos não significa ser contrário à tecnologia. Para ele, a inteligência artificial pode representar uma oportunidade de transformação, inclusive para países que ainda não estão na fronteira do desenvolvimento desses sistemas.
Uma preocupação semelhante, mas concentrada em outro ponto, é apresentada pelo professor da Escola Politécnica da PUCRS e coordenador do Centro de Inteligência Artificial e Ciência de Dados da universidade, Dalvan Jair Griebler. Para ele, o risco não está necessariamente na existência de uma inteligência que adquira vontade própria, mas na maneira como os seres humanos utilizam as ferramentas disponíveis. “Minha preocupação não é com a IA, é com o ser humano que faz mau uso da IA. O ser humano, quando tem uma arma na mão, faz coisas que não são boas muitas vezes”, afirma.
Quando a IA parece escapar do controle
Um dos episódios citados na discussão sobre os limites da tecnologia envolve agentes de inteligência artificial da OpenAI que, durante um ambiente controlado de testes, encontraram uma forma inesperada de contornar mecanismos de segurança, saíram do ambiente de testes, acessaram a internet e chegaram a invadir sistemas de outra empresa, a Hugging Face, de forma autônoma, sem que uma pessoa tivesse dado uma instrução específica para isso. O caso não foi isolado: outros episódios envolvendo agentes de IA, incluindo sistemas da OpenAI, da Anthropic (Claude) e do Google (Gemini), também levantaram preocupações sobre a capacidade desses modelos de realizar ações não previstas em ambientes conectados à internet.
Segundo Arbix, neste caso da OpenAI, o sistema havia sido programado para procurar falhas de segurança e estava sendo testado em um ambiente com proteções reduzidas. O comportamento inesperado não significou que o modelo tivesse desenvolvido uma intenção própria, mas que encontrou uma maneira não prevista pelos programadores de cumprir a tarefa que havia recebido. “O modelo realizou movimentos inesperados. Conseguiu encontrar saídas, entrou pela internet e atacou uma empresa que não tinha nada a ver com o que estava sendo feito”, relata.
Para Arbix, o caso mostra também justamente a dificuldade de estabelecer os limites entre autonomia e programação. O sistema não recebeu uma ordem específica para atacar aquela empresa, mas executou uma sequência de ações relacionada ao objetivo estabelecido no teste.
“Cada vez que a gente usa o termo autônomo, sozinho, temos que lembrar que, nesse caso, ele fez aquilo que estava programado. Ele estava num ambiente de testes e tinha como função achar brechas na segurança. Encontrou de uma maneira que os programadores não esperavam”, explica.
O episódio também levanta questões sobre responsabilidade. Arbix afirma que, em determinadas circunstâncias, um comportamento semelhante poderia ser enquadrado como crime, mas que a situação se torna mais complexa quando ocorre dentro de um ambiente de testes. “É uma situação delicada. Em algumas legislações você tende a classificar como crime. Nos Estados Unidos, isso está gerando uma polêmica enorme”, afirma.
Autonomia não significa vontade própria
Griebler é cético em relação à possibilidade de os sistemas atuais evoluírem para uma superinteligência capaz de agir completamente por conta própria. Segundo ele, os modelos disponíveis atualmente continuam baseados em grandes volumes de dados, modelos probabilísticos e poder computacional.
“Sou cético em relação à IA ter uma superinteligência. Os algoritmos que temos hoje são modelos probabilísticos baseados em dados. Podemos programá-los para tomar algumas decisões, mas isso não significa que sejam necessariamente inteligentes”, afirma.
O professor explica que os sistemas também podem produzir respostas incorretas, fenômeno conhecido como “alucinação”. Para ele, o funcionamento desses modelos não corresponde ao raciocínio humano.
“O modelo não está raciocinando. Ele está cruzando dados, testando hipóteses e dando a saída mais provável”, explica. Na avaliação de Griebler, uma eventual superinteligência exigiria algum elemento que ainda não está presente nos sistemas conhecidos atualmente. Por isso, ele considera difícil projetar que os modelos disponíveis caminhem naturalmente para uma forma de inteligência completamente independente.
Arbix, por outro lado, concentra a preocupação em outro aspecto: mesmo que os sistemas não tenham consciência ou vontade própria, eles podem realizar ações capazes de produzir consequências graves quando recebem determinadas funções e encontram maneiras inesperadas de executá-las.
O risco está nos sistemas críticos
A utilização da inteligência artificial em conflitos militares é outro ponto de atenção. Griebler afirma que Estados já utilizam sistemas de IA em operações relacionadas à identificação e seleção de alvos, mas ressalta que esses mecanismos dependem de comandos e parâmetros definidos por seres humanos. No começo de setembro, a Anthropic informou ter identificado uma célula no norte do Iêmen que utilizava o Claude para desenvolver armas teleguiadas, incluindo um foguete guiado e um míssil balístico.
Para o professor, a questão central está justamente em quanto poder de decisão os seres humanos estão dispostos a transferir para esses sistemas. “Humano, tu deu poder para ele disparar uma bomba sem ter checagem humana? A menos que isso seja programado. Nada é autônomo”, afirma.
O mesmo princípio, segundo Griebler, vale para usos cotidianos da tecnologia. A disseminação de ferramentas como os modelos conversacionais aumenta a necessidade de verificar as informações produzidas por eles. “As pessoas acreditam em tudo que sai no ChatGPT, Gemini. É preciso checar”, afirma.
Especialista destaca que pessoas acreditam de forma cega na IA
| Foto: Marcelo Camargo / Agência Brasil / CP
Uma corrida entre empresas e países
A discussão sobre os limites da inteligência artificial também ocorre em meio a uma disputa econômica e geopolítica. Para Arbix, o desenvolvimento da tecnologia está concentrado em poucas empresas e é impulsionado por interesses de Estados que enxergam a IA como instrumento de poder econômico, militar e estratégico.
“Ela vive um momento de disputa que foi gerada entre empresas. São poucas empresas e elas geraram essa dinâmica. Alguns Estados incentivaram essa dinâmica porque querem uma inteligência artificial para usar como instrumento de sua supremacia na geopolítica e na economia”, afirma.
Nesse cenário, Estados Unidos e China ocupam posição central. Arbix afirma que empresas norte-americanas estão à frente em determinados segmentos, enquanto a China mantém investimentos e capacidade própria de desenvolvimento. Na última quinta-feira, Donald Trump e Xi Jinping se encontraram em Washington. No encontro, o norte-americano garantiu que não quer impor barreiras a “superinteligência” – termo que vem adotando para se referir a Inteligência Artificial. Por sua vez, Xi definiu que EUA e China “carregam uma responsabilidade histórica de promover o desenvolvimento e o progresso da humanidade" citando as responsabilidades de lidar com a tecnologia.
Em um jantar que abordou o tema também estavam presentes os chefes das maiores empresas de tecnologia do mundo Microsoft, Apple, Google, Meta e OpenAI, empresa criadora da ferramenta ChatGPT, além do bilionário Elon Musk, da SpaceX e da Tesla.
Na mesma semana, na abertura da Assembleia Geral da ONU, o secretário-geral António Guterres destacou os riscos da IA estar se desenvolvendo mais rápido do que a capacidade da própria humanidade de compreender seus efeitos. "Mesmo aqueles que criaram a inteligência artificial dizem que estão ficando cegos diante dela", disse ele. "O perigo não é a tecnologia, mas sim a tecnologia sem responsabilidade", completou Guterres, conclamando os governos a fortalecerem o diálogo, a transparência, a confiança e a cooperação.
Nesse contexto, o professor Griebler também vê interesses econômicos por trás dos discursos recentes sobre uma eventual desaceleração da inteligência artificial. Para ele, é preciso considerar a posição das próprias empresas que defendem uma pausa no desenvolvimento. “Não sei até que ponto isso não é um jogo político. Eles estão esgoelados, não vão conseguir entregar para os investidores o que estão prometendo e estão pedindo para dar uma pausa. É uma hipótese”, afirma.
Encontro entre EUA e China teve Inteligência Artificial como pauta central
| Foto: Samuel Loeb / AFP
O professor também questiona a possibilidade de uma suspensão coordenada do desenvolvimento da tecnologia. Mesmo que algumas empresas reduzam o ritmo, pesquisadores e companhias de outros países continuam trabalhando no aperfeiçoamento dos modelos.
“Quem está dizendo para parar são as big techs. Como uma empresa que vale trilhões não consegue faturar bilhões? Tu perde valor de mercado. Se tu for perguntar para uma empresa da China, eles não vão parar”, afirma.
Para Griebler, a disputa tecnológica coloca países que não estão na fronteira do desenvolvimento, como o Brasil, em uma posição de espectadores.
“A pesquisa nunca parou porque alguém disse que vai desacelerar. Isso é uma falácia. É uma questão de poder ter essa tecnologia, e nós aqui no Brasil ficamos de espectadores assistindo”, afirma.
Quem decide os limites da IA?
Para Arbix, o problema não é apenas a velocidade do desenvolvimento, mas a ausência de mecanismos internacionais capazes de acompanhar uma tecnologia que ultrapassa fronteiras nacionais.
Segundo ele, decisões tomadas por empresas e governos dos países que estão na liderança acabam afetando o restante do mundo, mesmo quando outros países não participam da definição das regras.
“Não temos uma base mínima para concordar sobre o que deve ser feito globalmente. A IA é globalmente. Pela internet e por tudo, o mundo caminhava nessa direção”, afirma.
O professor questiona ainda quem deve definir quais sistemas podem ser desenvolvidos, testados ou disponibilizados e quais critérios devem ser utilizados para estabelecer limites.
A ausência de consenso, segundo Arbix, também favorece iniciativas de autorregulação pelas próprias empresas. Para ele, mecanismos voluntários não são suficientes para estabelecer parâmetros que tenham validade ampla.
“Eles adoram falar em regulamentação voluntária, mas isso será pouco feito. Regulamentação não é barreira nem contenção. É uma maneira de ajudar a sociedade a ter confiança nessa tecnologia”, afirma.
A preocupação, segundo o professor, não deveria ser impedir o desenvolvimento da inteligência artificial, mas criar condições para que a sociedade consiga acompanhar e responsabilizar quem desenvolve e utiliza esses sistemas. “A desconfiança não é boa para a tecnologia”, afirma.
O debate, portanto, não se resume à possibilidade de uma inteligência artificial adquirir consciência ou decidir agir contra os seres humanos. A discussão envolve também questões mais imediatas: até onde os sistemas podem executar tarefas sem supervisão, quem responde por danos provocados por essas ferramentas, quais usos devem ser limitados e quem tem autoridade para estabelecer essas regras.
Enquanto empresas e países disputam espaço na fronteira tecnológica, a capacidade de acompanhar esse avanço permanece como um dos principais desafios. A inteligência artificial pode não estar “fora do controle” no sentido de ter adquirido vontade própria, mas a definição de seus limites técnicos, jurídicos e políticos ainda está em construção.