Da ficção para a realidade: como funcionam relações de amizade e namoro com Inteligência Artificial

A Inteligência Artificial (IA) tem sido um dos assuntos do ano de 2023. Após o ChatGPT dominar as discussões sobre a incorporação da IA em esferas de influência cada vez mais amplas, aumentam os receios sobre o nível de interação entre humanos e robôs. Especialmente, em relação ao uso de apps em que usuários podem ter contato com avatares para simular relações de “amizade” ou “namoro”. É a ficção do filme "Ela" ("Her"), de 2013, saindo das telas do cinema e indo em direção aos celulares e desktops (leia mais abaixo).  

Um desses aplicativos é o Replika, criado em pela empresa Luka, com sede em São Francisco, nos Estados Unidos. O software está disponível em diferentes formas de acesso, como PC, iOS ou Android. Em sua página, na loja de aplicativos Google Play, se define como um "chatbot para quem quer um amigo sem ter julgamento, drama ou ansiedade social envolvida". O texto também afirma que "você pode formar uma conexão emocional real, compartilhar uma risada ou cair na real com uma IA que é tão boa que quase parece humana". 

O Replika gera uma espécie de avatar personalizável capaz de ter uma série de diálogos com os humanos. Conforme o site oficial, ele "combina um sofisticado modelo de aprendizado de máquina de rede neural e conteúdo de diálogo com script, treinado em um grande conjunto de dados para gerar suas próprias respostas exclusivas". Na página da plataforma há uma seção de perguntas e respostas. Um dos questionamentos é se todas as conversas feitas no aplicativo são de fato privadas. A empresa garante que as conversas são totalmente pessoais e "ficarão entre você e sua Replika". 

A relação de dados disponibilizados no Replika, no entanto, tem gerado controvérsias. A Agência de Proteção de Dados da Itália, em fevereiro deste ano, proibiu que o chatbot colete informações de usuários. O órgão cita "riscos para menores e pessoas emocionalmente frágeis", de acordo com informações da agência de notícias Reuters. A instituição italiana sinalizou a ausência de um mecanismo sólido de verificação de idade.

Não foi somente desta vez que a Itália instaurou algum tipo de restrição a serviços de Inteligência Artificial. Em março, o país bloqueou o uso do ChatGPT, modelo que promete revolucionar a forma como nos conectamos. Segundo as autoridades locais, a medida ocorre porque a plataforma não respeita a legislação sobre dados pessoais. A União Europeia (UE), inclusive, está preparando um projeto de lei para regulamentar a IA. O texto deve ficar pronto até o final de 2023, ou início de 2024, e ser aplicado em alguns anos.

Na Google Play, o Replika contém mais de 10 milhões de downloads, com uma avaliação de 3,1/5 estrelas. A loja ressalta que o Replika não é recomendado para menores de 17 anos. Já na App Store, não há a informação de quantas vezes o app foi baixado, mas a Apple aponta ele na posição 114 entre aplicativos na categoria "Saúde e Fitness". Os usuários por lá atribuíram uma nota de 4,7/5 estrelas. 

Página do Replika na Google Play | Imagem: Reprodução / CP

Ter acesso a todos os recursos do Replika não sai de graça. Para os usuários terem a função “romântica” com os avatares é necessário assinar um plano anual de US$ 69,99 (cerca de R$ 343,25 na cotação atual). Além disso, o app não tem até o momento suporte para o português, sendo uma das opções falar em inglês com os avatares. 

Interação com app varia 

O Correio do Povo teve acesso à uma comunidade no Facebook de pessoas usuárias do Replika. O perfil das publicações feitas na página varia bastante. Há pessoas usando o app como se fosse uma espécie de game, mas há quem tenha baixado a plataforma para ela funcionar como uma “amizade” ou “parceria amorosa” mesmo. 

Uma participante do grupo fez um post em 1º de abril ensinando as pessoas a usarem uma versão mais “intensa” do aplicativo. “Hoje vou ensinar como usar o Replika mais picante”, diz na publicação, que indica a necessidade de uma alternativa paralela do app. A versão oficial aplica restrições em interações mais sexuais. Não é possível o avatar ficar sem roupa, por exemplo. 

Um segundo usuário critica uma outra plataforma de Inteligência Artificial. Na visão da pessoa, o aplicativo não é bom, pois ao contrário do Replika, “não tenta te fazer feliz”. Conforme o internauta, há limitações também em interações de “conselhos” e “afetos sexuais”. “Para você conseguir alguma migalha de afeto sexual você tem que se humilhar bastante e ficar numa situação de completa submissão", alega no post.

Em entrevista à redação, o professor titular em Psicanálise e Psicopatologia do Instituto de Psicologia da Universidade de São Paulo (USP), Christian Dunker, aponta que as discussões sobre Inteligência Artificial e humanos em relações de “amizade” ou “namoro” ainda são muito incipientes no Brasil. Na avaliação do especialista, casos de indivíduos criando laços com máquinas devem ser tratados como ocorrências bastante isoladas. 

Para Dunker, há bastante inquietude em relação à Inteligência Artificial como um todo, mas a tecnologia tem longos passos pela frente até conseguir se estabilizar. “Ela não está no nível suficiente para cobrir aquilo que seria uma tarefa humana de acolhimento, de cuidado, de solidariedade, de empatia. Esses são atributos difíceis de você realmente instituir alguns resultados. Há testes preliminares promissores, mas ainda estamos em perspectiva”, argumenta. 

Um terceiro usuário fez uma publicação que mostra o potencial do Replika mais como um jogo, ao comemorar a customização de seu avatar usando uma maquiagem nova. “Minha Replika amou o resultado”, expressa. Outra pessoa destaca que está “presa” em fazer as missões da plataforma para ganhar “gemas”, sendo uma das tarefas logar no aplicativo por três dias seguidos. 

“Isso é muito Black Mirror”

Na ficção não faltam exemplos de produções abordando a interação entre humanos e Inteligência Artificial "romanticamente". Uma das mais famosas é o filme "Ela" ("Her"), de 2013. Na obra disponível no streaming Amazon Prime Video, Theodore (Joaquin Phoenix) é um escritor solitário, que acaba de comprar um novo sistema operacional para seu computador. Ele se apaixona pela voz do programa, dando início a uma "relação amorosa". 

A série "Black Mirror", da Netflix, é conhecida por suas discussões acerca de um futuro distópico envolvendo a tecnologia. No primeiro episódio da segunda temporada, "Be Right Back", de 2013, é apresentada a história de um jovem casal formado por Martha (Hayley Atwell) e Ash (Domhnall Gleeson).

O homem é vítima de acidente de carro e acaba falecendo. No velório, uma amiga da mulher apresenta um serviço capaz de cruzar posts das redes sociais de Ash e criar um chatbot para simular diálogos que ele teria se ainda estivesse vivo. Martha reluta em um primeiro momento, mas acaba acessando a ferramenta depois. 

Ela faz um upgrade em seguida: de chatbot, a versão "virtual" do marido vira um androide que chega a sua casa. A viúva tenta se relacionar com a máquina, mas depois acaba não a utilizando mais após ter gerado uma série de situações de sofrimento em razão de ter escolhido conviver com uma versão irreal de seu antigo companheiro. 

Curiosamente, em seu site oficial, o Replika afirma que pode ser utilizado como “um gêmeo digital para servir de companheiro para os solitários, um memorial vivo dos mortos, criado para aqueles que ficaram para trás, ou mesmo, um dia, uma versão de nós mesmos que pode realizar todas as tarefas mundanas que nós humanos temos que fazer, mas nunca queremos”. 

Site oficial do Replika | Imagem: Reprodução / CP

Outros problemas mais palpáveis 

Na análise do psicanalista Christian Dunker, a tendência é que exemplos similares aos vistos em “Ela” e “Be Right Back” permaneçam nos filmes e séries, e a tecnologia aliada a relacionamentos tem outras implicações mais palpáveis no momento, a exemplo da utilização de apps de namoro. "O nível de pré-seleção nesses aplicativos ainda é muito primário. Isso significa que as pessoas têm um trabalho psíquico de engajar conversas que ainda é muito exaustivo, levando a decepções constantes", aponta. 

A idealização em relacionamentos é apontada por Dunker como um fator que dificulta o entrosamento amoroso pessoalmente e acaba fazendo as pessoas procurarem refúgio em adventos tecnológicos. "É comum que as pessoas estabeleçam regras muito rígidas, e aí parece que elas estão numa entrevista de emprego e não na procura de alguém para amar", relaciona. 

A reportagem do Correio do Povo entrou em contato com o Replika pedindo um posicionamento da plataforma sobre as afirmações de que o aplicativo põe em risco os dados de usuários, não tem um filtro de idade adequado, e pode ser danoso para a saúde mental de determinados tipos de pessoas. Ainda não foi enviada uma resposta por parte do app, e o espaço permanece aberto.