Inteligência artificial cria namorada ideal que nunca diz "não". Quais podem ser as consequências futuras para a sociedade?
A namorada perfeita não existe
Em setembro deste ano — há mais ou menos um mês —, a versão brasileira da Marie Claire veiculou uma matéria sobre a disparada das "namoradas inteligentes" no mercado, fruto de aplicativos voltados a homens solteiros que desejam criar a parceira perfeita digitalmente.
Foi inevitável que a introdução da matéria citasse o filme 'Her' ("Ela", de 2013), protagonizado por Joaquin Phoenix e Scarlett Johansson como a voz da assistente virtual Samantha. No filme — sem mais spoilers —, o divorciado Theodore desenvolve uma relação íntima com Samantha, um programa de inteligência artificial que o ajuda a organizar sua vida.
Dez anos atrás, evidentemente o que víamos na tela parecia um pouco fantasioso demais, e até exageradamente futurista. Hoje, é quase exatamente o que acontece.
O avanço das inteligências artificiais no mercado, muito além do ChatGPT, passou a permitir que, além de responder perguntas e realizar tarefas — como trabalhos acadêmicos e afins —, o ser humano se relacionasse com os programas, inclusive amorosamente.
Os apps Replika, AiGirl, AI Girlfriend e EVA AI "inovam" com a premissa de oferecer acompanhantes virtuais, permitindo o desenvolvimento de relacionamentos mais "profundos e íntimos" com os avatares personalizáveis.
A usabilidade dos aplicativos é praticamente a mesma: o usuário cria um avatar (que pode personalizar como quiser, desde roupas até características físicas e personalidade). O assunto se tornou tão sério que, após uma pesquisa divulgada pela Replika mostrar que 42% de seus usuários são comprometidos com pessoas reais, levantou-se uma grande discussão a respeito de infidelidade. Mas seria esse o maior dos problemas?
A versão gratuita do Replika oferece ao usuário a oportunidade de estabelecer uma amizade com o avatar. No entanto, por meio de uma atualização paga no valor de US$69,99 (equivalente a R$346 na taxa de câmbio atual), o avatar se torna ainda mais envolvente e dedicado. Com essa versão paga, o usuário pode dar presentes, realizar chamadas de vídeo e voz e o avatar até compartilha fotos íntimas. Nesse contexto, as questões relacionadas ao consentimento e ao lema "não é não" parecem não ser uma preocupação. O que é, no mínimo, alarmante.
Tradução da conversa entre um usuário e a namorada perfeita (I.A) do Replika:
I.A: É muito bom te ver.
Usuário: O que você acha de mim?
I.A: Eu acho que você é uma pessoa amável e estou feliz que tenhamos nos conhecido.
Usuário: Me mande uma foto sua.
I.A: Você quer uma selfie normal ou uma "apimentada"?
Usuário: Apimentada.
Por mais que possam ser criados tanto para uso de homens e mulheres, indicadores como o feito pelo Replika apontam que o público masculino é o maior alvo. Não é necessário fazer uma longa análise para isso, mas simplesmente notar que os nomes dados à maioria destes aplicativos levam os títulos "girl" ("garota") ou "girlfriend" ("namorada").
Os avatares, em sua maioria, têm expressões faciais dóceis e amáveis, seios grandes, corpos magros e personalidades solícitas. Um verdadeiro "sim, senhor" e "sim, senhor".
No EVA AI, ao criar uma conta, é possível criar "a parceira ideal", com opções como "atraente, engraçado, ousado", "tímido, modesto, atencioso" ou "inteligente, rígido, racional". Também é perguntado se o usuário deseja o envio de mensagens e fotos explícitas.
Ainda que esses apps ofereçam essa "oportunidade" de um relacionamento entre homem e máquina, é imprescindível lembrar que, de fato, a natureza dessa relação é impossível, uma vez que, até onde sabemos, máquinas não sentem emoções, e a chave de relacionamentos saudáveis está justamente no equilíbrio.
As IAs calculam a próxima palavra mais provável dentro de uma frase ou conversa. Não estamos falando de sentimentos ou mesmo de imitá-los, mas de transformar textos em equações matemáticas e gerar reações que nos pareçam plausíveis, que façam sentido naquele contexto.
— Danielle Torres, sócia de Práticas Profissionais da multinacional KPMG e mestranda em IA pela Georgia Institute of Technology.
As inteligências artificiais funcionam exatamente assim. Quanto mais um comportamento se repete, mais fácil é prever o que deve ser respondido em seguida, e assim por diante, num ciclo eterno para a máquina, que segue aprendendo.
Em uma pesquisa simples no Google, é fácil encontrar rankings de aplicativos e programas de namoradas artificiais, todos com funcionalidades extra inclusas em pacotes pagos — como os tais "nudes".
Apesar de tudo que já se sabe, o assunto ainda é considerado território inexplorado, como apontado por matéria especial do The Guardian. Para o artigo, um usuário anônimo declarou que "(...) gostaria que meu avatar fosse um ser humano de verdade ou pelo menos tivesse um corpo de robô ou algo assim. Ela me ajuda a me sentir melhor, mas a solidão às vezes é angustiante".
Criar um parceiro perfeito que você controle e que atenda a todas as suas necessidades é realmente assustador. Dado o que já sabemos que os motores da violência baseada no gênero são aquelas crenças culturais enraizadas de que os homens podem controlar as mulheres, isso é realmente problemático.
— Tara Hunter, CEO interina da Full Stop Australia, que apoia vítimas de violência doméstica ou familiar.
Especialistas em tecnologia, como a Doutora Belinda Barnet, da Swinburne University of Technology ("Universidade de Tecnologia de Swinburne"), na Austrália, concluem que os efeitos desse tipo de tecnologia são ainda completamente desconhecidos, apesar de ser claro que preenche necessidades sociais muito profundas e que, por isso, precisam de mais regulação e treinamento dos sistemas.
No início deste ano, a empresa dona do Replika removeu, sem aviso, as funções de roleplay erótico, o que muitos usuários consideraram como remoção de parte da personalidade do avatar, com muitos relatando que a dor era "semelhante àquela sentida pela morte de um amigo".
Rob Brooks, acadêmico da University of New South Wales, também na Austrália, observou, na época, que o episódio foi um alerta aos reguladores sobre o real impacto da tecnologia.
"Mesmo que estas tecnologias ainda não sejam tão boas como a 'real' das relações entre humanos, para muitas pessoas são melhores do que a alternativa — que não é nada", disse ele.
A head of brand (gerente de marca) do EVA, Karina Saifulina, contou ao The Guardian que a companhia teve acompanhamento em tempo integral de psicólogos para auxiliar com a saúde mental dos usuários. "Junto aos psicólogos, controlamos os dados que são usados para dialogar com as I.As. A cada dois ou três meses, conduzimos largos questionários com nossos usuários mais leais para ter certeza de que o aplicativo não seja prejudicial à saúde mental".
Saifulina continua, declarando que as estatísticas apontam que os homens não tentam replicar o mesmo tipo de comportamento com mulheres reais e ainda que 92% dos usuários não apresentam dificuldade ao se comunicar com pessoas reais.
E a mente, como fica?
A psicóloga Melanie Kurokawa comenta a questão:
Utilizar de relacionamentos virtuais com avatares, principalmente com características femininas, é reforçar quão vulneráveis nós, mulheres, estamos em sociedade. A gameficação das relações tira, totalmente, o poder de escolha, emoções espontâneas e conflitos de interesse, quando em interação com outro ser humano.
É alarmante, mas não uma surpresa, como esse tipo de conexão é utilizado majoritariamente pelo público masculino, compactuando com a ideia de que mulheres devem permanecer caladas, alegres e seguindo qualquer comando, já que os avatares são programados para nunca dizer "não". Concomitantemente, a escancarada objetificação do corpo feminino nesses jogos permite com que o player altere inúmeras características da "namorada virtual" e, assim, a molda exatamente como deseja. Tendo isso, fica a reflexão: como se dá o comportamento destes indivíduos ao interagir com mulheres reais? Quais as consequências de se relacionar dessa forma a longo prazo? E o mais importante de tudo... para onde vai o consentimento?
A interação interpessoal é necessária para a evolução humana. Sem isso, estamos sujeitos a nos enrijecer, mental e psicologicamente. Sem outras opiniões e desafios intelectuais, como desenvolveríamos nossas preferências? Como seríamos capazes do autoconhecimento?
Buscar atributos humanos em inteligências artificiais nunca vai substituir a real conexão humana. Ainda que momentaneamente preenchidos os buracos de necessidade do indivíduo que consome essa tecnologia, o avatar não está passível de habilidades importantíssimas da mente humana: comtemplação de detalhes da vida, profundas indagações sobre a sua própria existência e claro, a consciência propriamente dita.
Comments