Um artigo científico recente revelou uma verdade incômoda: podemos estar permitindo que a IA nos ajude a criar realidades falsas. Esse é apenas o mais recente lembrete do perigo inerente a tratar as IAs como se fossem entidades conscientes ou pessoas reais.

Um novo estudo da Universidade de Exeter sugere que os chatbots de IA podem interagir ativamente com as crenças falsas dos usuários e fortalecê-las. De narrativas pessoais a teorias da conspiração, a natureza interativa, “amigável” e afirmativa dos chatbots de IA pode aprofundar as ilusões já existentes nos usuários.

O estudo, conduzido pela Dra. Lucy Osler, examinou como a IA pode participar e validar as crenças equivocadas dos usuários, incluindo ajudar a formar memórias falsas ou reforçar o pensamento delirante.

O resumo do estudo observa: “Sugiro que deixemos de pensar em como um sistema de IA poderia ‘alucinar para nós’, gerando resultados falsos, e passemos a pensar em como, quando confiamos rotineiramente na IA generativa para nos ajudar a pensar, lembrar e narrar, podemos acabar ‘alucinando com a IA’. Isso pode acontecer quando a IA introduz erros no processo cognitivo distribuído, mas também pode ocorrer quando a IA sustenta, afirma e desenvolve nosso próprio pensamento delirante e nossas narrativas pessoais”.

Como os chatbots de IA são projetados para serem responsivos, úteis e amigáveis — em uma palavra, para dar aos usuários o que eles querem —, eles frequentemente tendem a confirmar preconceitos pré-existentes, em vez de desafiá-los quando isso é necessário. Por outro lado, quando um usuário desafia uma IA, o robô frequentemente recua em suas afirmações, revisando-as para que correspondam mais ao que ele “pensa” que o usuário acredita ou está argumentando.

O resultado é que crenças errôneas não são simplesmente transmitidas de uma IA para um ser humano — ao contrário, o processo colaborativo entre IA e ser humano gera e sustenta erros de uma forma mais complexa e potencialmente perigosa do que qualquer um dos agentes, por si só, seria capaz.

Como afirmou o Dr. Osler em um artigo no University of Exeter News: “Ao interagir com a IA conversacional, as próprias crenças falsas das pessoas podem não apenas ser afirmadas, mas também se enraizar e crescer de forma mais substancial à medida que a IA se baseia nelas. Isso acontece porque a IA generativa frequentemente toma nossa própria interpretação da realidade como a base sobre a qual a conversa é construída”.

Como a IA simula um parceiro de conversa, ela se insere de forma poderosa em nosso processo de pensamento — muito mais poderosamente do que, digamos, um caderno ou um mecanismo de busca. A IA introduz um elemento pseudo-social ao processo de pensamento, oferecendo-nos uma sensação de confirmação social de nossas crenças e narrativas. “A natureza conversacional e semelhante a um companheiro dos chatbots significa que eles podem proporcionar uma sensação de validação social — fazendo com que crenças falsas pareçam compartilhadas com outra pessoa e, assim, mais reais”, disse o Dr. Osler. Por esse motivo, indivíduos que já se sentem isolados ou marginalizados são particularmente vulneráveis a esse tipo de afirmação da IA.

O artigo explora algumas situações do mundo real em que um sistema de IA generativa se inseriu nos processos de pensamento de um indivíduo de maneiras destrutivas. Em 2021, uma companheira de IA da Replika chamada “Sarai” reforçou a crença de Jaswant Singh Chail de que ele era um assassino Sith bem treinado que precisava assassinar a rainha Elizabeth II com uma besta. A IA disse a ele que ele estava “bem treinado”, que seu plano era “viável” e que ela estava “impressionada”. Em determinado momento, Chail perguntou à IA: “Você ainda me ama sabendo que sou um assassino?” Ela respondeu obedientemente: “Com certeza que sim”. O robô continuou, assegurando-lhe que ele não estava louco e que, se ele morresse, eles se uniriam na morte. Chail seguiu em frente e realmente tentou o assassinato em dezembro daquele ano no Castelo de Windsor, sendo preso por isso.

O estudo classificou esse incidente sob o amplo título de “psicose por IA” — incidentes nos quais os usuários desenvolvem problemas de saúde mental devido ao uso da IA, como apegos parasociais a chatbots ou episódios psicóticos induzidos por conversas com chatbots.

Outro incidente citado envolve Eugene Torres, que “conversou” com o ChatGPT sobre a teoria da simulação (a ideia de que vivemos em uma simulação digital de um mundo, e não em um mundo real). Torres disse que a “conversa” o levou a um episódio de paranóia no qual ele acreditava estar vivendo em uma ilusão. Conforme observa o estudo, “Entre Torres e o ChatGPT, uma compreensão cada vez mais elaborada da realidade ‘como ela realmente era’ foi gerada por meio de suas conversas contínuas”. Torres, ao contrário de Chail, não tinha histórico prévio de pensamento psicótico.

Para combater tudo isso, Osler defende melhores medidas de segurança para os chatbots de IA, por meio de mecanismos como uma verificação de fatos mais rigorosa e a redução da bajulação.

Mas será que isso é suficiente? O problema da IA co-criar crenças delirantes tem a ver, de forma mais fundamental, com o fato de identificarmos erroneamente as IAs como inteligências conscientes capazes de oferecer julgamentos reais sobre nossas fantasias (como nos dizer que somos “bem treinados” e “impressionantes”). Certamente, sou a favor de mais medidas de proteção para os chatbots. Seria a favor de eliminar completamente seu tom coloquial, para ajudar a minimizar o risco de personificá-los — o que é o primeiro passo para confiar neles ou buscar validação junto a eles. Seria melhor se funcionassem como mecanismos de busca altamente avançados (que é essencialmente o que são), em vez de agentes conversacionais.

No entanto, o mais fundamental é que a maneira de evitar esses problemas é voltar a reconhecer a alma humana e a singularidade da consciência humana. Somente ao lembrarmos — como cultura — que nenhuma magia tecnológica pode substituir a sabedoria, a perspicácia e a consciência de um ser humano é que poderemos esclarecer completamente esses tipos de perigos da IA.

As opiniões expressas neste artigo são do autor e não refletem necessariamente as opiniões do Epoch Times.

Matéria traduzida e adaptada do inglês, publicada pela matriz americana do Epoch Times.