A invasão da inteligência artificial (IA) em nossas vidas avança em ritmo dramático, gerando algum otimismo, mas sobretudo preocupação com o que acontecerá com os seres humanos nesse novo mundo.

Por exemplo, estou usando agora mesmo um programa de documentos na nuvem — o mesmo que utilizo há pelo menos dez anos. Ontem, comecei a receber prompts: “ajude-me a escrever”. Ao clicar, surge uma série de perguntas sobre o que quero escrever e o conteúdo é preenchido automaticamente.

Na verdade, eu poderia terminar este artigo simplesmente pedindo ao prompt que escrevesse um texto de 1.200 palavras contra a redação por IA. O resultado seria impressionante.

Fazer algo assim está abaixo da minha dignidade. Nem sequer uso os novos prompts que aparecem no compositor de e-mails. Um botão resume o que estou lendo, dispensando-me de ler os e-mails; o outro redige uma resposta.

Assim, eu poderia receber e enviar mil e-mails hoje, todos mediados por máquinas que fingem ser humanas, sem que qualquer traço de volição humana autêntica estivesse presente em nenhum deles.

Eu já fui um grande defensor da “nuvem”, porque ela mantinha a sujeira e o entulho no próprio computador. E-mails migraram para a nuvem, depois documentos, depois tudo. Nossas máquinas não rodam mais softwares que possam ser gerenciados localmente.

Há uma conveniência tremenda nisso. Recentemente comprei um novo computador e, em cerca de cinco minutos, ele já estava funcionando exatamente com todas as minhas personalizações. Isso era impensável antigamente, quando levar um dia ou dois para migrar era normal.

O lado negativo é a perda total de controle sobre praticamente tudo. Você fica inteiramente à mercê do que uma grande empresa decidir fazer com você. Se ela toma decisões ruins — como inserir IA no seu fluxo de trabalho sem que você queira —, não há nada que você possa fazer. Você também perde o controle pleno dos seus dados. Eles pertencem a outra pessoa e podem ser vendidos indefinidamente.

Valeu a troca? A resposta não me parece mais tão óbvia.

Acabei de desligar o telefone com a companhia de energia elétrica. Foi uma batalha com uma árvore telefônica de IA. Meu problema não estava na lista, então o agente ficou completamente confuso. Não aguentei mais e exigi falar com uma pessoa. O agente entendeu e me informou que a espera era de mais de uma hora. O computador prometeu que me ligaria de volta.

Aqui está o problema estranho que estou tentando resolver: estou olhando para uma fatura de R$ 49,80 referente ao consumo de energia de um lugar onde não moro. Entendo como aconteceu: digitei brevemente o endereço errado antes de corrigir para o correto. A máquina, porém, registrou o erro como realidade. Agora estou tentando garantir que isso seja corrigido, mas enquanto isso encaro uma fatura não paga.

Até agora, não tenho como resolver porque ainda não falei com uma pessoa. Aliás, nem sei se a pessoa com quem eventualmente falar estará em posição de sobrepor-se à lógica da máquina e consertar as coisas. E se não puder? Quem vai pagar essa conta?

Enquanto isso, tenho documentos abertos que preciso ler, mas há botões piscando no topo convidando-me a ler resumos em vez disso. Nada de percorrer dez páginas. Basta apertar um botão e deixar a máquina ler e resumir por mim — sem qualquer garantia, muito menos responsabilidade, caso algo esteja errado.

Você percebe o que está acontecendo? Nossa humanidade parece estar sendo gradualmente substituída por dígitos desumanizados, em pequenas e grandes coisas, pouco a pouco.

É verdade que a IA não é desprovida de méritos. Antigamente, trocar uma passagem aérea exigia lidar com uma pessoa que mal falava inglês. A espera era longa, de até uma hora, e você precisava ir e voltar numa enorme sequência de dígitos de contabilidade e reservas. Hoje, há uma pequena janela no software. Você faz o pedido e tudo se resolve em menos de um minuto. É fantástico.

Menciono isso porque é o único caso de uso que conheço em que a IA foi um sucesso absoluto e sem ressalvas. Os grandes modelos de linguagem também ajudam, mas têm enormes problemas de precisão e precisam ser constantemente verificados contra livros e fontes reais. São supremamente inteligentes, mas imperfeitos. Além disso, sua bajulação ao usuário compromete sua credibilidade.

Minha principal queixa é que toda plataforma, todo ambiente e toda experiência hoje em dia presumem que serão melhorados pela IA, como se ninguém pudesse ter dúvidas sobre isso. Nos meus sistemas de e-mail e escrita na nuvem, não há como desligá-la. Nesse sentido, um futuro com IA está sendo imposto a nós.

Você pode se surpreender ao saber que a IA é amplamente impopular, mesmo entre quem a usa. Uma grande pesquisa da Gallup revela que dois terços das pessoas têm graves dúvidas sobre o impacto social da IA e seus perigos na disseminação de informações falsas. O único campo em que as pessoas veem utilidade é o médico — sem dúvida porque esperam se livrar de médicos e planos de saúde.

Eis aí: usamos a IA o tempo todo, mas confiamos muito pouco nela. Olhando mais de perto, as pessoas gostam da IA para 1) assuntos jurídicos, onde ela é muito boa; 2) ajuda técnica, onde é indispensável; e 3) problemas mecânicos, onde pode ser genial.

É por isso que tantos anúncios de avanços em IA prejudicam ações de empresas ligadas a serviços jurídicos, dados e ferramentas de informação. A IA pode de fato acabar com empresas inteiras mais cedo do que se imagina — assim como já devastou a indústria de busca na internet.

Apesar do massacre empresarial, as pessoas gostam do que a IA faz por elas ao fornecer informações valiosas. O que não gostamos é quando ela invade nossas vidas de formas irritantes, condescendentes, inúteis ou imprecisas.

Pessoalmente, juro evitar a IA a menos que seja absolutamente necessário. Acima de tudo, gostaria de estar em posição de escolher. Ligar e desligar. As empresas não deveriam presumir que queremos essas IAs embutidas no funcionamento do nosso dia a dia.

Revoluções tecnológicas podem ser empolgantes, mas também irritantes, simplesmente porque a cultura pública tende a acreditar que alguma ferramenta nova e sofisticada vai imanentizar a escatologia). Não vai. Mesmo depois que essa revolução passar, continuaremos lidando com a maioria dos mesmos problemas que sempre afligiram a humanidade.

As pessoas ainda precisam aprender história, literatura, filosofia, ética, matemática, economia, música e ciência. Se não o fizermos, as máquinas realmente governarão o mundo. O resultado não será o eschaton, mas distopia.

Como acompanhamento ao problema da minha conta de luz: finalmente falei com uma pessoa. Ela resolveu tudo. Graças a Deus pelos remanescentes entre nós — ou seja, seres humanos de verdade.