WASHINGTON — À medida que a inteligência artificial cresce em poder e alcance, ela pode estar ameaçando informações críticas dos EUA.

O alarme cresceu no Capitólio nas últimas semanas em meio a alegações de que modelos de IA de ponta demonstraram capacidade de invadir sistemas confidenciais altamente criptografados. No entanto, alguns especialistas em segurança cibernética afirmaram que a ameaça pode estar sendo exagerada — pelo menos por enquanto.

Em uma audiência no Senado americano em 11 de junho, o vice-presidente da Comissão de Inteligência do Senado, Mark Warner (D-Va.), relatou ter sido informado pela Agência de Segurança Nacional dos EUA (NSA, na sigla em inglês) de que o modelo de IA Mythos, desenvolvido pela Anthropic, “invadiu quase todos os nossos sistemas confidenciais, não em semanas, mas em horas”.

Nem a NSA nem a Anthropic responderam aos pedidos de comentários sobre as declarações de Warner a respeito do Mythos — mas outros parlamentares de alto escalão que conversaram com o Epoch Times demonstraram preocupação.

“Fui informado sobre a capacidade do Mythos e sobre a forma como nossos elementos da comunidade de inteligência estão avaliando a situação, e isso é muito, muito sério”, disse o membro sênior da Comissão de Inteligência da Câmara, Jim Himes (D-Conn.), ao Epoch Times em 23 de junho.

Se forem precisas, as alegações de Warner poderiam sinalizar uma mudança de paradigma para o campo da segurança cibernética e para a proteção de segredos altamente confidenciais da segurança nacional dos EUA.

Os comentários de Warner e Himes se somam a um debate crescente sobre como regulamentar a IA e lidar com seu impacto na segurança cibernética.

Algumas instâncias do governo já estão agindo.

A Anthropic anunciou em 12 de junho que havia recebido uma diretiva de controle de exportação do governo dos EUA para suspender todo o acesso de cidadãos estrangeiros aos seus modelos de IA Fable 5 e Mythos 5, tanto dentro quanto fora dos Estados Unidos. A diretiva inclui os próprios funcionários da Anthropic.

A Anthropic foi além, desativando o acesso ao Fable 5 e ao Mythos 5 para todos os usuários.

Ainda assim, a desenvolvedora de IA questionou os fundamentos do governo para a diretiva de controle de exportação.

Um grupo de parlamentares democratas e republicanos enviou uma carta ao secretário de Comércio dos EUA, Howard Lutnick, em 18 de junho, buscando mais esclarecimentos sobre a decisão.

Em 30 de junho, a Anthropic anunciou que o Departamento de Comércio havia retirado seus controles de exportação sobre os modelos Mythos 5 e Fable 5. Desde então, a Anthropic restaurou o acesso público ao Fable 5 e reiniciou um programa que permitia que um grupo limitado de organizações e órgãos governamentais utilizasse o modelo Mythos 5.

O Pentágono havia anteriormente designado a Anthropic como um risco à cadeia de suprimentos em uma decisão que foi inicialmente bloqueada por um juiz, mas mantida por um tribunal de apelação.

Em 22 de junho, o departamento de segurança cibernética da aliança de compartilhamento de inteligência Five Eyes — que inclui Austrália, Canadá, Nova Zelândia, Reino Unido e Estados Unidos — emitiu um alerta sobre o crescente potencial de ataques cibernéticos impulsionados por IA. Eles afirmaram que “o cenário em evolução da inteligência artificial [...] está transformando rapidamente o risco cibernético, e devemos agir com rapidez para nos mantermos à frente”.

Parlamentares dos EUA continuam a fazer perguntas sobre os modelos de IA da Anthropic, bem como sobre como eles se comparam aos recursos de IA mais avançados dos principais concorrentes dos Estados Unidos.

Himes disse que foi informado recentemente de que os recursos de IA da China estão aproximadamente seis meses atrás dos dos Estados Unidos.

“Temos seis meses agora para pensar em como construir nossas defesas, e quando digo ‘nós’, refiro-me ao governo, ao setor financeiro, às corporações, ao e-mail — o que você quiser, todos esses sistemas apresentam enormes vulnerabilidades”, afirmou.

O senador Mike Rounds (R-S.D.), que integra as Comissões de Serviços Armados e de Inteligência do Senado, disse ao Epoch Times que os Estados Unidos precisam permanecer na vanguarda do desenvolvimento da IA à medida que a concorrência se intensifica.

“O desenvolvimento da IA não vai parar. Temos que estar na vanguarda disso. Nossos adversários estão pressionando muito, muito forte”, disse ele, observando que havia sido informado sobre o Mythos.

O Mythos 5 e o Fable 5 são duas variações do mesmo modelo básico de IA.

O Fable 5 foi a versão preparada para uso do público em geral, embora com várias restrições para limitar a divulgação de informações de alto risco.

O Mythos 5 possui menos dessas restrições, mas foi testado com um número limitado de usuários em uma iniciativa controlada conhecida como Projeto Glasswing.

Em um lançamento controlado em abril, a Anthropic observou que modelos de IA como o Mythos identificam e exploram vulnerabilidades de software.

“O Mythos Preview já identificou milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores da web. Dada a velocidade do avanço da IA, não demorará muito para que tais capacidades se proliferem, potencialmente além dos atores comprometidos em implantá-las com segurança”, afirmou a Anthropic na época.

No Projeto Glasswing, um grupo restrito de usuários solicitou que o Mythos 5 analisasse grandes quantidades de código para identificar vulnerabilidades que pudessem ser exploradas por agentes mal-intencionados.

Em seu comunicado de 12 de junho, a Anthropic afirmou ter recebido poucos detalhes sobre a diretiva de controle de exportação relativa ao Mythos 5 e ao Fable 5. A desenvolvedora de IA disse que, segundo seu entendimento, o governo dos EUA identificou uma maneira de “desbloquear” o Fable 5, contornando suas proteções.

Tal “fuga” poderia, teoricamente, permitir que os usuários do Fable 5 tivessem acesso a alguns dos mesmos recursos exibidos pelo Mythos 5, como a identificação de vulnerabilidades exploráveis em softwares.

Em entrevista ao Epoch Times, o fundador da Marpole.ai, Dmitri Maxim, levantou a possibilidade de um modelo de IA mapear gradualmente a infraestrutura de uma rede segura e elaborar um plano complexo para atacá-la.

“Ele analisa milhões de páginas de configurações de infraestrutura não relacionadas e calcula instantaneamente como esses bugs microscópicos e triviais interagem, encadeando-os em caminhos de ataque automatizados e catastróficos que concedem controle administrativo total do sistema”, disse Maxim.

No entanto, alguns profissionais de segurança cibernética expressaram ceticismo quanto à possibilidade de modelos avançados de IA invadirem redes confidenciais dos EUA.

Dahvid Schloss, diretor de operações da empresa de segurança cibernética Suzu Labs e ex-operador cibernético ofensivo da Força Aérea dos EUA que atuou em apoio às Forças de Operações Especiais dos EUA, questionou a alegação de Warner de que um modelo de IA simplesmente invadiu sistemas seguros dos EUA.

Redes confidenciais do governo dos EUA, como as utilizadas pelas Forças Armadas e pela comunidade de inteligência, são projetadas especificamente para serem isoladas das redes voltadas para o público. Dispositivos de criptografia altamente avançados, conhecidos como TACLANEs, são usados para gerenciar o fluxo de dados confidenciais em redes não confidenciais.

Schloss argumentou que o Mythos foi deliberadamente introduzido em uma rede segura, o que, segundo ele, é diferente de um modelo de IA conseguir acesso à rede a partir do exterior.

“Uma vez dentro da rede, essa é a parte fácil. O mais difícil é entrar vindo de fora”, disse ele ao Epoch Times.

Schloss disse que nunca ouviu falar de uma violação do TACLANE em seus anos de trabalho com sistemas cibernéticos confidenciais e duvidava que um modelo de IA pudesse fazer isso como meio de obter acesso mais profundo a uma rede confidencial.

Michael Lopez Chiesa, ex-especialista em segurança cibernética do Exército dos EUA que se tornou consultor independente na área, também se mostrou cético quanto à possibilidade de um modelo de IA simplesmente ter conseguido acesso a um sistema confidencial a partir do exterior. No contexto do Projeto Glasswing, disse ele, é mais provável que o modelo de IA tenha sido deliberadamente introduzido em uma rede segura para estudar suas capacidades nesse ambiente.

“Basicamente, demos a eles as chaves do reino e ficamos surpresos que eles tenham encontrado a porta da frente”, disse ele ao Epoch Times.

Em 24 de junho, o senador John Cornyn (R-Texas), outro membro do Comitê de Inteligência, disse ao Epoch Times que esperava “chegar ao fundo da questão” das alegações do Mythos e do ceticismo dos especialistas por meio de uma reunião confidencial em algum momento.

Embora haja dúvidas sobre a capacidade dos modelos de IA de simplesmente invadir redes seguras e fluxos de dados altamente criptografados, o potencial da IA para automatizar e ampliar processos poderia fortalecer outras técnicas que agentes mal-intencionados usam para roubar segredos e causar estragos.

Em fevereiro, a Anthropic acusou três dos principais desenvolvedores de IA da China de tentarem treinar seus modelos com o chatbot Claude, da Anthropic, no que é conhecido como um ataque de “destilação”.

A Anthropic afirmou que os três desenvolvedores chineses de IA — DeepSeek, Moonshot AI e MiniMax — utilizaram 24.000 contas fraudulentas para enviar mais de 16 milhões de prompts ao Claude. Esses desenvolvedores chineses de IA poderiam usar os resultados desses prompts para refinar seus próprios modelos.

Os modelos de IA também podem acelerar o que é conhecido como ataques à cadeia de suprimentos.

Em um ataque à cadeia de suprimentos, um agente mal-intencionado tenta inserir um trecho de código vulnerável em uma base de código-fonte aberta alvo, compartilhada por outros usuários. Se esse código vulnerável for adicionado à base de código alvo, o agente mal-intencionado poderá explorar o código com falha, contornando as defesas cibernéticas de um usuário a jusante.

Para que um ataque à cadeia de suprimentos como esse seja bem-sucedido, um trecho de código explorável teria que passar pela revisão antes de ser aceito na base de código-fonte aberta mais ampla. Lopez Chiesa disse que a IA poderia automatizar esse processo até que um trecho de código explorável finalmente fosse aprovado na revisão.

“A IA permite que você escreva essa única linha de código e a teste um milhão de vezes de um bilhão de maneiras diferentes, porque ela simplesmente vai passar por tudo e tentar todas as possibilidades”, disse Lopez Chiesa. “Você não precisa mexer nela de jeito nenhum. Você define o objetivo, e ela vai fazer isso até não poder mais”.

À medida que as capacidades da IA continuam crescendo, formuladores de políticas e especialistas em segurança cibernética terão que fazer um esforço conjunto para se adaptar aos novos desafios.

Branden McIntyre passou anos desenvolvendo infraestrutura de rede para empresas como a Cisco e a Rakuten. Agora, como cofundador da Trussed.ai, ele ajuda organizações a implementar ferramentas para controlar como os modelos de IA interagem com dados e sistemas confidenciais.

Em entrevista ao Epoch Times, McIntyre explicou que os usuários muitas vezes não conseguem monitorar quais informações estão entrando e saindo dos modelos de IA que utilizam. Ele também levantou a preocupação de que muitos profissionais possam recorrer a modelos de IA para acompanhar o ritmo de seus fluxos de trabalho sem estar sempre atentos às informações potencialmente confidenciais que estão alimentando nesses modelos em constante aprendizado.

Muitos desenvolvedores de IA podem tentar implementar medidas de proteção em seus modelos, mas McIntyre alertou que essa não é uma solução universal.

“A maioria dos modelos tem se concentrado em medidas de proteção internas, e isso é um pouco irregular em geral, certo? Então, uma empresa terá uma proteção para uma coisa, outra empresa terá uma proteção para outra coisa. Não há muita sobreposição”, disse McIntyre.

McIntyre recomenda que as organizações implementem produtos de proteção externos, como os desenvolvidos pela Trussed.ai, que possam ficar entre os dados confidenciais de uma organização e os modelos de IA que ela utiliza para regular quais informações fluem para esses modelos.

O alerta de 22 de junho do Five Eyes sobre IA lista medidas práticas que as organizações podem adotar para limitar sua exposição, incluindo restringir o acesso a sistemas confidenciais, acelerar a velocidade com que as vulnerabilidades são corrigidas e implementar camadas de medidas defensivas nos sistemas de TI.

McIntyre disse que as recomendações dos chefes de segurança cibernética do Five Eyes não são novas. Em vez disso, ele afirmou que o comunicado destaca “o fato de que, com a IA, as coisas acontecem muito mais rápido”.

“Não é possível partir das mesmas premissas de cinco anos atrás sobre quando aplicar correções e o que realmente constitui uma vulnerabilidade e o que não constitui, porque a IA pode testar tudo de uma vez com uma rapidez incrível e com variações como nunca pudemos ter antes”, disse ele.

Matéria traduzida e adaptada do inglês, publicada pela matriz americana do Epoch Times.