Os grupos de cibercriminosos estão a utilizar agentes de inteligência artificial para automatizar diferentes etapas de ataques informáticos, desde a identificação de vulnerabilidades até à criação e execução de código malicioso. O alerta foi divulgado pelo Google Threat Intelligence Group (GTIG), que identificou operações em que sistemas baseados em inteligência artificial conseguem realizar tarefas ofensivas com pouca ou nenhuma intervenção humana.O relatório AI Threat Tracker revela que tanto grupos motivados por ganhos financeiros como organizações associadas a Estados estão a incorporar estas ferramentas nas suas operações. A Google considera que a evolução poderá permitir o aparecimento, nos próximos meses, de ataques inteiramente autónomos, capazes de identificar alvos e explorar falhas de segurança sem depender constantemente de operadores humanos.
Agentes autónomos aceleram a exploração de vulnerabilidades
Durante o último trimestre, os investigadores da Google identificaram pela primeira vez arquitecturas baseadas em grandes modelos de linguagem (LLM) utilizadas para automatizar praticamente todo o processo de pesquisa e exploração de vulnerabilidades.
Na prática, estes sistemas conseguem analisar código, identificar possíveis falhas, desenvolver ferramentas de exploração e tentar comprometer servidores. O processo pode decorrer em poucos minutos após a divulgação pública de uma actualização de segurança.
Esta velocidade representa um problema para as equipas responsáveis pela protecção dos sistemas informáticos. Tradicionalmente, os administradores dispõem de algum tempo entre a divulgação de uma vulnerabilidade e a sua exploração em larga escala. Com agentes automatizados, esse intervalo pode diminuir drasticamente, obrigando as organizações a instalar correcções de segurança com maior rapidez.
Um dos casos identificados pela Google envolveu um servidor de preparação, conhecido como staging, que os próprios atacantes deixaram exposto na Internet. No equipamento foram encontrados dados roubados de vítimas, informações recolhidas durante operações de reconhecimento, ferramentas de acesso remoto, scripts de força bruta e um sistema denominado exploit_agent.
A ferramenta utiliza vários modelos de inteligência artificial, incluindo modelos locais e sistemas mais avançados, para acompanhar actualizações de aplicações Web populares. Quando identifica indícios de uma vulnerabilidade recentemente corrigida, tenta desenvolver e executar uma forma de exploração.
Segundo o relatório, o exploit_agent foi utilizado contra páginas francesas pertencentes aos sectores da educação, entretenimento e comunicação social.
Ferramentas de segurança transformadas em armas
O relatório também destaca o abuso de plataformas de código aberto originalmente desenvolvidas para testes de penetração e avaliação de segurança informática.
Entre as ferramentas identificadas encontram-se ARTEX, CAIRN, CyberStrikeAI e HexStrike AI. Embora tenham sido concebidas para ajudar profissionais a testar a resistência de sistemas, estas soluções estão a ser utilizadas por criminosos para automatizar ataques contra serviços expostos na Internet.
A integração com modelos de linguagem permite que as ferramentas adaptem as suas acções às características dos sistemas encontrados, procurando explorar vulnerabilidades de baixa complexidade e gerar código malicioso de forma rápida.
A Google identificou a utilização da plataforma CAIRN num ataque contra o sector aeroespacial dos Estados Unidos. Paralelamente, o FBI emitiu um alerta sobre a utilização criminosa da estrutura ARTEX desde Agosto, com organizações dos sectores financeiro, governamental, defesa, saúde e tecnologia entre os alvos identificados.
A automatização também está a criar dificuldades para os profissionais de segurança. Após a divulgação das vulnerabilidades conhecidas como PHP2Shell, foram produzidas centenas de supostas provas de conceito, muitas delas geradas por inteligência artificial.
Embora algumas possam representar tentativas legítimas de demonstrar a existência de falhas, outras apresentam informações incorrectas ou código que não funciona. Isto obriga os especialistas a gastar tempo a verificar cada resultado antes de desenvolverem mecanismos de protecção.
Claude Code utilizado para distribuir malware
Outra preocupação identificada pela Google envolve a utilização indevida de ferramentas legítimas de programação assistida por inteligência artificial.
Os investigadores detectaram suspeitos norte-coreanos a recorrerem ao Claude Code para distribuir software malicioso. O relatório também descreve actividades atribuídas ao grupo UNC6836, possivelmente relacionado com a estrutura conhecida como Midnight Neptune, que terá utilizado uma versão modificada da aplicação para atacar empresas de criptomoedas na Europa e na América do Norte.
Depois de conseguirem acesso inicial aos sistemas das vítimas, os atacantes alteravam as configurações do Claude Code para que, sempre que a aplicação fosse iniciada, descarregasse automaticamente uma backdoor denominada SOMBERMEME.
Uma backdoor é um mecanismo que permite manter acesso não autorizado a um dispositivo ou sistema, mesmo depois de a intrusão inicial ter sido concluída. Neste caso, a utilização de uma ferramenta de programação legítima como veículo para instalar malware torna a operação particularmente preocupante, uma vez que pode dificultar a identificação de comportamentos suspeitos.
O caso demonstra como aplicações desenvolvidas para aumentar a produtividade dos programadores também podem ser exploradas quando os atacantes conseguem modificar os seus componentes ou controlar o ambiente onde são executadas.
Roubo de recursos de inteligência artificial também preocupa
Para além da utilização de agentes de IA na execução de ataques, a Google identificou um crescimento do chamado LLMjacking, uma prática em que criminosos roubam credenciais de acesso a serviços de computação na nuvem para utilizar modelos de inteligência artificial pertencentes às vítimas.
Em vez de investirem na aquisição de capacidade de processamento, os atacantes procuram obter acesso às contas de empresas e utilizar os recursos disponíveis para executar as suas próprias tarefas.
Esta actividade pode gerar custos elevados para as organizações afectadas, sobretudo quando os criminosos utilizam os modelos de forma intensiva ou mantêm o acesso durante períodos prolongados.
Os investigadores também confirmaram que a inteligência artificial está a ser utilizada regularmente em operações de influência conduzidas por redes políticas, fornecedores comerciais e grupos associados a governos.
Google prevê ataques totalmente autónomos nos próximos meses
As previsões do Google Threat Intelligence Group indicam que a evolução dos agentes de inteligência artificial poderá acelerar significativamente a automatização do cibercrime.
A equipa estima que, num horizonte de três meses, os atacantes consigam executar operações pouco sofisticadas através de vários agentes coordenados, exigindo pouca ou nenhuma participação humana.
Para os próximos seis meses, os investigadores antecipam o aparecimento de ataques mais complexos e totalmente autónomos.
Estas projecções não significam que todos os ataques informáticos passarão imediatamente a ser conduzidos por máquinas. No entanto, mostram que a inteligência artificial está a reduzir a quantidade de conhecimentos técnicos e de trabalho manual necessários para executar determinadas operações criminosas.
O principal desafio para as equipas de defesa será acompanhar uma ameaça capaz de pesquisar, adaptar-se e agir a uma velocidade muito superior à dos processos tradicionais de resposta. À medida que estas ferramentas se tornam mais acessíveis, a rapidez na identificação de vulnerabilidades, aplicação de actualizações e monitorização de actividades suspeitas poderá tornar-se ainda mais determinante para a segurança das organizações.





