Google alerta para uso do Gemini AI por hackers em diversas fases de ataques

Cibercriminosos utilizam IA Gemini do Google para aprimorar ataques digitais

Grupos avançados de ameaças persistentes (APTs) apoiados por Estados, oriundos da China, Irã, Coreia do Norte e Rússia, têm explorado o modelo de inteligência artificial Gemini, do Google, para potencializar todas as etapas de ataques cibernéticos. Segundo relatório do Google Threat Intelligence Group (GTIG), o Gemini tem sido empregado desde o reconhecimento inicial até ações pós-comprometimento, incluindo criação de iscas de phishing, análise de vulnerabilidades, geração de código e automação de testes de segurança.

Os agentes chineses, por exemplo, utilizaram o Gemini para automatizar análises de vulnerabilidades, simular cenários de ataque envolvendo execução remota de código (RCE) e técnicas de evasão de firewall (WAF), além de testar injeções de SQL em alvos específicos. Já o grupo iraniano APT42 recorreu ao modelo para acelerar o desenvolvimento de ferramentas maliciosas personalizadas, aproveitando recursos de depuração, geração de código e pesquisa de técnicas de exploração.

Além disso, ferramentas como o kit de phishing CoinBait e o malware HonestCue demonstram a integração de IA generativa em suas arquiteturas. O HonestCue, por exemplo, utiliza a API do Gemini para criar código C# para cargas maliciosas de segunda etapa, compilando e executando os payloads diretamente na memória. O CoinBait, por sua vez, apresenta evidências de desenvolvimento assistido por IA, como logs específicos que auxiliam na identificação de processos de exfiltração de dados.

O relatório também destaca tentativas de extração e destilação do modelo Gemini, nas quais agentes maliciosos utilizam acesso autorizado à API para replicar a lógica do modelo e acelerar o desenvolvimento de IAs concorrentes, representando um risco significativo à propriedade intelectual e ao modelo de negócios de IA como serviço. Em resposta, o Google implementou medidas de defesa nos classificadores do Gemini e desativou contas e infraestruturas associadas a abusos, reforçando a necessidade de segurança robusta em sistemas baseados em IA.