Principais falhas e um caso de sucesso em IA, nuvem e cadeias de suprimentos em 2025

Tipo principal do conteúdo: Cibersegurança

Nos últimos meses, uma série de ataques cibernéticos explorando ferramentas baseadas em inteligência artificial (IA) evidenciou vulnerabilidades técnicas em plataformas amplamente utilizadas por desenvolvedores e empresas. Pesquisadores demonstraram, por exemplo, como ataques de prompt injection podem manipular assistentes de IA, como o Duo do GitLab, para inserir códigos maliciosos em projetos legítimos, além de exfiltrar dados sensíveis de usuários. Outro caso relevante envolveu o Gemini CLI, ferramenta de linha de comando baseada em IA, que permitiu a execução remota de comandos destrutivos em máquinas de desenvolvedores.

A sofisticação dos ataques se estende ao uso de chatbots e modelos de linguagem para potencializar ações maliciosas. Em um incidente recente, indivíduos utilizaram IA para obter instruções detalhadas sobre como apagar logs de sistemas após a exclusão de bancos de dados, tentando dificultar a detecção de suas atividades. Em outra ocorrência, um funcionário foi induzido a executar uma versão comprometida de uma ferramenta de geração de imagens por IA, resultando em acesso não autorizado a sistemas corporativos.

Além dessas ameaças, vulnerabilidades em agentes de IA conectados a plataformas de comunicação e vendas, como o Salesloft Drift, permitiram que atacantes acessassem tokens de segurança e, a partir deles, invadissem contas de e-mail e sistemas de gerenciamento de clientes. Também foi registrado o vazamento de conteúdos privados de mais de 20 mil repositórios GitHub por meio do CoPilot, afetando empresas de grande porte e expondo informações sensíveis mesmo após tentativas de mitigação.

Esses incidentes ressaltam a importância de uma abordagem robusta de segurança digital para ferramentas baseadas em IA, destacando a necessidade de monitoramento contínuo, revisão de permissões e atualização constante dos mecanismos de defesa para mitigar riscos operacionais e proteger dados críticos em ambientes corporativos.