Os cibercriminosos estão se estruturando para explorar uma nova fronteira de vulnerabilidades voltadas à inteligência artificial. É o que revela pesquisa da Proofpoint, que identificou aumento nas discussões e na comercialização de ferramentas voltadas a explorar aplicações e agentes impulsionados por IA por meio da Injeção Indireta de Prompt (IDPI).
Fóruns clandestinos já anunciam kits de ataque com assinaturas a partir de US$ 150 por mês. Embora a exploração em larga escala ainda não tenha sido registrada, os indícios mostram que atores maliciosos estão desenvolvendo, testando e refinando capacidades para futuras campanhas contra ambientes corporativos que adotam IA generativa e sistemas agênticos.
A técnica de IDPI consiste em inserir instruções ocultas em conteúdos aparentemente legítimos processados por modelos de linguagem. Ao interpretar esses dados, as aplicações podem executar comandos inesperados. Os criminosos anunciam ferramentas capazes de embutir esses comandos em e-mails, arquivos PDF, convites de calendário e páginas web que alimentam sistemas automatizados.
Entre os exemplos identificados estão a ocultação de comandos em textos invisíveis em e-mails, instruções maliciosas em PDFs e manipulação de convites de calendário processados por agentes antes de qualquer interação humana. Os pesquisadores também observaram experiências com malvertising, inserindo prompts em anúncios digitais e elementos ociladores de páginas web.
A análise destaca que essas técnicas deixaram o campo teórico: a existência de ferramentas comerciais demonstra que o ecossistema criminoso já trata a IA como vetor real de exploração. O cenário atual oferece uma oportunidade para que as organizações fortaleçam defesas e ajustem o monitoramento antes da expansão iminente dessas ameaças nos próximos meses.
“Embora a maioria das discussões sobre injeção de prompts tenha sido impulsionada por pesquisas e cenários hipotéticos, estamos observando atividade real e crescente em ambientes clandestinos. Isso indica que os defensores não devem se tornar complacentes enquanto aguardam que essas ameaças se materializem em maior escala”, destaca a pesquisa da Proofpoint.
