A inteligência artificial já integra a rotina de profissionais e empresas para pesquisar informações, produzir textos, desenvolver códigos e apoiar decisões. À medida que essas ferramentas ganham espaço, porém, surge uma nova preocupação de segurança: a possibilidade de suas respostas e recomendações serem influenciadas por instruções ocultas, sem o conhecimento do usuário.
A Check Point Research (CPR), divisão de inteligência de ameaças da Check Point Software, identificou um exemplo dessa prática ao analisar o Haiou, pacote gratuito desenvolvido para contornar proteções de segurança do OpenAI Codex, ferramenta de IA voltada à programação. Os pesquisadores descobriram que o pacote também modificava instruções internas do agente para que saudações simples, como “oi” ou “olá”, acionassem anúncios de um serviço de IA de terceiros.
A CPR denominou esse comportamento de “adware de prompt” (prompt adware). Diferentemente do adware tradicional, que usa códigos de software para exibir publicidade, essa técnica altera instruções em linguagem natural que orientam o comportamento da ferramenta, fazendo o agente apresentar conteúdos promocionais ou recomendações influenciadas por terceiros sem que a origem da interferência seja percebida.
Embora o caso envolva um agente de programação e o anúncio não tenha sido ligado a atividade maliciosa, a descoberta traz um alerta mais amplo: se instruções podem ser modificadas para promover determinado serviço, mecanismos semelhantes também poderiam ser usados para direcionar usuários a fornecedores específicos ou alterar orientações técnicas.
Para usuários comuns, o maior desafio é que esse tipo de interferência não provoca mudanças evidentes no funcionamento da ferramenta, pois o agente segue respondendo às solicitações normalmente. Entre os sinais que merecem atenção estão recomendações recorrentes de um mesmo serviço sem justificativa clara, conteúdos promocionais fora de contexto e alterações inesperadas nas respostas.
A descoberta reforça que as ferramentas de IA não são influenciadas apenas pelo modelo utilizado, mas também por instruções adicionais, configurações e recursos desenvolvidos por terceiros. No caso do Haiou, a alteração ocorreu por meio de instruções persistentes, e não pela instalação de um programa malicioso convencional, o que torna a identificação menos intuitiva para quem não tem conhecimento técnico.
“Conforme a inteligência artificial passa a fazer parte das atividades cotidianas, os usuários precisam entender que as respostas e recomendações desses sistemas podem ser influenciadas por instruções que nem sempre são visíveis. Isso exige uma postura mais criteriosa, como verificar recomendações, ter atenção a comportamentos inesperados e evitar a instalação de recursos adicionais sem conhecer sua procedência”, ressalta Pedro Drimel Neto, líder da Equipe de Combate ao Cibercrime da CPR no Brasil.
No ambiente corporativo, o avanço dessas ferramentas exige maior conscientização dos funcionários, que precisam compreender que nem toda instrução ou recomendação apresentada pela IA é automaticamente confiável. No uso cotidiano, os profissionais devem avaliar com senso crítico sugestões não solicitadas de produtos ou fornecedores e observar respostas repetitivas ou promocionais sem relação com o pedido original.
Além disso, os colaboradores devem evitar instalar extensões, Skills ou configurações adicionais sem verificar sua procedência e autorização da empresa, respeitar as políticas internas sobre o compartilhamento de dados confidenciais e comunicar imediatamente às equipes de tecnologia e segurança sempre que uma ferramenta apresentar comportamentos suspeitos.
Para as organizações, o alerta envolve ampliar a governança para além da avaliação do modelo ou do fornecedor de IA, considerando também os recursos complementares que interagem com esses sistemas. A CPR destaca que prompts, Skills e arquivos de configuração precisam integrar as auditorias de segurança, pois determinam como um agente se comporta, o que recomenda e como interage com sistemas corporativos.
Outro ponto crítico é o acesso a dados confidenciais, já que instruções manipuladas poderiam induzir agentes a executar ações prejudiciais ou expor informações sensíveis. Embora a CPR não tenha observado roubo de dados corporativos no caso do Haiou, o risco reside no potencial de exploração desse mecanismo por atacantes.
A investigação identificou o pacote em um servidor associado a um agente de ameaças cibernéticas não identificado, ao lado de ferramentas de segurança ofensiva e testes de penetração, indicando que técnicas ligadas a jailbreaks de IA já estão no radar do cibercrime. Estudos acadêmicos independentes também apontam que outros gateways de LLM podem interceptar dados, expor chaves de nuvem e inserir chamadas de ferramentas, reforçando a necessidade de monitorar serviços intermediários.
“Para as empresas, proteger o uso da inteligência artificial significa ir além da avaliação dos modelos e fornecedores. É necessário acompanhar também os componentes, as instruções e as configurações que influenciam o comportamento dos agentes, além de orientar os funcionários sobre o uso seguro dessas ferramentas. A confiança na IA precisa ser acompanhada de governança e visibilidade”, explica Drimel.
Historicamente, o cibercrime acompanha a evolução tecnológica das empresas, como ocorreu na migração para a nuvem, e a Check Point Research espera um movimento semelhante com a expansão dos agentes de IA. Nesse cenário, as organizações precisam ampliar a visibilidade sobre ferramentas em uso, componentes de terceiros e informações acessadas por esses sistemas.
Entre as medidas recomendadas estão definir critérios para aprovar ferramentas e recursos complementares, monitorar alterações nas instruções e configurações dos agentes, orientar equipes sobre práticas seguras e revisar níveis de acesso. O caso Haiou mostra que a confiança nos resultados de um agente exige atenção não apenas à sua capacidade de resposta, mas também ao que pode estar influenciando seu comportamento.
