Até 2030, as tecnologias de agentes guardiões representarão pelo menos de 10 a 15% do mercado de IA agêntica, de acordo com o Gartner. De acordo com a pesquisa realizada com 147 CIOs e líderes em funções de TI, 24% dos entrevistados já haviam implementado alguns agentes de IA (menos de uma dúzia) e outros 4% haviam integrado mais de uma dúzia.
A mesma pergunta da pesquisa constatou que 50% dos entrevistados afirmaram estar pesquisando e experimentando a tecnologia, enquanto outros 17% disseram ainda não ter feito isso, mas que planejavam implementá-la até o final de 2026, no máximo. São necessários controles automatizados de confiança, risco e segurança para manter esses agentes alinhados e seguros, acelerando a necessidade e o surgimento dos agentes guardiões.
“A IA agêntica levará a resultados indesejados se não for controlada com as proteções certas”, afirmou Avivah Litan, vice-presidente analista. Segundo ela, os agentes guardiões equilibram a tomada de decisões em tempo real com o gerenciamento de riscos, utilizando uma combinação de recursos de IA e avaliações determinísticas.
A pesquisa ainda indicou que 52% dos agentes já implementados estão voltados para funções administrativas internas, como recursos humanos, contabilidade e TI. Outros 23% são usados em funções voltadas ao cliente. No entanto, os riscos aumentam à medida que a autonomia dos agentes se intensifica. A lista de ameaças inclui desde o sequestro de credenciais e envenenamento de dados até interações com fontes falsas ou maliciosas.
De acordo com o estudo, os agentes guardiões atuam em três frentes principais: como revisores, verificando a precisão dos resultados da IA; como monitores, rastreando o comportamento dos agentes; e como protetores, ajustando ou bloqueando ações automaticamente quando necessário. Essa arquitetura é vista como essencial para acompanhar a complexidade dos sistemas multiagentes, que, segundo a projeção, estarão presentes em 70% dos aplicativos de IA até 2028.
