O Gartner Inc. anuncia suas principais previsões estratégicas para 2025 e os próximos anos, que exploram como a Inteligência Artificial Generativa (GenAI) está transformando áreas tradicionalmente vistas como exclusivas para a influência humana.
“É evidente que, onde quer que estejamos, não podemos evitar o impacto da Inteligência Artificial (IA)”, afirma Daryl Plummer, Vice-Presidente e Chefe de Pesquisa do Gartner. “A IA está evoluindo conforme avança o uso dessa tecnologia. Antes de chegarmos ao ponto em que os humanos não consigam mais acompanhar, precisamos abraçar o quanto a IA pode nos aprimorar”.
Até 2028, 25% das violações em empresas serão rastreadas até o abuso de agentes de IA, tanto por atores externos quanto internos mal-intencionados
Novas soluções de segurança e riscos serão necessárias à medida que os agentes de IA aumentam significativamente a superfície de ataque já invisível nas empresas. Esse aumento obrigará as empresas a protegerem seus negócios de atores externos habilidosos e de funcionários insatisfeitos que podem criar agentes de IA para realizar atividades nefastas.
“As empresas não podem esperar para implementar controles de mitigação contra ameaças de agentes de IA”, afirma Plummer. “É muito mais fácil incorporar mitigação de risco e segurança em produtos e software do que adicioná-los após uma violação.”
Até 2028, 40% dos CIOs exigirão que “Agentes Guardiões” estejam disponíveis para rastrear, supervisionar ou conter autonomamente as ações dos agentes de IA
O interesse das empresas por agentes de IA está crescendo, mas, à medida que um novo nível de inteligência é adicionado, novos agentes de GenAI estão prontos para se expandir rapidamente no planejamento estratégico dos líderes de produto.
Os “Agentes Guardiões” são baseados em noções de monitoramento de segurança, observabilidade, garantia de conformidade, ética, filtragem de dados, revisões de log e outros mecanismos dos agentes de IA. Até 2025, o número de lançamentos de produtos com múltiplos agentes aumentará de forma constante, com casos de uso mais complexos.
“No curto prazo, ataques relacionados à segurança de agentes de IA serão uma nova superfície de ameaça”, diz Plummer. “A implementação de barreiras de proteção, filtros de segurança, supervisão humana ou mesmo observabilidade de segurança não são suficientes para garantir o uso adequado e consistente de agentes.”
Até 2029, 10% dos Conselhos de Administração globais utilizarão orientação de IA para questionar decisões executivas que sejam essenciais para seus negócios
Insights gerados por IA terão impactos profundos na tomada de decisões executivas e capacitarão os membros dos Conselhos de Administração a contestarem as decisões dos executivos. Isso encerrará a era dos CEOs que agem por conta própria e cujas decisões não podem ser plenamente defendidas.
“Os insights impactantes da IA inicialmente parecerão um relatório minoritário que não reflete a opinião da maioria dos membros do Conselho”, destaca Plummer. “No entanto, à medida que os insights de IA se mostrarem eficazes, eles ganharão aceitação entre executivos que competem por dados de suporte à decisão para melhorar os resultados de negócios.”
Até 2026, 20% das empresas irão usar a IA para nivelar sua estrutura organizacional, eliminando mais da metade dos cargos atuais de gerência intermediária
As empresas que implementarem IA para eliminar trabalhadores humanos de gerência intermediária poderão capitalizar com a redução de custos de mão de obra a curto prazo e com a economia de benefícios em longo prazo. A implementação de IA também permitirá uma produtividade aprimorada e um aumento no alcance de controle ao automatizar e programar tarefas, relatórios e monitoramento de desempenho para a força de trabalho remanescente, permitindo que os gerentes restantes se concentrem em atividades mais estratégicas, escaláveis e de valor agregado para os negócios.
A implementação da IA apresentará desafios para as empresas, como a preocupação mais ampla da força de trabalho com a segurança no emprego, o sentimento de sobrecarga dos gerentes com o aumento de subordinados diretos e a resistência dos funcionários remanescentes a mudar ou adotar interações impulsionadas pela IA. Além disso, caminhos de mentoria e aprendizado podem ser interrompidos, e os trabalhadores juniores podem sofrer com a falta de oportunidades de desenvolvimento.