O Gartner identifica pontos cegos críticos decorrentes de riscos negligenciados e consequências indesejadas da adoção da Inteligência Artificial Generativa (GenAI). Segundo a pesquisa, os CIOs devem endereçar proativamente esses desafios ocultos para garantir a geração de valor da GenAI e evitar falhas em projetos de IA.
Embora as organizações frequentemente se concentrem em desafios imediatos da GenAI, como valor para os negócios, segurança e prontidão de dados, elas podem ignorar pontos cegos críticos, pois esses são efeitos de segunda ou terceira ordem que muitas vezes não são visíveis inicialmente. Riscos como shadow AI, dívida técnica, erosão de habilidades, demandas de soberania de dados, problemas de interoperabilidade e dependência de fornecedores representam riscos ocultos que podem prejudicar o sucesso a longo prazo.
“As tecnologias e técnicas de GenAI estão evoluindo a um ritmo sem precedentes, acompanhado apenas pelo hype que as cerca, o que torna desafiador para os CIOs navegar nesse cenário dinâmico”, diz Arun Chandrasekaran, Vice-Presidente Analista Emérito do Gartner.
O Gartner prevê que, até 2030, esses pontos cegos criarão uma linha divisória entre as empresas que escalam o uso da Inteligência Artificial (IA) de forma segura e estratégica e aquelas que ficam presas, ultrapassadas ou desestabilizadas internamente. Para se manterem competitivos e resilientes, os CIOs devem enfrentar os desafios visíveis e os riscos ocultos associados à adoção da GenAI e priorizar a resolução dos seguintes pontos cegos:
A pesquisa revelou que 69% das organizações suspeitam ou têm evidências de que seus funcionários estão usando GenAI pública proibida. A rápida adoção de ferramentas de IA não autorizadas pode levar a impactos visíveis e invisíveis, como perda de propriedade intelectual, exposição de dados e aumento dos riscos de segurança. O Gartner prevê que, até 2030, mais de 40% das organizações sofrerão incidentes de segurança ou conformidade relacionados com shadow AI não autorizada.
“Para endereçar esses riscos, os CIOs devem definir políticas claras para o uso de ferramentas de IA em toda a empresa, realizar auditorias regulares para atividades de shadow AI e incorporar a avaliação de riscos da GenAI em seus processos de avaliação de Software como Serviço (SaaS)”, diz Chandrasekaran.
O Gartner prevê que, até 2030, 50% das organizações enfrentarão atrasos nas atualizações de IA e/ou aumento dos custos de manutenção devido à dívida técnica não gerenciada da GenAI. “As empresas estão entusiasmadas com a velocidade de entrega da GenAI. No entanto, o custo punitivamente alto de manter, corrigir ou substituir artefatos gerados por IA, como código, conteúdo e design, pode corroer o retorno sobre o investimento prometido pela GenAI”, diz Chandrasekaran. “Ao estabelecer padrões claros para revisar e documentar ativos gerados por IA e rastrear métricas de dívida técnica em painéis de TI, as empresas podem tomar medidas proativas para evitar interrupções dispendiosas.”
