80% dos líderes corporativos se preocupam com segurança de dados na IA Generativa

Executivos admitem ausência de uma estrutura de governança; apenas 10% se sentem preparados para compliance regulatório

Compartilhar:

Em um estudo recente, constatou-se que organizações norte-americanas demonstram entusiasmo com o potencial da IA generativa para aumentar a produtividade dos negócios e das pessoas. Mas, por trás do aumento do entusiasmo, os líderes veem lacunas de compreensão, falta de planejamento estratégico e escassez de talentos como obstáculos à percepção e mensuração do valor total da tecnologia.

 

O estudo, conduzido no início deste ano pela Coleman Parkes Research Ltd. e patrocinado pelo SAS, consultou 300 executivos norte-americanos responsáveis pela estratégia de GenAI ou análises de dados para verificar as principais áreas de investimento e os obstáculos enfrentados pelas organizações.

 

A Coleman Parkes também entrevistou líderes fora dos EUA para esse estudo. Os resultados globais estarão disponíveis no final de 2024. Saiba mais no Sumário Executivo da versão dos EUA, Generative AI Challenges and Potential Unveiled: How to Achieve a Competitive Advantage (Revelados os desafios e o potencial da IA generativa: Como obter vantagem competitiva).

 

“As empresas têm percebido que os grandes modelos de linguagem (LLMs) por si só não resolvem os desafios dos negócios”, afirma Marinela Profi, consultora estratégica de IA do SAS. “A GenAI precisa ser vista como uma forma ideal de colaborar para a hiperautomação e a otimização dos processos e sistemas existentes, e não como o novo brinquedo para que empresas realizem suas aspirações comerciais. O tempo gasto no desenvolvimento de uma estratégia progressiva e o investimento na tecnologia que oferece integração, governança e explicabilidade dos LLMs são etapas cruciais para todas as organizações antes de se arriscarem e acabarem ‘presas’”.

 

As organizações enfrentam obstáculos em quatro importantes áreas de implementação: Aumentar a confiança no uso dos dados e garantir compliance; Integrar a GenAI a sistemas e processos existentes; Talento e competências em falta para GenAI interna; e Previsão de gastos.

 

Apenas uma em dez organizações conta com um sistema confiável para avaliar o viés e o risco de privacidade em LLMs. Além disso, 93% das empresas dos EUA não têm uma estrutura de governança abrangente para a GenAI, e a maioria enfrenta o risco de não conformidade com as regulamentações.

 

As organizações demonstram problemas de compatibilidade ao tentar combinar a GenAI com seus sistemas atuais. Como as áreas de RH se deparam com uma escassez de contratações satisfatórias, os líderes organizacionais se preocupam com o fato de não terem acesso às competências necessárias para extrair o máximo do investimento em GenAI.

 

Os líderes citaram custos diretos e indiretos excessivos associados ao uso de LLMs. Desenvolvedores de modelos passam uma estimativa de custo simbólica (que agora as organizações percebem que são altos). Mas os custos de preparação de conhecimento privado, treinamento e gestão de ModelOps são extensos e complexos.

 

Profi continua: “Tudo se resumirá à identificação de casos de uso no mundo real que ofereçam o maior valor e resolvam demandas humanas de forma sustentável e escalonável. O estudo dá continuidade ao nosso compromisso de ajudar organizações a se manterem relevantes, a investirem seus recursos com sabedoria e a se manterem resilientes. Em uma era em que a tecnologia de IA evolui quase diariamente, a vantagem competitiva é altamente dependente da capacidade de adotar regras de resiliência”.

Destaques

Colunas & Blogs

Conteúdos Relacionados

Security Report | Overview

Ministério da Ciência e Tecnologia anuncia novo Centro de Competência em SI

Conhecimentos gerados nos Centros vão apontar novos caminhos para atender aos desafios futuros impostos ao setor industrial. Iniciativa receberá investimento...
Security Report | Overview

71% dos brasileiros não reconhecem uso de deepfake em vídeos

Segundo estudo apresentado pela Kaspersky, o dado mostra o nível de sofisticação que as ferramentas do tipo atingiram, representando um...
Security Report | Overview

Comunicação com business e palnejamento ainda são desafios dos CISOs?

De acordo com dados do Gartner, os investimentos em Cibersegurança devem crescer exponencialmente no próximo ano, movidos por um cenário...
Security Report | Overview

Mais de 253 mil senhas foram disponibilizadas na deep e na dark web no primeiro trimestre

Estudo feito pelo SafeLabs para o Dia Mundial da Senha revela que os dados que deveriam ser sigilosos continuam à...