80% dos líderes corporativos se preocupam com segurança de dados na IA Generativa

Executivos admitem ausência de uma estrutura de governança; apenas 10% se sentem preparados para compliance regulatório

Compartilhar:

Em um estudo recente, constatou-se que organizações norte-americanas demonstram entusiasmo com o potencial da IA generativa para aumentar a produtividade dos negócios e das pessoas. Mas, por trás do aumento do entusiasmo, os líderes veem lacunas de compreensão, falta de planejamento estratégico e escassez de talentos como obstáculos à percepção e mensuração do valor total da tecnologia.

 

O estudo, conduzido no início deste ano pela Coleman Parkes Research Ltd. e patrocinado pelo SAS, consultou 300 executivos norte-americanos responsáveis pela estratégia de GenAI ou análises de dados para verificar as principais áreas de investimento e os obstáculos enfrentados pelas organizações.

 

A Coleman Parkes também entrevistou líderes fora dos EUA para esse estudo. Os resultados globais estarão disponíveis no final de 2024. Saiba mais no Sumário Executivo da versão dos EUA, Generative AI Challenges and Potential Unveiled: How to Achieve a Competitive Advantage (Revelados os desafios e o potencial da IA generativa: Como obter vantagem competitiva).

 

“As empresas têm percebido que os grandes modelos de linguagem (LLMs) por si só não resolvem os desafios dos negócios”, afirma Marinela Profi, consultora estratégica de IA do SAS. “A GenAI precisa ser vista como uma forma ideal de colaborar para a hiperautomação e a otimização dos processos e sistemas existentes, e não como o novo brinquedo para que empresas realizem suas aspirações comerciais. O tempo gasto no desenvolvimento de uma estratégia progressiva e o investimento na tecnologia que oferece integração, governança e explicabilidade dos LLMs são etapas cruciais para todas as organizações antes de se arriscarem e acabarem ‘presas’”.

 

As organizações enfrentam obstáculos em quatro importantes áreas de implementação: Aumentar a confiança no uso dos dados e garantir compliance; Integrar a GenAI a sistemas e processos existentes; Talento e competências em falta para GenAI interna; e Previsão de gastos.

 

Apenas uma em dez organizações conta com um sistema confiável para avaliar o viés e o risco de privacidade em LLMs. Além disso, 93% das empresas dos EUA não têm uma estrutura de governança abrangente para a GenAI, e a maioria enfrenta o risco de não conformidade com as regulamentações.

 

As organizações demonstram problemas de compatibilidade ao tentar combinar a GenAI com seus sistemas atuais. Como as áreas de RH se deparam com uma escassez de contratações satisfatórias, os líderes organizacionais se preocupam com o fato de não terem acesso às competências necessárias para extrair o máximo do investimento em GenAI.

 

Os líderes citaram custos diretos e indiretos excessivos associados ao uso de LLMs. Desenvolvedores de modelos passam uma estimativa de custo simbólica (que agora as organizações percebem que são altos). Mas os custos de preparação de conhecimento privado, treinamento e gestão de ModelOps são extensos e complexos.

 

Profi continua: “Tudo se resumirá à identificação de casos de uso no mundo real que ofereçam o maior valor e resolvam demandas humanas de forma sustentável e escalonável. O estudo dá continuidade ao nosso compromisso de ajudar organizações a se manterem relevantes, a investirem seus recursos com sabedoria e a se manterem resilientes. Em uma era em que a tecnologia de IA evolui quase diariamente, a vantagem competitiva é altamente dependente da capacidade de adotar regras de resiliência”.

Conteúdos Relacionados

Security Report | Overview

Cibercrime ameaça mais de meio milhão de Smart TVs globalmente, alerta estudo

ISH Tecnologia explica como expansão dos dispositivos IoT abriu porta de entrada silenciosa para golpes – expectativa é que número...
Security Report | Overview

PMEs extrapolam seus budgets de SI em 50% para se recuperar de ciberataques

Relatório da Kaspersky revela que essas organizações investiram cerca de US$ 300 mil para remediar incidentes
Security Report | Overview

Novas brechas críticas são encontradas em Chrome, Google Ads e provedoras de TI

Em relatório recente, a Redbelt Security também alertou sobre uma campanha de ataque cibernético chamada Operação 99, na qual hackers...
Security Report | Overview

Deepfake com marcas de empresas aumentaram 335% no segundo semestre de 2024

Relatório da ESET contempla ataques globais entre junho e novembro e ainda destaca o avanço do ransomware e o roubo...