[bsa_pro_ad_space id=3 delay=8]

DarkGPTs: Cibercriminosos buscam IAs maliciosas para automatizar processos

De acordo com pesquisa da Zscaler, uso de Inteligência Artificial Generativa sem guard rails de Segurança tem aumentado entre os agentes hostis no ciberespaço. Para o CSO da companhia, os líderes de Cyber Security não podem perder mais tempo em dar atenção adequada a essa tecnologia

Compartilhar:

Especialistas em IA e Cibersegurança da Zscaler apontaram em estudo publicado recentemente o alto crescimento de Linguagens Generativas maliciosas à venda para uso de hackers na Dark Web. A análise identifica que o crescimento sem precedentes de ferramentas de IA já está entre os cibercriminosos, e demonstra cada vez mais capacidade de cooperar com campanhas de phishing e disseminação de novos malwares pelo Ciberespaço.

 

Um dos grandes perigos dessa nova realidade, segundo o CSO da Zscaler, Deepen Desai, é a capacidade de lançar mão de ataques direcionados e em larga escala contra diversos adversários diferentes. Por meio de soluções como WormGPT e FraudGPT, é possível aproveitar contextos específicos nas companhias miradas para criar esquemas de engenharia social mais convincentes e eficientes.

 

“Não estamos mais falando de campanhas genéricas de e-mails phishing que podem se encaixar em qualquer situação dos indivíduos. Agora, essas tecnologias usam informações vazadas na Dark Web para alimentar conhecimento malicioso e direcionar ataques específicos para alvos de grande valor, passando-se por executivos ou diretores empresariais para convencer a vítima de forma mais efetiva”, disse Desai em entrevista à Security Report.

 

O Executivo reforça que, diferentemente das linguagens públicas do ChatGPT — a inspiração para esse tipo de ferramenta maliciosa — a ideia principal dos “darkGPTs” é não possuírem guard rails para inibir usos ruins. Por isso, eles podem ser usados para escrever moldes de e-mails phishing, traçar códigos de malwares ou mesmo lançar esses formatos de ataque.

 

Além disso, esses mecanismos poderão ser usados para reconhecimento dos ambientes mirados pelos cibercriminosos, em busca de vulnerabilidades zero day capazes de expor a organização. Esse passo tem potencial de simplificar muito o trabalho das gangues de ransomware para que estas foquem nas campanhas de ataque. “Se o cibercrime ainda não aplicou esses usos, ele certamente fará em breve”, acrescentou o executivo.

 

IA contra IA

Na visão de Desai, as descobertas do estudo da Zscaler fundamentaram a necessidade de se transformar a maneira como a tecnologia generativa é encarada, especialmente do ponto de vista da Segurança. Agora, essas soluções se tornaram essenciais ao core business das organizações, portanto também se tornaram alvos para o cibercrime alimentado pela IA.

 

Assim, a nova fronteira do CISO será acompanhar o mesmo ritmo de atuação do negócio e do cibercrime com o uso da IA Generativa na Cibersegurança. Logo, A maior atenção sobre esse tema incentivará novas práticas uso seguro da IA nas corporações, incentivará os Líderes de Segurança a se prepararem para usar e proteger essas ferramentas.

 

Desai aponta que a SI deve atuar em três frentes principais: orientar uma aplicação segura da IA Generativa nas demandas de negócio, protegendo os dados; gerenciar os cuidados internos sobre LLMs privadas contra invasões que mirem especialmente essas ferramentas; e por fim, aplicar novas defesas alimentadas pela IA para lutar contra as ameaças no ciberespaço, equilibrando a luta através do uso defensivo da tecnologia emergente.

 

“Em resumo, os CISOs devem priorizar uso de proteções e melhores práticas baseadas em Inteligência Artificial para terem condições de enfrentar ameaças igualmente centradas na IA. Eu me considero um otimista por natureza, então penso que o futuro será bastante promissor, desde que atuemos com cautela sobre a forma de aplicarmos a tecnologia no nosso cotidiano de trabalho”, encerrou Desai.

 

Conteúdos Relacionados

Security Report | Destaques

Instituição cooperada do Sicoob sofre ataque hacker

A informação começou a circular nesta segunda-feira, após uma série de posts na rede social X acusarem o suposto vazamento...
Security Report | Destaques

Apostar em diversidade é uma resposta para o gap de talentos em Cyber?

A AWS organizou, durante os painéis do re:Inforce 2024, um painel de debates com nove líderes mulheres de Cibersegurança ativas...
Security Report | Destaques

ALLOS eleva maturidade em Segurança Cibernética com jornada tecnológica

Em parceria com a NetSecurity, a administradora de shoppings conseguiu integrar e automatizar processos, proporcionando uma resposta eficaz a incidentes...
Security Report | Destaques

Eneva aposta em assessment para construir uma infraestrutura de segurança resiliente

Em parceria com a Cisco, a empresa decidiu priorizar uma abordagem personalizada para construir uma infraestrutura sólida e robusta. Case...