Capacidades de ataques com IA seguirão fortalecendo o Cibercrime, alertam pesquisadores

Durante painel organizado pelo Instituto SANS no palco da RSA Conference, representantes da ala de pesquisa da universidade apontaram alguns dos grandes riscos que a tecnologia já oferece ao Ciberespaço e seus impactos negativos na sociedade civil, em empresas e no próprio poder público

Compartilhar:

Os pesquisadores do Instituto SANS retornaram ao palco da RSA Conference nessa semana para trazer novos insights a respeito das cinco maiores ameaças cibernéticas relatadas pelo meio acadêmico e formas eficientes de ampliar a proteção contra elas. Seguindo a mesma tendência da edição anterior, A Inteligência Artificial foi apontada como elemento de maior risco para a Cibersegurança, mas também como a melhor oportunidade de resposta a isso.

 

Neste ano, os especialistas do SANS apontaram como os usos maliciosos da IA já estão comprometendo o cenário de SI e como seguirão protagonistas no futuro. Na visão deles, a amplitude de atividades maliciosas podem impactar desde os indivíduos e a sociedade civil, até a integridade do próprio poder público e das grandes organizações privadas, que deve sofrer com cada vez mais crises de confiança no futuro.

 

“A ideia de confiança é a base central de todo regime democrático, mas se tornou um quesito raro e de difícil alcance no mundo digital atual. Isso também se dá no setor da Cibersegurança: Com os sistemas públicos ou privados se integrando, ataques cibernéticos fortalecidos pela IA fizeram os danos posteriores causas para crises de confiança em atividades governamentais e da iniciativa privada”, explica Terrence Williams, Líder de pesquisa em Engenharia de Segurança no instituto.

 

A Inteligência Artificial também se tornou ameaça à identidade digital dos indivíduos. Segundo o Diretor de Pesquisa do SANS, Johannes Ullrich, golpes movidos por deepfakes tem tornado ataques BEC mais eficientes e bem-sucedidos, colocando em risco a idoneidade de qualquer pessoa. Mesmo os métodos usuais e conhecidos, como CAPTCHA, já foram vencidos há muito tempo.

 

Esses recursos podem ser usados ainda para golpes direcionados a indivíduos de alto interesse para corporações, que passaram a ser alvos de campanhas falsas de phishing com deepfake ou mesmo ataques de extorsão via conteúdos na rede. O objetivo é criar embaraços na vida profissional ou pessoal do alvo para coagi-lo a se comportar de uma determinada forma, comprometendo a fidelidade do próprio profissional.

 

Por fim, o uso da tecnologia par fins maliciosos, especialmente envolvendo exploração de brechas de segurança, cresceu exponencialmente. Agora, o objetivo dos agentes hostis é aplicar a ferramenta em processos cada vez mais acelerados de exploração de vulnerabilidades, não apenas detectando as brechas, mas escrevendo por si mesma os scripts de exploração dessas brechas.

 

“Isso é o que temos pela frente: a descoberta de novos bugs e produção de roteiros de exploração deles com uma rapidez impressionante, weaponizando a capacidade de automação da Inteligência Artificial. Se você é um defensor, esse é a grande questão a ser respondida. Esse tipo de ameaça vem melhorando aos poucos, mas constantemente”, alerta o Líder de pesquisas em Operações Ofensivas no SANS, Stephen Sims.

 

IA e o novo normal

Durante o debate, os pesquisadores deixaram claro que essa evolução tecnológica da IA atingiu um patamar de novo normal na sociedade, de sorte que não se pode imaginar qualquer tentativa de reversão desse processo. Portanto, é necessário que todos os usuários da rede se comprometam com ações efetivas de controle desses maus usos em todos os níveis do Ciberespaço.

 

Nesse sentido, uma das recomendações é estabelecer novos conceitos de Identidade Online, criando uma jornada de identificação com múltiplos fatores, mais ou menos intrusivos na vida do usuário. Segundo Johannes Ullrich, devem ser estabelecidos duas barreiras de identificação, primeiro com meios de autenticação física do usuário, e depois com recursos criptografados.

 

“As pessoas também precisarão ser retreinadas a responder devidamente a extorsões, entendendo como reconhecê-las e denunciá-las. Infelizmente, no meio digital, perdemos os filtros normais de relacionamento, tornando-nos mais suscetíveis a golpes mesmo com menos validações das intenções do outro. Precisamos, portanto, atacar essa realidade”, sugeriu Heather Mahalik, Líder de pesquisas em Investigação Forense Digital no SANS.

 

E finalmente, os profissionais de Cyber terão a missão de orientar os usos da própria Inteligência artificial para automatizar seus processos de correção de vulnerabilidades, adicionando respostas rápidas para entender as brechas, coordenar esse entendimento com os patches disponíveis e usá-los para reformular a cadeia de atualizações, formando um loop de atualização automática.

Conteúdos Relacionados

Security Report | Destaques

“Apenas o cargo não faz um C-Level”, afirma Leonardo Muroya

Em entrevista à Security Report, um dos CISOs mais influentes do mercado de SI e, agora, CEO da Vultus Cybersecurity,...
Security Report | Destaques

Candidato à prefeitura de Cuiabá sofre ataque hacker nas redes sociais

Os perfis oficiais do deputado estadual Lúdio Cabral (PT) no Facebook e Instagram foram alvos de um acesso não autorizado,...
Security Report | Destaques

Poisoned AI: de heroína à aliada do cibercrime

A expansão da Inteligência Artificial trouxe avanços significativos, mas também novos riscos, como o envenenamento de dados. Executivos da Thales...
Security Report | Destaques

“Todo usuário pode ser um aliado da Cibersegurança”, diz executivo da Proofpoint

Brian Reed, Diretor de Estratégia de Segurança da Informação da empresa, enfatiza que o foco dos ciberataques está no fator...