Capacidades de ataques com IA seguirão fortalecendo o Cibercrime, alertam pesquisadores

Durante painel organizado pelo Instituto SANS no palco da RSA Conference, representantes da ala de pesquisa da universidade apontaram alguns dos grandes riscos que a tecnologia já oferece ao Ciberespaço e seus impactos negativos na sociedade civil, em empresas e no próprio poder público

Compartilhar:

Os pesquisadores do Instituto SANS retornaram ao palco da RSA Conference nessa semana para trazer novos insights a respeito das cinco maiores ameaças cibernéticas relatadas pelo meio acadêmico e formas eficientes de ampliar a proteção contra elas. Seguindo a mesma tendência da edição anterior, A Inteligência Artificial foi apontada como elemento de maior risco para a Cibersegurança, mas também como a melhor oportunidade de resposta a isso.

 

Neste ano, os especialistas do SANS apontaram como os usos maliciosos da IA já estão comprometendo o cenário de SI e como seguirão protagonistas no futuro. Na visão deles, a amplitude de atividades maliciosas podem impactar desde os indivíduos e a sociedade civil, até a integridade do próprio poder público e das grandes organizações privadas, que deve sofrer com cada vez mais crises de confiança no futuro.

 

“A ideia de confiança é a base central de todo regime democrático, mas se tornou um quesito raro e de difícil alcance no mundo digital atual. Isso também se dá no setor da Cibersegurança: Com os sistemas públicos ou privados se integrando, ataques cibernéticos fortalecidos pela IA fizeram os danos posteriores causas para crises de confiança em atividades governamentais e da iniciativa privada”, explica Terrence Williams, Líder de pesquisa em Engenharia de Segurança no instituto.

 

A Inteligência Artificial também se tornou ameaça à identidade digital dos indivíduos. Segundo o Diretor de Pesquisa do SANS, Johannes Ullrich, golpes movidos por deepfakes tem tornado ataques BEC mais eficientes e bem-sucedidos, colocando em risco a idoneidade de qualquer pessoa. Mesmo os métodos usuais e conhecidos, como CAPTCHA, já foram vencidos há muito tempo.

 

Esses recursos podem ser usados ainda para golpes direcionados a indivíduos de alto interesse para corporações, que passaram a ser alvos de campanhas falsas de phishing com deepfake ou mesmo ataques de extorsão via conteúdos na rede. O objetivo é criar embaraços na vida profissional ou pessoal do alvo para coagi-lo a se comportar de uma determinada forma, comprometendo a fidelidade do próprio profissional.

 

Por fim, o uso da tecnologia par fins maliciosos, especialmente envolvendo exploração de brechas de segurança, cresceu exponencialmente. Agora, o objetivo dos agentes hostis é aplicar a ferramenta em processos cada vez mais acelerados de exploração de vulnerabilidades, não apenas detectando as brechas, mas escrevendo por si mesma os scripts de exploração dessas brechas.

 

“Isso é o que temos pela frente: a descoberta de novos bugs e produção de roteiros de exploração deles com uma rapidez impressionante, weaponizando a capacidade de automação da Inteligência Artificial. Se você é um defensor, esse é a grande questão a ser respondida. Esse tipo de ameaça vem melhorando aos poucos, mas constantemente”, alerta o Líder de pesquisas em Operações Ofensivas no SANS, Stephen Sims.

 

IA e o novo normal

Durante o debate, os pesquisadores deixaram claro que essa evolução tecnológica da IA atingiu um patamar de novo normal na sociedade, de sorte que não se pode imaginar qualquer tentativa de reversão desse processo. Portanto, é necessário que todos os usuários da rede se comprometam com ações efetivas de controle desses maus usos em todos os níveis do Ciberespaço.

 

Nesse sentido, uma das recomendações é estabelecer novos conceitos de Identidade Online, criando uma jornada de identificação com múltiplos fatores, mais ou menos intrusivos na vida do usuário. Segundo Johannes Ullrich, devem ser estabelecidos duas barreiras de identificação, primeiro com meios de autenticação física do usuário, e depois com recursos criptografados.

 

“As pessoas também precisarão ser retreinadas a responder devidamente a extorsões, entendendo como reconhecê-las e denunciá-las. Infelizmente, no meio digital, perdemos os filtros normais de relacionamento, tornando-nos mais suscetíveis a golpes mesmo com menos validações das intenções do outro. Precisamos, portanto, atacar essa realidade”, sugeriu Heather Mahalik, Líder de pesquisas em Investigação Forense Digital no SANS.

 

E finalmente, os profissionais de Cyber terão a missão de orientar os usos da própria Inteligência artificial para automatizar seus processos de correção de vulnerabilidades, adicionando respostas rápidas para entender as brechas, coordenar esse entendimento com os patches disponíveis e usá-los para reformular a cadeia de atualizações, formando um loop de atualização automática.

Destaques

Colunas & Blogs

Conteúdos Relacionados

Security Report | Destaques

Roubo de contas em sites de apostas será prato cheio para o Cibercrime, alerta relatório

De acordo com dados coletados pela LexisNexis Risk Solutions, o crescimento das casas de apostas online podem fazer aumentar a...
Security Report | Destaques

Hackers utilizam WhatsApp para roubar números de telefone, aponta pesquisa

A ESET explica como é o roubo de contas, como configurar a autenticação em duas etapas para se proteger e...
Security Report | Destaques

RSA na visão dos CISOs: Líderes analisam papel da SI e chegada de novas tecnologias

Com presença expressiva de CISOs brasileiros, a RSA Conference trouxe tendências de posicionamento da categoria, bem como as novas estratégias...
Security Report | Destaques

Ypê aposta em tecnologia para automatizar privacidade dos usuários

Empresa contou com a parceria da NovaRed e garantiu uma redução significativa de tempo gasto nas respostas em requerimentos da...