[bsa_pro_ad_space id=3 delay=8]

IA está repleta de oportunidades, mas também traz riscos à cibersegurança

CPR alerta sobre cibercriminosos que podem usar o ChatGPT e o Codex da OpenAI para criar e-mails e códigos maliciosos capazes de serem utilizados em campanhas de phishing

Compartilhar:

A Check Point Research (CPR) usou o ChatGPT e o Codex da OpenAI para criar e-mails de phishing e códigos maliciosos, bem como uma cadeia de infecção completa capaz de atingir os computadores pessoais, a fim de alertar sobre os perigos potenciais que a nova tecnologia de IA pode ter no cenário de ameaças cibernéticas.

 

Ao usar o ChatGPT, a equipe da CPR conseguiu criar um e-mail de phishing com um documento Excel anexado contendo código malicioso capaz de baixar shells reversos (reverse shell). Os ataques de shell reverso aproveitam as vulnerabilidades do sistema de destino para iniciar uma sessão do programa shell e acessar o computador da vítima. A máquina da vítima abre uma sessão para um host e porta específicos, e a ideia é redirecionar as conexões de entrada e saída do shell do sistema de destino para que o atacante possa acessá-lo remotamente.

 

Etapas realizadas com o ChatGPT

 

1) Foi solicitado ao ChatGPT para se passar por uma empresa de hospedagem

2) Foi solicitado ao ChatGPT para repetir, produzindo um e-mail de phishing com anexo Excel malicioso

3) Foi solicitado ao ChatGPT para criar um código VBA malicioso em um documento do Excel

 

Codex da OpenAI

 

A equipe da Check Point Software também foi capaz de gerar código malicioso usando o Codex. Os pesquisadores da CPR fizeram perguntas ao Codex, incluindo:

 

• Execute o shell script reverso em uma máquina Windows e conecte-se a um endereço IP específico;

• Verifique se a URL é vulnerável à injeção de SQL fazendo login como administrador;

• Escreva um script python que execute uma varredura completa de portas em uma máquina de destino.

 

O código malicioso foi posteriormente gerado pelo Codex.

 

“O ChatGPT tem o potencial de alterar significativamente o cenário de ameaças cibernéticas. Agora, qualquer pessoa com recursos mínimos e conhecimento zero em código pode facilmente explorá-lo em detrimento de sua imaginação”, alerta Sergey Shykevich, gerente de Grupo de Inteligência de Ameaças na Check Point Software.

 

“É fácil gerar e-mails e códigos maliciosos. Os hackers também podem iterar em códigos maliciosos com ChatGPT e Codex. Para alertar o mercado, demonstramos como é fácil usar a combinação de ChatGPT e Codex para criar e-mails e códigos maliciosos. Eu acredito que essas tecnologias de IA representam mais um passo adiante na perigosa evolução de capacidades cibernéticas cada vez mais sofisticadas e eficazes. O mundo da segurança cibernética está mudando rapidamente e queremos enfatizar a importância de permanecer atento à medida que o ChatGPT e o Codex se tornam mais maduros, pois essa tecnologia nova e em desenvolvimento pode afetar o cenário de ameaças, tanto para o bem quanto para o mal”, conclui Shykevich.

Conteúdos Relacionados

Security Report | Overview

ANPD é formalizada como coordenadora do Sistema Nacional de Inteligência Artificial

Como órgão de coordenação do SIA, a ANPD receberá novas atribuições. Caberá à Autarquia representar o Brasil perante organismos internacionais,...
Security Report | Overview

Nova ameaça do AllaSenha no Brasil faz setor financeiro entrar em alerta

Novo método de ataque, baseado em infecção de scripts Python e uso de plataforma Azure como Comando e Controle tem...
Security Report | Overview

95% das empresas têm problemas de segurança nas APIs, apura novo relatório

Relatório Salt Security State of API destaca ecossistemas de API em rápido crescimento, o aumento da atividade de ataques e...
Security Report | Overview

Laboratório de threat intel detecta roubo de credenciais em quase 800 empresas globais

O grupo Sophos X-Ops, focado em pesquisas no cenário cibercriminoso internacional, detectou uma nova campanha de comprometimento de credenciais válidas...