A Check Point Research (CPR) usou o ChatGPT e o Codex da OpenAI para criar e-mails de phishing e códigos maliciosos, bem como uma cadeia de infecção completa capaz de atingir os computadores pessoais, a fim de alertar sobre os perigos potenciais que a nova tecnologia de IA pode ter no cenário de ameaças cibernéticas.
Ao usar o ChatGPT, a equipe da CPR conseguiu criar um e-mail de phishing com um documento Excel anexado contendo código malicioso capaz de baixar shells reversos (reverse shell). Os ataques de shell reverso aproveitam as vulnerabilidades do sistema de destino para iniciar uma sessão do programa shell e acessar o computador da vítima. A máquina da vítima abre uma sessão para um host e porta específicos, e a ideia é redirecionar as conexões de entrada e saída do shell do sistema de destino para que o atacante possa acessá-lo remotamente.
Etapas realizadas com o ChatGPT
1) Foi solicitado ao ChatGPT para se passar por uma empresa de hospedagem
2) Foi solicitado ao ChatGPT para repetir, produzindo um e-mail de phishing com anexo Excel malicioso
3) Foi solicitado ao ChatGPT para criar um código VBA malicioso em um documento do Excel
Codex da OpenAI
A equipe da Check Point Software também foi capaz de gerar código malicioso usando o Codex. Os pesquisadores da CPR fizeram perguntas ao Codex, incluindo:
• Execute o shell script reverso em uma máquina Windows e conecte-se a um endereço IP específico;
• Verifique se a URL é vulnerável à injeção de SQL fazendo login como administrador;
• Escreva um script python que execute uma varredura completa de portas em uma máquina de destino.
O código malicioso foi posteriormente gerado pelo Codex.
“O ChatGPT tem o potencial de alterar significativamente o cenário de ameaças cibernéticas. Agora, qualquer pessoa com recursos mínimos e conhecimento zero em código pode facilmente explorá-lo em detrimento de sua imaginação”, alerta Sergey Shykevich, gerente de Grupo de Inteligência de Ameaças na Check Point Software.
“É fácil gerar e-mails e códigos maliciosos. Os hackers também podem iterar em códigos maliciosos com ChatGPT e Codex. Para alertar o mercado, demonstramos como é fácil usar a combinação de ChatGPT e Codex para criar e-mails e códigos maliciosos. Eu acredito que essas tecnologias de IA representam mais um passo adiante na perigosa evolução de capacidades cibernéticas cada vez mais sofisticadas e eficazes. O mundo da segurança cibernética está mudando rapidamente e queremos enfatizar a importância de permanecer atento à medida que o ChatGPT e o Codex se tornam mais maduros, pois essa tecnologia nova e em desenvolvimento pode afetar o cenário de ameaças, tanto para o bem quanto para o mal”, conclui Shykevich.
