Assim como em outros setores de Tecnologia, o uso de agentes de Inteligência Artificial tem sido um grande divisor de águas na criptografia e desenvolvimento de códigos nos ambientes digitais, impactando tanto a escala de criação quanto as potenciais vulnerabilidades expostas por essa tecnologia. Com isso, nunca foi tão essencial quanto agora que os usuários dessa ferramenta se apropriem dela para ampliar sua capacidade de defesa.
De acordo com especialistas participantes do Cryptographers Panel, na RSA Confrerence, o grande impacto desse setor no último ano foi a IA Agêntica. Já se percebia como essa tecnologia estava para se tornar o futuro da tecnologia e da programação desde 2024, porém a sua chegada e os efeitos desse processo na realidade tornaram 25 o ano dos Agentes de IA, acelerando a produtividade e o desenvolvimento do meio digital.
“Desnecessário dizer, entretanto, o quanto que isso impactou o cenário atual de risco aos códigos que usamos nesse momento. Considerando todos os casos de uso dos agentes, hoje podemos utilizá-los, em especial, para detectar vulnerabilidades nas nossas linhas com extrema eficiência e escala, especialmente em contextos open source”, explica a Professora de Ciência da Computação da Universidade de Harvard, Cynthia Dwork.
Aliado a isso, a capacidade das LLMs atuais de personalizar ataques às redes de código permite que agentes cibercriminosos mirem diretamente nas brechas de maior impacto dentro desses ambientes. Ainda é possível utilizar dados críticos por meio desses caminhos para alimentar operações de chantagem contra os indivíduos de companhias e organizações públicas.
“A proliferação dos agentes é uma das questões a mais se dar atenção na Cibersegurança. O mais preocupante está na necessidade de dar amplo acesso a esses bots – incluindo arquivos, comunicações, agendas – de forma a torná-lo realmente útil para nós. Isso torna uma gama enorme de informações sujeitas a catástrofes ao menor sinal de alucinação dessa agência”, alerta Adi Shamir, Professor de Ciência da Computação no Instituto Weizmann, em Israel.
Ainda na visão dos pesquisadores, idealmente, desenvolver culturas de Security by design nos processos de desenvolvimento de códigos seria um passo essencial para evitar a exposição desses riscos. Todavia, será preciso ir além disso para garantir alguma Segurança, visto que a maioria das linhas hoje são criadas por IA, abrindo espaço para que antigas vulnerabilidades sejam mantidas e exploradas com o tempo.
Devido a isso, a demanda pela revisão humana do que estiver sendo desenvolvido se tornará mais crítico para o sucesso do negócio. Para a Professora e Diretora do Berkeley Center for Responsible Decentralized Intelligence, Dawn Song, unir a capacidade de escala da IA com o olhar crítico dos desenvolvedores permitirá uma resposta mais ampla de correção de vulnerabilidades por meio de implementações de protocolos criptográficos.
“Por ser uma ferramenta, a Inteligência Artificial pode ser usada de forma nociva ou para reforçar a ação de Segurança dos devs. Nesse sentido, é importante que a estratégia de Segurança se aproprie dessa ferramenta para torná-la o primeiro olhar da criação, permitindo que os agentes humanos possam garantir a integridade total daquele ambiente. O trabalho conjunto entre IA e pessoas é crucial para nos colocarmos à frente do cibercrime”, aponta.
Assim, o futuro da IA na Criptografia será definido pelos defensores, “porque ela pode simular os ataques dos invasores antes que aconteçam. O ponto crucial aqui é que, ao contrário do que acontece atualmente, essa ferramenta está igualmente disponível tanto para invasores quanto para defensores. Os defensores podem conhecer uma grande variedade de ataques e, em seguida, corrigi-los e repará-los”, conclui o Honorary Fellow da Gonville and Caius College, Whitfield Diffie.
