2025 segue como um ano de grande tendência IA no universo da Cibersegurança, tanto para o bem quanto para o mal. Na visão do Cyber Security Director da Cisco, Ghassan Dreibi, um dos desafios gerados pela disseminação dessa tecnologia é a possibilidade de comprometer a sua própria eficiência ao criar vieses e influências nocivas ao seu bom funcionamento.
O executivo explica que a Inteligência de máquina gera impactos visíveis nas atividades cibercriminosas, seja no uso da ferramenta para operar ataques mais sofisticados ou transformando-a em fonte de exposição de dados internos. Todavia, essa prática de desvirtuar as decisões da IA é capaz de gerar impactos ainda sem precedentes, por meio de ações bem mais sutis que um ciberataque.
“A IA se tornou parte da superfície de ataque de uma organização, especialmente porque ela está mais arraigada na estrutura de dados interna. Assim, é possível gerar uma situação tendenciosa apenas estressando a capacidade da máquina de responder a uma solicitação. Como podemos responder a uma tentativa deinfluência por métodos que usem pouca tecnologia e muita ação humana?” questiona Dreibi, em entrevista à Security Report.
Para o executivo, não existe mais cenário em que os usuários corporativos deixem de utilizar recursos de IA, seja considerando modelos disponíveis na rede ou estruturas estabelecidas pela própria empresa. Portanto, os setores internos de tecnologia, em especial os times de Segurança, precisarão criar formas de gerenciar aplicações adequadas dessa ferramenta.
Dreibi cita como primeiro passo apurar quais tem sido as formas de uso mais recorrentes dos colaboradores, e como esses usos estão se interligando com as operações do negócio. Isso permitirá aos times de Cyber e TI, de forma coordenada, formar guardrails que restrinjam as interações que possam comprometer o comportamento da Inteligência Artificial.
“Essa estratégia auxilia na resolução de problemas vindos dos próprios modelos de Inteligência Artificial, garantido que fundamentos de Security by Design sejam efetivamente postos em prática. Agora, para garantir que essa estrutura continue trilhando o caminho desejado, é necessário monitorar esse uso constantemente, para detectar possíveis tentativas de impacto nas respostas”.
Papel da Cyber com a IA
A estratégia relatada pelo Cyber Security Director exige que a Segurança Digital assuma uma postura diferente diante dessa tecnologia emergente, de forma a estreitar as relações com os times de tecnologia e se tornar um habilitador dessa inovação. Para Dreibi, isso deve ser acompanhado pela aplicação de uma nova hierarquia para o CISO e seu time, que lhe garanta autonomia para exercer esse papel de forma independente.
“O time de segurança se tornou um time de inteligência, de compliance e de regras, o que é ideal para esse momento de AI. Por isso, o time de segurança da informação precisa ser parte ativa de uma estrutura que reporta diretamente ao negócio, permitindo que conversas mais francas sejam feitas entre as partes”, conclui.
