O fator humano e as suas ameaças seguem como desafios críticos a serem enfrentados pelos times de Segurança em 2025, e agora, com a chegada das novas tendências movidas pelos agentes de IA, as mesmas estratégias aplicadas para a proteção de pessoas terão que ser transferidas para as máquinas. Esse é o fundamento que a Proofpoint trouxe ao abrir hoje (23) a edição do Proofpoint Protect de 2025 em Nashville, Tennessee.
Conforme explicou o CEO da companhia, Sumit Dhawan, a aplicação dos agentes de Inteligência Artificial rotineiramente no trabalho levou as equipes de Cyber a perceberem que essas ferramentas estão sujeitas aos mesmos riscos que as próprias pessoas: Ambos utilizam credenciais que podem ser perdidas, podem expor dados indevidamente ou mesmo utilizá-los de maneira incorreta.
Essa percepção foi transmitida à mais recente edição da pesquisa Voice of the CISO, organizada anualmente pela empresa. Dessa vez, foi descoberto que 86% dos Líderes de SI no Brasil apontam como risco principal a possibilidade de um ataque cibernético impulsionado por IA. Mesmo assim, a aplicação da ferramenta como parte crucial das atividades corporativas é uma prioridade para 63% desses profissionais.
“Estamos em um amplo processo de interconexões entre pessoas e agentes de IA em busca das melhores maneiras de fortalecer as atividades corporativas. Nesse sentido, a IA é designada a fazer aquilo que os humanos também fazem, exigindo que o mercado mapeie novamente todos os riscos e vulnerabilidades que essa tecnologia pode gerar e, assim, ampliar os conceitos de proteção das pessoas e aplicá-lo à própria IA”, acrescentou Dhawan.
Diante desse novo contexto, o executivo aponta quatro pilares essenciais à segurança para conhecer melhores meios de proteger os agentes da mesma forma que as pessoas, colocando esses dois conceitos em pé de igualdade. Assim, é necessário que as empresas conheçam cada tipo de dado interno e como ambos interagem com eles. Depois disso, é preciso monitorar e proteger o uso equivocado desses dados pelas duas partes.
Para isso, a estratégia sugerida pela companhia envolve construir uma visão convergente e uniformizada de todas as categorias de informações mantidas dentro da estrutura, garantido que haja visibilidade sobre esses registros e amplo monitoramento sobre quais são os usuários capacitados para acessá-los. Em seguida, é preciso estabelecer regras de transmissão das informações, para impedir usos incorretos, alucinações, poisoning, entre outros.
“Um programa eficiente de Segurança de dados demanda saber onde essas informações estão e estabelecer controle do que é feito com elas. Neste momento em que os agentes de IA assumem o protagonismo dentro das companhias, é necessário garantir que eles tenham acesso ao tipo certo de informação para cumprir seu trabalho sem as expor a qualquer vazamento em potencial” afirma Erin Leonard, Senior Director de Data Security na Proofpoint.
Cooperação Humano x Agente
Indo além da proteção da IA Agêntica, os executivos da Proofpoint apontaram como sendo crucial para a Segurança Cibernética do futuro o cuidado sobre as interconexões entre as pessoas e suas ferramentas de IA Agêntica. Nesse sentido, as empresas deverão monitorar não apenas as interações entre esses dois elementos, mas também permitir que a tecnologia potencialize as capacidades de trabalho dos humanos.
Conforme explica o Vice-Presidente sênior de Engenharia da Proofpoint, Nate Chessin, a troca de dados entre as duas partes deve contar com um amplo processo de monitoramento, permitindo que cada um deles possa atuar da forma correta com cada aspecto desses registros. Através dessa estruturação, a proposta passa a ser multiplicar os usos possíveis dessa tecnologia com vistas a simplificar a geração de valor interna.
“Hoje é bastante claro que o cenário de ameaças cresceu devido à exploração do relacionamento de confiança entre IA e pessoas. Nesse sentido, os agentes se tornaram parte da última linha de defesa assim como os humanos, e isso exige que tenhamos amplo controle das conexões entre esses dois grupos. Essa estratégia nos permite proteger as informações trocadas entre eles sem impedir o crescimento dessa parceria”, conclui Chessin.
*Matheus Bracco viajou para Nashville a convite da Proofpoint
