Se por um lado os superataques em massa são cada vez mais presentes à medida que também crescem o volume de informações de diversos dispositivos, por outro a intervenção humana para mitigar o universo cybercriminoso sai de cena e dá lugar para a automação inteligente da segurança por meio da Inteligência Artificial. Paralelamente, um novo ator assume o palco: a ética. O aprendizado das máquinas com técnicas cognitivas cresce à medida que as instituições obtêm mais dados sobre os clientes. Mas como fica o cenário diante das legislações e regras nacionais e internacionais, como a LGPD e a GDPR? Imagine se o usuário de um produto ou serviço não queira mais fornecer os seus dados, o que fazer para o machine learning desaprender?
Essa foi a temática do painel “O Papel da Inteligência Artificial na segurança e na ética dos serviços financeiros” realizado durante o CIAB 2019, quando reuniu Laerte Albuquerque, presidente da CISCO Brasil; Gustavo Fosse, CIO do Banco do Brasil; e Nuno Sebastião, CEO da Feedzai; mediado por Jorge Krug, CIO do Banco do Estado do Rio Grande do Sul.
Fato que a migração para o universo digital é um movimento global. Daqui alguns anos serão 50 bilhões de devices conectados, enquanto atualmente apenas 1% das coisas está conectada no planeta. As estimativas são de que nos próximos cinco anos o tráfego de dados irá superar o volume de 35 anos de história da internet. Portanto, a realidade hiperconectada é exponencial.
“Esse cenário desencadeia o crescimento de ataques, como quando uma cidade aumenta a sua população e gera violência. Até hoje, os esforços foram para proteger, identificar e reagir contra ocorrências e fraudes. Hoje, o que acontece de pior é a luta contra o desconhecido. Não sabemos mais quais portas que temos que fechar. Qual a engenharia logística e método que estão criando para que essas fraudes aconteçam? Essa luta do desconhecido é o grande desafio, quais soluções usaremos para identificá-los”, analisa Albuquerque.
Diante disso, o presidente da CISCO Brasil acredita que a IA fará parte do processo de buscar soluções para driblar essas ameaças. “Até hoje nos acostumamos às vulnerabilidades da infraestrutura, ao meu endpoint, mas atualmente o alvo é o usuário. Portanto, não basta apenas fechar a porta da infraestrutura e sem a IA é praticamente impossível. No entanto, quem vai gerenciar é um humano e quem vai fazer o que com os dados é uma questão de ética”.
Gustavo Fosse, CIO do Banco do Brasil, concorda com Albuquerque quando se trata de um cenário hiperconectado num futuro muito próximo. Para ele, a preocupação deve ser como as instituições financeiras garantirão a segurança, como ofertar produtos para esse cliente digital com novas soluções e até onde será possível usar os dados dele para criar um pacote de ofertas que o satisfaça ao mesmo tempo em que ele esteja seguro.
“O cliente quem ditará a segurança. Por exemplo, se ele quiser estar seguro 100%, o banco saberá a sua geolocalização, poderá analisar abertamente as suas transações em redes abertas e fechadas, entre outros aspectos. Caso contrário, a segurança dele irá até certo ponto, não com a mesma profundidade se ele autorizasse o uso de todas as suas informações, o que permite uma oferta com melhores taxas e serviços. Portanto, a ética está até onde eu posso ir de acordo com o que o cliente quer”, explica.
Para Nuno Sebastião, CEO da Feedzai , não faz mais sentido oferecer serviços que não são instantâneas e fáceis. “Para suportar a segurança, fizemos com IA um machine learning e a aprendizagem automática entra e como vivemos de forma localizada. Aqui a questão da ética de aprendizagem automática é importante porque treinamos os modelos de IA com os pré-processos que temos que geram risco e balanceiam a operação”.
Albuquerque atenta para um detalhe da cultura brasileira. Para ele, no Brasil, até a palavra transparência causa confusão. “O que é transparente? Seria deixar claro o que estamos fazendo. É incrível como o ser humano gosta de se entregar para a IA. Daqui a pouco nem estamos pensando que isso vai transformar todo mundo, mas quem consegue sair de casa sem conectar o Wase? Sem perceber, nos entregamos a alguém. No caso da LGPD, GDPR e outras leis de proteção de dados são relevantes para saber onde estão os dados e a ética para saber qual a transparência”.
“O fato é que hoje, as novas gerações e até os consumidores em geral não estão preocupados com o que as empresas farão com os seus dados. Eles querem bons serviços. O que não pode acontecer é você dar a ele a autoridade para definir o que é seguro e como deve usar a segurança, mas conscientizá-lo”, aponta Sebastião.
Segurança inteligente
Parafraseando com o filme “2001: Uma Odisseia no Espaço” Jorge Krug, CIO do Banco do Estado do Rio Grande do Sul, faz uma provocação: “a base de tudo é o dado e aí questiono: do ponto de vista de dados algoritmos no que se aplica à ética, é possível defini-la para que seja processada por uma máquina?”
Fosse acredita que IA estará em todas as aplicações, sejam de segurança a coisas. Do ponto de vista de segurança, antigamente a tecnologia era aplicada em modelos preditivos e agora ela está na automação. “Com o uso da IA, a máquina estará o tempo todo aprendendo. Um belo dia, o cliente não quer mais que a instituição use seus dados. Como faço com esse aprendizado? Essa transparência também deve ser definida. Isso não está escrito nem experimentado em lugar algum”.
“Por outro lado, continua Fosse, a segurança precisa preservar os dados. Nesse sentido, acredito que a ética será programada. Quando estou defendendo dentro da área de segurança não estou defendendo a instituição de um ataque, mas o cliente de um ataque. Tenho pessoas que trabalharão programando IA sem ética. Isso deve estar na missão da empresa e na transparência tenho a preocupação de como fazer a máquina desaprender porque o cliente não quer mais fornecer seus dados? Para isso, hoje não tenho resposta”, vislumbra Fosse quando pensa no futuro.
“Cada vez mais as instituições (empresas e Estados) devem estar unidas. Por que sofremos tanto com roubo de dados ou acesso indevido? Porque as organizações criminosas são espetacularmente organizadas e elas sabem acessar o dado pela deep web de forma incrível”, conclui Albuquerque quando avalia ser a interoperabilidade entre os ecossistemas de valor ser a solução para a ética na segurança dos dados.
O Congresso Security Leaders, que será realizado em São Paulo nos dias 29 e 30, vai debater amplamente esse tema. As inscrições estão abertas.
