Combater o mau uso da Inteligência Artificial foi uma das grandes tarefas do Líder de SI em 2024. E esse combate só é possível quando se usa a própria IA. Essa foi a grande conclusão do painel de debates online transmitido pela TVSecurity, uma realização do Security Leaders em parceria com a Aplidigital, a Nec Brasil e a Skyhigh Security.
Para Fábio Martins, Diretor de Sistemas do Tribunal de Justiça da Bahia, o grande desafio envolvendo a tecnologia está no modo desordenado que ela está sendo aplicada, desenvolvida e utilizada pelas empresas e pessoas. “Sem uma jornada de criação que privilegie a segurança, abre-se a possibilidade de envenenar a eficiência da IA por meio de dados ruins”, explica o executivo, durante a discussão.
Para responder a esse risco, a Supervisora de IA e Cybersecurity da Embratur, Jackeline Almeida, recomenda aplicar medidas integradas de Machine Learning e Operações de tecnologia, de forma a monitorar o desempenho da Inteligência Artificial e estabelecer políticas de uso correto da tecnologia. “IAs podem se degradar e ter sua efetividade comprometida se não forem reavaliadas com frequência”, constata Jackeline.
“A melhor forma de manter essa gestão é evoluir sua governança de IA desde já, a partir do nível em que a empresa está no momento”, disse Daniel Aragão, Head de Cyber Security Business Line da NEC Brasil, ao concordar com Jackeline. “Não vamos conseguir responder a todas as complexidades da IA ao mesmo tempo, então o mais recomendável é descobrir o que é possível fazer de mais prático e efetivo para a realidade do negócio.
O Painel de Debates Online, mediado pela Diretora Executiva do Security Leaders, Graça Sermoud, também contou com a participação de Gualter Barros, Sales Engineer da Skyhigh Security, que corroborou com os colegas com a afirmação de que se combate o mau uso da IA com a própria IA. O painel está disponível abaixo e trouxe outros insights sobre dados envenenados, deepfakes e proteção contra essa nova face das ameaças.
