Os entendidos em ficção científica acreditam que Inteligência Artificial é sobre encontrar padrões, aprendendo com os erros, dividindo problemas, e adaptando-se para conseguir objetivos específicos. Mas na verdade IA é uma série de ferramentas de lógica incríveis que permitem progressão metodológica no processamento de dados. Parece complexo, mas quando olhamos para seus componentes base torna-se fácil de entender.
Vastas quantidades de dados são processadas de maneiras específicas para encontrar progressivamente melhores modelos e respostas. Na prática, poderia encontrar a melhor rota para um local, combinando biometria com perfis de usuários, interpretando as linhas da estrada para manter um veículo na pista apropriada, processando dados de pesquisa para identificar marcadores para doenças ou detectando situações de volatilidade em mercados e na alteração de humor de pessoas para tomar decisões racionais apropriadas.
A real importância não está em como a IA pode encontrar padrões e soluções, mas sim o que o mundo pode fazer com essas capacidades. A IA desempenhará um papel crucial em uma nova onda de tecnologia que revolucionará o mundo.
Por muito tempo, os dados e informações gerados pelos computadores foram usados em grande parte para estarmos melhor informados e tomarmos decisões. As interfaces de saída dos computadores até alguns anos atrás foram principalmente a tela e a impressora. Componentes estáticos, sem inteligência. Não se confiava nos computadores para lidar com situações complexas e inesperadas.
A Inteligência Artificial já está em nosso dia a dia, mesmo que não nos demos conta. Hoje em dia temos aviões pilotados por computadores, mas ainda nos sentimos muito mais confortáveis se sabemos que tem um ser humano no cockpit. Os seres humanos, apesar de lentos em comparação com os computadores, falíveis em julgamento e propensos a imprevisibilidade no desempenho, ainda têm uma reputação confiável para manter as pessoas seguras e, quando necessário, adaptar-se às condições em mudança. Simplesmente somos melhores na supervisão crítica de situações incrivelmente complexas, ambíguas e imprevisíveis, especialmente quando interesses pessoais estão envolvidos. A IA pode desafiar esse mesmo conceito.
O uso e influência da IA poderá contribuir para um mundo mais seguro e racional ou poderá destruir nossa confiança na tecnologia. É uma forte promessa de mudança de nosso mundo, estendendo as funções de computação para um papel mais dominante, manipulando diretamente as atividades do mundo físico fazendo com que renunciemos a algum nível de controle para nossa própria segurança e de nossas famílias.
Com as capacidades da IA as máquinas passam a ter muito mais responsabilidade sobre nossas vidas. Tal poder, não vem só acompanhado de responsabilidade, mas também do risco de que alguns busquem manipular esse poder. Quando é criado valor, há atratividade para os atacante, e a Inteligência Artificial será um alvo muito desejável para aqueles que procuram o poder.
Imagine uma quantidade imensa de dispositivos inteligentes sequestrada por um hacker e incluídas em uma botnet. Isso daria um controle sem precedentes para o atacante. E isso não é uma hipótese, é real. Aconteceu em novembro de 2016 quando o código do malware MIRAI foi disponibilizado na internet e contaminou milhares de dispositivos de IoT como câmeras de vigilância e gravadores DVR. Mas e se fossem carros autônomos, equipamentos médicos implantados em pacientes ou controladores de usinas termoelétrica ou nucleares?
Os riscos são muitos e não podemos eliminá-los todos, mas podemos gerenciá-los, encontrando o equilíbrio para mitigar os riscos a um nível aceitável. Para isso podemos usar a própria IA, criando algoritmos que identifiquem ameaças (físicas e lógicas) e que reconfigure imediatamente os dispositivos para defender-se rapidamente, corrigindo vulnerabilidades antes que estas sejam exploradas e, assim, mitigando ataques cibernéticos complexos. A indústria de segurança da informação já está neste estágio de desenvolvimento e devemos esperar mais e mais IA aplicada aos dispositivos que estão sendo conectados em rede.
Mas este é somente o início de uma jornada. É o momento certo para começar a discutir como queremos arquitetar, integrar e estender a confiança às tecnologias inteligentes, antes que tenhamos resultados catastróficos. É hora de os líderes emergirem e estabelecerem as melhores práticas para um mundo cibernético seguro que se beneficie da IA. Os governos podem ser obrigados a intervir e regulamentar o uso, as proteções, a transparência e a supervisão dos sistemas de IA. Os organismos de normatização também provavelmente estarão envolvidos na definição de diretrizes e no estabelecimento de modelos arquitetônicos aceitáveis.
É preciso que a comunidade de cibersegurança comece a discutir os riscos e oportunidades que a Inteligência Artificial detém para o futuro. Ignorar essa discussão é criar uma Caixa de Pandora para os atacantes.
*José Matias Neto é diretor de suporte técnico da McAfee para América Latina
