Como a inteligência adversarial está reforçando a segurança da IA

Introdução

A luta entre atacantes e defensores no mundo digital pode ser comparada ao clássico jogo de gato e rato, como em desenhos animados. Assim como Tom tenta capturar Jerry, os times de cibersegurança enfrentam o desafio contínuo de evitar hackers persistentes. Nesta batalha, pesquisadores do MIT estão desenvolvendo uma abordagem de inteligência artificial conhecida como ‘inteligência adversarial artificial’, que simula atacantes para testar defesas de rede antes que ataques reais ocorram.

O papel da inteligência adversarial artificial

De acordo com Una-May O’Reilly, investigadora principal do Laboratório de Ciência da Computação e Inteligência Artificial do MIT, a inteligência adversarial artificial pode replicar o comportamento de atacantes humanos. Os atacantes cibernéticos existem em um espectro de competência, desde ‘script-kiddies’ até grupos altamente sofisticados, às vezes apoiados por Estados, que lançam ameaças persistentes avançadas (APTs). Esses atacantes utilizam ferramentas técnicas para invadir códigos e aprender com cada passo, ajustando seus ataques de acordo.

O objetivo da pesquisa é replicar essa inteligência ofensiva usando IA e aprendizado de máquina para modelar o comportamento adversarial de atacantes humanos. Ao mesmo tempo, a equipe de O’Reilly desenvolve IA para apoiar as diversas frentes de defesa, criando sistemas de detecção, processamento de logs e resposta a incidentes.

Aplicações no dia a dia

Em nosso cotidiano, a inteligência adversarial artificial é aplicada em várias formas para garantir a cibersegurança. Desde detectores que filtram ameaças reconhecíveis até sistemas de triagem habilitados por IA, essas ferramentas ajudam a proteger dispositivos e redes. A equipe de O’Reilly desenvolve atacantes cibernéticos habilitados por IA que imitam ações de atores de ameaça, ajudando a testar a robustez das defesas de rede.

Adaptando-se a novos riscos

Com o constante lançamento de novos softwares e configurações de sistemas, surgem novas vulnerabilidades que os atacantes podem explorar. Exemplos incluem fraquezas já documentadas ou inéditas, como o ransomware. A proteção de infraestruturas críticas, como redes de telecomunicações e sistemas de saúde, é uma prioridade, e esforços estão sendo feitos para automatizar defesas através de produtos e serviços baseados em IA.