Durante a conferência hacker Defcon, um pesquisador demonstrou como um padrão visual peculiar conseguiu burlar as câmeras de inteligência artificial. Agora, o criador dessa técnica está aplicando essas estampas em camisetas e casacos, embora a eficácia no uso real do dia a dia ainda seja uma grande incógnita.

No palco do evento, o especialista em segurança cibernética Bill Swearingen, fundador do grupo SecKC, serviu como cobaia para um sistema de detecção de pessoas. Inicialmente, o software indicava com mais de 75% de certeza que havia um ser humano na tela. Contudo, assim que ele levantou uma placa contendo um padrão abstrato em preto e branco, o índice de confiança despencou para apenas 21%.

Em questão de segundos, o sistema exibiu a mensagem: "Nenhuma pessoa detectada". Foi como um truque de mágica tecnológico. Embora Swearingen estivesse perfeitamente visível para a plateia, a matemática da IA já não conseguia reconhecê-lo como humano.

O Projeto noRecognition

Há mais de um ano, Swearingen dedica-se ao projeto "noRecognition", buscando padrões que possam confundir os sistemas de visão computacional utilizados em vigilância. A meta final é produzir roupas que dificultem a detecção por algoritmos de IA. Apesar de fascinante, a pesquisa ainda está em desenvolvimento.

Geralmente, agrupamos tudo sob o termo "reconhecimento facial", mas a vigilância baseada em IA ocorre em camadas. Primeiro, um detector verifica se há um corpo humano. Depois, localiza e recorta o rosto e, por fim, compara essa face com um banco de dados de identidades. O alvo da demonstração de Swearingen foi justamente a primeira etapa: se a câmera não entender que há uma pessoa ali, todo o processo subsequente é interrompido.

Como os Padrões são Criados

Os desenhos não são feitos à mão. O pesquisador criou um programa de "fuzzing" — técnica comum na segurança da informação para bombardear softwares com dados inesperados a fim de encontrar falhas. O sistema gera milhares de estampas, aplica-as digitalmente em pessoas virtuais e testa os resultados em diversos modelos de IA.

Se uma imagem reduz drasticamente o nível de confiança da IA, ela é separada e cruzada com outros padrões de sucesso, como se fosse um processo de seleção natural. Até junho, o projeto já havia rodado mais de 31,7 milhões de testes automáticos.

Desses testes, mais de meio milhão causaram anomalias, mas apenas 85 foram classificados como "extremos", sendo capazes de derrotar tanto os detectores de corpo quanto os de rosto em um único teste.

Os Desafios do Mundo Real

Apesar dos números empolgantes, o próprio pesquisador admite que os resultados variam absurdamente. Um padrão que enganou as câmeras em testes com um pequeno grupo de pessoas falhou completamente quando aplicado a indivíduos não testados previamente. Além disso, o que funciona em um sistema de vigilância específico pode ser inútil em outro.

Existe ainda a questão da validade. Assim como brechas de segurança de software ("zero-days") são corrigidas com atualizações, as empresas de vigilância podem simplesmente retreinar suas IAs para reconhecer e ignorar esses padrões.

Mas o maior obstáculo, sem dúvida, é a aplicação prática. Durante a Defcon, a estampa estava em uma placa rígida. Tecidos reais dobram, amassam e se movem. Condições como iluminação, sombras e distância afetam a captura da imagem. Até que um padrão comprove sua eficácia impresso em uma camisa vestida por alguém em movimento, a roupa anti-IA continua sendo apenas uma promessa fascinante.