Como se esconder do estado de vigilância da IA ​​com uma impressão colorida

Como se esconder do estado de vigilância da IA ​​com uma impressão colorida

A tecnologia de vídeo com tecnologia AI está se tornando onipresente, rastreando nossos rostos e corpos em lojas, escritórios e espaços públicos. Em alguns países, a tecnologia constitui uma nova e poderosa camada de policiamento e vigilância governamental.

Felizmente, como alguns pesquisadores da universidade belga KU Leuven  acabaram de mostrar , muitas vezes você pode se esconder de um sistema de vídeo de IA com o auxílio de uma simples impressão colorida.

Quem disse isso? Os pesquisadores mostraram que a imagem que eles projetaram pode esconder uma pessoa inteira de um sistema de visão computadorizada alimentado por IA. Eles demonstraram isso em um popular sistema de reconhecimento de objetos de código aberto chamado YoLo (v2) .

Esconder e procurar: o truque poderia permitir que os bandidos se escondessem das câmeras de segurança, ou oferecer aos dissidentes uma maneira de evitar o escrutínio do governo. "O que nosso trabalho prova é que é possível contornar os sistemas de vigilância de câmeras usando patches adversários", diz Wiebe Van Ranst, um dos autores.

Se perder: Van Ranst diz que não deve ser muito difícil adaptar a abordagem aos sistemas de vigilância de vídeo disponíveis no mercado. “No momento, também precisamos saber qual detector está em uso. O que gostaríamos de fazer no futuro é gerar um patch que funcione em vários detectores ao mesmo tempo ”, disse ele ao MIT Technology Review. “Se isso funcionar, há grandes chances de que o patch também funcione no detector que está em uso no sistema de vigilância.”

Tolo: O engano demonstrado pela equipe belga explora o que é conhecido como aprendizado de máquinas adversárias. A maioria da visão computacional depende do treinamento de uma rede neural (convolucional) para reconhecer coisas diferentes, alimentando-a com exemplos e aprimorando seus parâmetros até classificar os objetos corretamente. Ao alimentar exemplos em uma rede neural profunda treinada e monitorar a saída, é possível inferir quais tipos de imagens confundem ou enganam o sistema.

Olhos em todos os lugares: O trabalho é significativo porque a IA é cada vez mais encontrada em câmeras de vigilância e software comuns. Até está sendo usado para evitar a necessidade de uma fila de compra em algumas lojas experimentais, incluindo aquelas operadas pela Amazon . E na China, a tecnologia está emergindo como um novo e poderoso meio de capturar criminosos, bem como, mais perturbadoramente, rastrear certos grupos étnicos .