Le designer Simon Weckert a conçu une chemise camouflage colorée capable de passer inaperçue face aux systèmes de vidéosurveillance basés sur l’intelligence artificielle (IA).
Élaborée en réponse à un projet pilote visant à déployer une surveillance vidéo par IA au Kottbusser Tor de Berlin, qui débute ce mois-ci, cette chemise a été imaginée pour empêcher que son porteur soit reconnu comme une personne distincte.
Nommée Digital Camouflage, la chemise cherche à perturber le système de détection d’objets alimenté par l’IA en brouillant la façon dont le système identifie une personne.
« Les systèmes d’IA sont constitués de multiples couches et n’ont jamais réellement appris ce qu’est un humain – ils ont appris ce à quoi les humains ressemblent statistiquement dans des millions d’images d’entraînement », explique Weckert.
« Dans les premières couches, ce sont des contours, des contrastes et des gradients de texture; plus profond dans le réseau, ce sont des motifs qui ressemblent à des parties du corps: la silhouette tête-épaules, les proportions des membres par rapport au torse, la continuité de la ligne du corps contre l’arrière-plan », poursuit-il.
« Pour la machine, une « personne » est un paquet de statistiques visuelles – et c’est exactement là que se situe sa faiblesse. »
La chemise mêle des couleurs vives et des motifs afin de déstabiliser les systèmes IA et les empêcher de reconnaître ce qu’ils voient comme une personne.
« À la fois la couleur et le motif — et ni l’un ni l’autre pris séparément — c’est leur interaction, optimisée contre la machine plutôt que contre l’œil humain », a déclaré Weckert.
« Les transitions de couleur saturées déclenchent une forte activité dans les premières couches du réseau, tandis que les formes qui se chevauchent rompent la continuité de la silhouette du corps, si bien que le détecteur ne peut plus relier les parties entre elles pour former une seule figure », poursuit-il.
« Le motif crie essentiellement par-dessus le murmure statistique qui affirme ‘personne’. Pour un humain, il se lit comme un textile presque hypnotisant; pour le modèle IA, il ne signifie plus rien du tout. »
Weckert a développé le motif de cette chemise à l’aide de l’IA. Il a expérimenté différentes itérations à l’aide d’une version d’essai et d’erreur propre à l’IA, appelée boucle adversariale.
« Le motif a été élaboré au cours d’une boucle adversariale avec le système de détection lui-même : générer une candidate, la présenter au détecteur, mesurer à quel point il continue de repérer la personne avec confiance, ajuster, recommencer — jusqu’à ce que la confiance s’effondre », affirme Weckert.
« Cela était nécessaire car les angles morts d’une machine ne sont pas intuitifs pour les humains ; on ne peut pas concevoir une perception machine par l’œil, seule la machine peut dire ce qu’elle ne voit pas. Il y a une belle symétrie dans cela : la même catégorie d’IA qui observe le carré a aussi appris à la chemise comment se cacher. »
Weckert a testé la chemise avec Yolo, un système d’IA open-source pour la détection d’objets en temps réel.
Un autre vêtement passé au crible par Yolo était un tricot conçu pour protéger les données biométriques de son porteur sans qu’il soit nécessaire de dissimuler le visage.
La photographie est de Simon Weckert.
Le post « Simon Weckert crée une chemise Digital Camouflage pour échapper à la vidéosurveillance par IA » est paru en premier sur Dezeen.
