Alors que la vidéosurveillance algorithmique fait débat en France, des petits malins de Harvard ont utilisé les lunettes-caméra Ray-Ban de Meta pour faire de la reconnaissance faciale, et recevoir en direct les infos persos des passants dans la rue. Est-il bien raisonnable de donner la vue aux algos ?
Légende photo : VU !__ Le prochain very bad buzz est attribué aux lunettes connectées Ray-Ban x Meta (ci-contre). Des binocles augmentées tellement bien fichues qu’un quidam peut s’en servir pour vous retrouver IRL à l’aide de la reconnaissance faciale. Souriez, vous êtes stalkés.
« Sommes-nous prêts pour un monde où nos données sont exposées en un coup d’œil ? », se demande cet étudiant de Harvard, en légende d’une vidéo où il détourne les Ray-Ban augmentées de Meta – des Wayfarer de l’enfer équipées de caméras discrètes – pour faire de la reconnaissance faciale dans la rue. Quelques jours de taf et une appli IA dispo en ligne ont suffi à transformer ces lunettes Meta à 200 euros en matériel d’espion, qui détecte les visages en temps réel, ratisse Internet en quête d’infos persos, et envoie le tout quelques secondes après sur le téléphone de notre petit malin (nom, adresse, numéro, noms des proches, métier, etc.). Dans sa vidéo, il aborde un inconnu dans le métro, « Vous êtes monsieur Duchmol non ? C’est bien vous qui travaillez sur… » Et l’homme de lui tendre la main, tout sourire, ne se doutant pas qu’il vient juste de se faire scanner la tronche par une paire de binocles connectée. Pas cool.
« On avait eu un avant-goût avec les Google Glass, mais ils s’étaient totalement plantés sur le design qui faisait flipper tout le monde », explique l’ancien hacker activiste et prof à Sciences Po Fabrice Epelboin. « Meta a été plus intelligent, ils sont allés voir Ray-Ban pour évacuer le problème du design, avec un objet familier. La Wayfarer c’est la lunette des rockeurs des années 1950, c’est totalement inoffensif dans l’esprit des gens. » Il fallait bien Ray Ban pour dédiaboliser par le cool une technologie de surveillance intrusive. L’enjeu en demi-teinte ? Donner la vision aux algorithmes des GAFAM qui nous observent et nous analysent déjà sur les réseaux sociaux, pour qu’ils aient littéralement vue sur nos vies IRL. Bordel, non !
MARIO IS WATCHING YOU
Et si ! Fin septembre 2024, alors que Meta annonçait des nouvelles fonctionnalités pour ses Wayfarer connectées, Mark « Big Brother » Zuckerberg confirmait que Meta exploitait bien les images et vidéos issues des lunettes pour entraîner leur IA. Mais au-delà de ça, on imagine mal qu’ils ne s’en servent pas aussi plus largement, notamment pour faire du profilage façon Insta. « Ils ne vont pas passer à côté d’une opportunité pareille (rires) » estime notre expert. Et le Zuck n’est pas le seul à utiliser du cool pour nous vendre des technos de surveillance. Après le jeu Pokemon Go créé par des anciens de la NSA, ayant transformé des millions de téléphones en caméras ambulantes, Nintendo vient de sortir un réveil « intelligent », tout mignon, qui vous réveille avec la musique de Mario… et qui enregistre vos mouvements nocturnes grâce à des « capteurs », analyse vos habitudes de sommeil, sait quand vous vous levez, etc. Qui aurait pensé que Big Brother aurait le visage de Mario…
« On est en plein dans le capitalisme de surveillance, l’art et la manière de transformer vos données perso en valeur, typiquement pour faire du ciblage pub », explique notre expert. Mais il y a des technologies de surveillance qui ne s’achètent pas, elles nous sont imposées. Si Zuckerberg espère vendre des millions de lunettes caméra pour donner la vue à ses algos, dans l’autre sens des pays ayant déjà des centaines de milliers de caméras veulent leur donner un « cerveau » algorithmique, les rendre « intelligentes ». C’est le cas en France, où on a expérimenté la vidéosurveillance algorithmique (VSA) durant les JO, un système alimenté à l’IA qui analyse les caméras de la ville en temps réel, et qui repère les comportements « suspects », que le gouvernement Barnier veut généraliser, et qui interdit la reconnaissance faciale. Sauf que d’après notre expert, tout ça est déjà en place depuis près de dix ans. Pardon ?
VILLES INTELLIGENTES
« C’est un grand classique des technos de surveillance, on les déploient de façon illégale, et ensuite on légalise. Comme avec la surveillance de masse de Sarkozy en 2007, mais légalisée en 2017. Là ils ont profité des JO pour simuler une expérimentation et ensuite dire, “ça marche bien, donc on va le pérenniser”. Mais en réalité c’est déployé dans plus de 200 villes depuis 2015. » Notre expert s’appuie sur une enquête du média Disclose qui révélait en 2023 l’utilisation secrète par la police française du logiciel de VSA israëlien Briefcam, depuis 2015 – dix ans, donc. Et, selon l’enquête, l’outil de reconnaissance faciale du logiciel a bien été utilisé. Mais alors, si on a déjà les deux pieds dedans, qu’est-ce qui nous attend, doc’ ?
« Le endgame de tout ça, c’est l’anticipation, la police prédictive. Sur les réseaux sociaux, on arrive à repérer des sujets émergents et anticiper un buzz, là c’est pareil. À partir du moment où j’ai les déplacements d’une quantité faramineuse de gens, je peux anticiper où quelqu’un va aller. C’est comme ça que fonctionne Waze pour prédire le trafic, et il le fait très bien. Il existe aussi des projets qui interconnectent tous les réseaux de surveillance, publics comme privés, dans le but de comprendre, d’analyser, et d’anticiper. L’enjeu est de repérer qu’il y a un attroupement de gens qui vont tout péter dans le centre ville, avant même que l’attroupement ait lieu, ce qui est totalement faisable avec de l’IA prédictive. » Bien qu’on n’en soit pas là, la généralisation future de la surveillance « intelligente » a de quoi faire peur, et pourrait modifier notre rapport à l’anonymat. « Quand vous aurez pris conscience que les caméras de surveillance peuvent vous identifier, comprendre qui vous êtes et ce que vous êtes en train de faire, vous allez revenir à l’état psychologique d’un habitant du XVIIIe siècle, où l’anonymat n’existait pas – si vous habitiez un petit village en Bretagne, tout le monde vous reconnaissait. Mais là, ce sera vis-à-vis de l’autorité publique. » Et après ? Alors que la Californie est en train de légiférer pour protéger les données de nos cerveaux issues d’implants ou de capteurs externes, on se dit que l’humain pourrait un jour n’être plus qu’une matière première pour les géants de la tech. Demain tous esclaves de la donnée ?
Par Jean-Baptiste Chiara
