AccueilPhoto

Un outil de reconnaissance faciale qui recense toutes vos photos sur le Web fait polémique

Publié le

par Lise Lanot

© Capture d’écran sur PimEyes

L'outil polonais PimEyes fait grincer les dents des protecteurs des libertés civiles.

En 2017, une firme polonaise lançait PimEyes, un outil permettant de "trouver un visage recherché sur Internet". À la base, souligne la BBC, la plateforme aurait été lancée "pour éviter le mauvais usage de ses images" et vérifier où notre minois pouvait bien se retrouver dans les abysses de la Toile :

"Vous pouvez envoyer une photo à PimEyes pour trouver une personne sur Internet, peut-on lire sur le site. PimEyes utilise des algorithmes de reconnaissance faciale modernes et la puissance du machine learning pour générer les résultats de recherche de la plus haute qualité possible. PimEyes se concentre seulement sur les visages. La composition et les couleurs des images n’ont pas d’importance. Notre moteur ne prend pas en compte les coupes de cheveux, seuls les traits du visage importent."

À première vue, l’outil pourrait permettre de traquer la multiplication des deepfakes, cette technique de synthèse d’images permettant d’incruster un visage sur un corps, notamment dans des vidéos. Ce procédé est malheureusement bien connu pour créer des vidéos pornographiques de personnes (de célébrités ou d’anonymes, dans le cadre du revenge porn) à leur insu.

D’après la photo vue à gauche, PimEyes est parvenu à retrouver le visage d’une de nos collègues (consentante) sur une vidéo, derrière François Hollande. Elle y apparaît pourtant de façon assez floue, avec une autre coiffure et une autre expression. (© Capture d’écran sur PimEyes)

Un outil controversé

Pourtant, certain·e·s internautes et associations, dont l’ONG britannique Big Brother Watch, qui veille à surveiller les menaces faites aux libertés civiles, préviennent du danger que pourrait représenter la plateforme. Le directeur de Big Bother Watch, Silkie Carlo, affirme que "voir cette technologie de surveillance puissante proposée à l’échelle individuelle fait froid dans le dos. C’est un outil rêvé pour les harceleurs et cela met les femmes et les enfants en grand danger."

C’est en effet la première fois qu’un outil de cette envergure est proposé aux particulier·ère·s. Une des plateformes qui ressemble le plus à PimEyes est Clearview AI (à l’exception que PimEyes n’est pas supposé puiser dans les réseaux sociaux, au contraire de Clearview AI), un outil réservé à la police et les forces de l’ordre. Les outils habituellement accessibles à l’échelle individuelle, à l’instar de la recherche inversée de Google Images, n’utilisent pas de reconnaissance faciale et tablent seulement sur la composition générale d’une image.

Capture d’écran de PimEyes, lors d’une recherche avec le visage d’Aya Nakamura.

Un·e ex avec qui vous avez coupé les ponts pourrait ainsi scanner PimEyes à la recherche de vos nouvelles, attendant de voir apparaître votre visage, ou cherchant à entrer en contact avec des gens qui vous ressemblent (la reconnaissance faciale du site propose un grand nombre de sosies).

Dans le contexte actuel, alors que de plus en plus de personnes prennent part à des manifestations anti-racistes et que leur présence à ces rassemblements peut leur porter préjudice, cet outil pourrait également faciliter le rassemblement de pièces à conviction. Enfin, notons que l’usage des photos téléchargées par les utilisateur·rice·s sur le site est assez obscur :

"Les images que vous envoyez à PimEyes ne sont jamais sauvegardées ou indexées. On ne conserve pas de données privées de nos utilisateurs. […] Seules les empreintes (les traits principaux) du visage sont encodées et conservés temporairement dans nos serveurs."

La version gratuite du site ne propose pas de voir la page exacte qui diffuse votre photo. Une version payante permet d’y accéder ainsi que de recevoir des alertes lorsque de nouvelles images d’un visage sélectionné (pas forcément le vôtre donc) sont ajoutées. Étant donné la liberté avec laquelle voguent nos informations privées, sans que nous y prêtions grande attention, ce genre de plateformes particulièrement trouble a le champ libre.

À voir aussi sur arts :