C’est une enquête du New York Times datant du 18 janvier 2020 qui a révélé comment la société Clearview AI et son intelligence artificielle avait fait appel à certains réseaux sociaux, comme Facebook et Twitter, pour collecter plus de 3 milliards d’images postées sur ceux-ci. Objectif, proposer un service payant de reconnaissance faciale.
Un business inquiétant
Clearview vend un logiciel de reconnaissance faciale à près de 600 services de polices américaines mais aussi pour des agences comme le FBI qui peuvent ainsi, à partir d’une simple image d’un suspect, chercher des équivalences parmi ces trois milliards d’images. En échange de votre photo, la solution est capable de retrouver votre nom, mais aussi votre âge, le quartier où vous habitez, des photos de vos proches, de la fête de famille qu’avait immortalisée un membre de votre famille il y a plusieurs années. En fait, l’application est capable de puiser dans les contenus que vous postez sur les réseaux sociaux et sans avoir votre autorisation. L’exemple du service de police de Chicago est éloquent avec un contrat de deux ans avec Clearview, pour un montant de 50 000 $. L’accès au service ne serait autorisé qu’à 30 personnes et uniquement dans le cadre d’enquêtes et ne peut pas être utilisée pour effectuer une surveillance en direct.
La récoltes de ces images est-elle légale ?
La révélation du New York Times n’a évidemment pas plu à Twitter, ni à Facebook et Google. Twitter a ainsi exigé que Clearview AI cesse d’utiliser les images trouvées sur sa plateforme avec comme argument que cela était interdit par ses règles d’utilisation. Par la suite, Google, Facebook et Linkedin ont mis en demeure Clearview AI de mettre un terme à toute collecte d’images sur leurs sites.
Le fondateur de Clearview AI, Hoan Ton-That, a déclaré sur CBS : « Google peut extraire des données de tous les sites Web. Donc si c’est public, si c’est disponible, ça peut être dans le moteur de recherche de Google, et ça peut être dans le nôtre aussi ». Hoan Ton-That estime agir en toute légalité. « Notre système est conçu pour ne prendre que des informations disponibles publiquement ». En réalité, Clearview AI a collecté des images d’individus sans leur consentement. A noter que la firme a mis en place une procédure via email (privacy-requests@clearview.ai) pour demander le retrait des photos de la base de données avec l’instruction « Pour faciliter le traitement de votre demande, veuillez soumettre votre nom, une photo-portrait et une photocopie de votre pièce d’identité délivrée par le gouvernement ».
Fiabilité de la reconnaissance ?
Si l’application permet d’identifier des criminels, quel est le problème ?
Mais selon un récent rapport de Buzzfeed, les correspondances proposées par l’application sont impossibles à vérifier et pourraient bien être entièrement erronées. Clearview affirme que sa technologie est fiable pour 75 % des cas, mais même cette déclaration de la société ne peut pas être prouvée. Un expert en reconnaissance faciale a expliqué à Forbes que si la technologie était utilisée correctement, elle devrait être précise à 99 %.
L’expert précise : « La reconnaissance faciale est une question de probabilités. Plus précisément, la probabilité que l’image enregistrée corresponde à celle que vous vérifiez. Les meilleurs algorithmes actuels sont très précis.
Des questions sont donc en suspens. Quid des sosies ? de l’utilisation de Clearview par les gouvernements ? du fait que personne n’ait donné de permission explicite pour apparaître dans les bases de données ?
