L'ACLU a critiqué une société de reconnaissance faciale qui gratte les photos d'Instagram et de Facebook «Le rapport est absurde à plusieurs niveaux et démontre en outre que Clearview ne comprend tout simplement pas les inconvénients de sa technologie entre les mains des forces de l'ordre.» Le site Web de Clearview AI avait précédemment annoncé que sa technologie avait été vérifiée en utilisant "la méthodologie de précision de reconnaissance faciale de l'ACLU". L'ACLU a repoussé cette affirmation et a demandé à Clearview de la retirer le mois dernier. Clearview AI, la société de reconnaissance faciale qui prétend disposer d'une base de données de plus de 3 milliards de photos extraites de sites Web et de médias sociaux, a déclaré aux clients potentiels des forces de l'ordre qu'un examen de son logiciel basé sur la méthodologie utilisée par l'American Civil Liberties Union » est incroyablement précis. Le comité d'examen indépendant a déterminé que Clearview avait une précision de 100%, produisant des correspondances instantanées et précises pour chaque image photo du test », a lu un rapport d'octobre 2019 qui a été inclus dans le discours de l'entreprise au département de police de North Miami. La précision était uniforme dans tous les groupes raciaux et démographiques. » Mais l'ACLU a déclaré que cette affirmation est très trompeuse et a noté que l'effort de Clearview pour imiter la méthodologie de son étude de reconnaissance faciale de 2018 était une tentative malavisée de fabriquer des avenants. " Le rapport est absurde à plusieurs niveaux et démontre en outre que Clearview ne comprend tout simplement pas les méfaits de sa technologie entre les mains des forces de l'ordre », a déclaré l'avocat de l'ACLU en Californie du Nord, Jacob Snow, à BuzzFeed News, qui a obtenu le document par le biais d'une demande de documents publics. L'annonce de Clearview selon laquelle sa technologie a été approuvée conformément aux directives de l'ACLU est la dernière affirmation marketing douteuse faite par la startup basée à Manhattan, qui a accumulé un vaste référentiel de données biométriques en grattant des photos des plateformes de médias sociaux, y compris Facebook, Instagram, Twitter, YouTube et LinkedIn. Parmi ces allégations, Clearview AI a déclaré à des clients potentiels que sa technologie avait joué un rôle déterminant dans plusieurs arrestations à New York, notamment celle d'un individu impliqué dans un passage à tabac dans un bar de Brooklyn et un autre d'un suspect qui aurait posé de fausses bombes dans une station de métro de New York. . Le NYPD a nié avoir utilisé la technologie Clearview dans ces deux cas. Vous avez un conseil? Envoyez un courriel à l'un des journalistes de cette histoire à caroline.haskins @ ou @, ou contactez-nous ici. Clearview, qui prétend travailler avec plus de 600 organismes d'application de la loi, a également été poursuivi et dénoncé publiquement par des critiques, notamment le procureur général du New Jersey, Gurbir Grewal, qui a ordonné un moratoire sur l'utilisation de la technologie par l'État après que la société ait inclus son image sans autorisation dans une vidéo promotionnelle. La semaine dernière, Facebook, YouTube, LinkedIn et PayPal avaient tous envoyé des lettres de cessation et d'abstention à Clearview afin de l'empêcher d'utiliser des images prises sur leurs sites. Le PDG de Clearview, Hoan Ton-That, est cependant resté provocant, affirmant dans une interview accordée à CBS mercredi dernier que son entreprise avait le droit de premier amendement de gratter les photos publiques des médias sociaux. La société a également défendu le test dans des déclarations à BuzzFeed News. L'ACLU est une institution très respectée qui a effectué son propre test de reconnaissance faciale largement diffusé pour la précision à travers les groupes démographiques », a déclaré Ton-That à BuzzFeed News. Nous avons apprécié les efforts de l'ACLU pour mettre en évidence le potentiel de biais démographique dans l'IA, c'est pourquoi nous avons appliqué leur test et leur méthodologie à notre propre technologie. » L'examen par l'ACLU en juillet 2018 de l'outil de reconnaissance faciale d'Amazon, Rekognition, est un rapport hautement référencé qui illustre comment la technologie de reconnaissance faciale identifie ou associe faussement plus souvent les personnes de couleur que les personnes blanches. Pour le rapport, les chercheurs de l'ACLU ont fourni des photos de Rekognition de tous les membres du Congrès et lui ont demandé de trouver des correspondances dans une base de données de 25 000 photos d'arrestation accessibles au public. Le test a renvoyé des dizaines de faux positifs, principalement pour les élus de couleur. En octobre, Clearview a déclaré qu'elle utilisait la même méthodologie de base que celle utilisée par l'American Civil Liberties Union "pour déterminer que sa technologie faisait des correspondances instantanées et précises dans tous les groupes raciaux et démographiques." En citant le nom de l'ACLU, Clearview AI a laissé entendre que sa technologie avait été soumise aux mêmes normes que celles utilisées dans l'analyse du groupe des droits civiques. Mais l'ACLU a déclaré à BuzzFeed News que sa méthodologie était très différente de celle utilisée dans le test de Clearview AI. La principale différence est entre les bases de données d'images utilisées dans les deux études. Alors que l'ACLU utilisait une base de données de dizaines de milliers de mugshots suspects, le test de Clearview a été exécuté contre ce qui était alors un ensemble de 2,8 milliards de photos extraites des réseaux sociaux et des sites Web publics. Étant donné que Clearview a prétendu avoir gratté des millions de sites Web, il est tout à fait possible que les images des législateurs qui ont été utilisées dans le test de Clearview soient déjà dans la base de données, ce qui rend la perspective de créer des correspondances beaucoup plus facile. "Mais que se passe-t-il lorsque la police recherche une personne dont la photo ne figure pas dans la base de données? À quelle fréquence le système retournera-t-il une fausse correspondance?" Plutôt que de rechercher des législateurs contre une base de données de photos d'arrestations, Clearview a apparemment fouillé sa propre base de données de photos assemblée de manière confuse. Clearview a affirmé que des images des législateurs étaient présentes dans le référentiel massif de scans de visage de la société. Mais que se passe-t-il lorsque la police recherche une personne dont la photo ne figure pas dans la base de données? À quelle fréquence le système renverra-t-il une fausse correspondance? Les taux d'erreur sont-ils pires pour les personnes de couleur? » Il est également atypique pour un officier enquêtant sur une affaire d'avoir un portrait clair d'un suspect, comme ceux que Clearview a probablement utilisés comme intrants pour les législateurs. L'outil de Clearview est destiné à être utilisé dans des situations du monde réel, où la qualité de la photo, l'éclairage et d'autres facteurs peuvent fausser le processus et doivent être testés en tant que tels, a déclaré Snow. Si Clearview est si confiant quant à sa technologie, il devrait soumettre son produit à des tests indépendants rigoureux en situation réelle », a-t-il déclaré. Et cela devrait donner au public le droit de décider si le gouvernement est autorisé à utiliser son produit. » Ton-That a déclaré que le test du panel indépendant était déjà diligent et approfondi. Le test Clearview a diffusé les mêmes photos que l'ACLU, mais contre une base de données qui était plus de 100 000 fois plus grande », a-t-il déclaré, notant qu'en plus de rechercher 535 dirigeants du Congrès américain, la technologie de sa société a été testée sur des législateurs d'État du Texas et Californie. Avec ce niveau de difficulté plus élevé, Clearview a obtenu un score de 100% suivant la norme ACLU. » Les chercheurs en reconnaissance faciale ont exprimé de sérieux doutes quant au rapport de Clearview. Bien que l'étude ACLU ait été efficace pour démontrer les déficiences d'un logiciel de reconnaissance faciale, elle n'est en aucun cas une méthodologie suffisante pour évaluer définitivement la précision d'un outil commercial comme Clearview AI, a déclaré Liz 'Sullivan, directrice technologique du Surveillance Technology Oversight Project. BuzzFeed News. «Sullivan a également mis en doute l'affirmation du panel selon laquelle la technologie de Clearview est exacte pour tous les groupes démographiques», étant donné que le groupe test de 834 législateurs d'État et fédéraux n'est pas représentatif de toutes les personnes ou ethnies. Le PDG de Clearview, Ton-That, n'était pas d'accord avec cette évaluation. Les rigueurs du test ont couvert tous les groupes démographiques représentés dans la population générale et ont montré la précision de Clearview lors de la recherche de milliards de photos », a-t-il déclaré. Le chercheur sur la reconnaissance faciale et la confidentialité, Adam Harvey, a déclaré à BuzzFeed News qu'il était impossible d'évaluer l'exactitude de l'étude Clearview sans avoir plus d'informations sur la façon dont elle a été menée. Ce document ne fournit pas suffisamment d'informations pour valider leur demande », a-t-il déclaré. Il semble que personne dans le panel n'ait aucune expérience préalable de la reconnaissance faciale. » Le rapport de Clearview a été signé par un panel de trois personnes, dont Jonathan Lippman, juge en chef de la Cour d'appel de New York de 2009 à 2015; Le Dr Nicholas Cassimatis, universitaire et entrepreneur en intelligence artificielle; et Aaron Renn, analyste urbain et ancien chercheur principal au Manhattan Institute, un groupe de réflexion conservateur. Le panel a déterminé si les deux correspondances les mieux classées des résultats de la recherche Clearview montraient la même personne dans la recherche d'origine. En octobre 2019, le panel soussigné a effectué un test de précision indépendant de Clearview AI, une nouvelle technologie de correspondance d'images qui fonctionne comme un moteur de recherche Internet pour les visages », indique le rapport. Obtenu par BuzzFeed News Une capture d'écran du logiciel Clearview AI qui a été fournie à la police dans des documents marketing. Aucun des panélistes ne semble avoir une quelconque expertise en reconnaissance faciale. Lippman a déclaré à BuzzFeed News qu'il "avait été présenté à Clearview par Richard Schwartz", l'un des cofondateurs de l'entreprise qu'il connaît depuis l'époque de Schwartz en tant que rédacteur en chef de la page éditoriale du New York Daily News. Il a dit qu'il n'était pas payé pour son travail sur l'étude. Je suppose que j'ai été approché en raison de mon expérience en tant que juge au sein du gouvernement et de la justice pénale, et en examinant et en évaluant les preuves empiriques », a déclaré Lippman. Cassimatis a déclaré à BuzzFeed News qu'il avait travaillé dans l'intelligence artificielle pendant 20 ans, et a souligné son travail en tant que professeur au Rensselaer Polytechnic Institute et en tant qu'ancien chef de la recherche nord-américaine sur l'IA de Samsung. » Il a dit qu'il avait rencontré Ton-That par le biais d'un ami commun et avait été sélectionné pour mon expertise dans ce domaine. » Cassimatis a dit qu'il n'était pas payé pour travailler sur l'étude. Renn n'a pas répondu à une demande de commentaire. Auparavant, Ton-That avait déclaré que lui et Schwartz s'étaient rencontrés lors d'un événement au Manhattan Institute, où Renn a été senior fellow jusqu'à l'année dernière. L'étude ACLU de Clearview »n'est pas la première fois que la société vante l'exactitude de sa technologie sans beaucoup de matériel d'appui ou d'examen par les pairs. L'été dernier, la société a déclaré au département de police d'Atlanta dans des documents marketing que sa technologie était précise à 98,6% dans un test de 1 million de visages - un taux de précision supérieur à celui des outils créés par Google et le géant chinois de la technologie Tencent. Cependant, cette affirmation, qui a été faite à l'aide de la référence de reconnaissance faciale MegaFace de l'Université de Washington, n'a jamais été vérifiée de manière indépendante par l'université ou un tiers, a déclaré la société à BuzzFeed News. Clearview a refusé une demande de mise à disposition des résultats de ce test. Depuis octobre, cependant, la société semble s'être éloignée de la commercialisation du numéro MegaFace et aller de l'avant avec l'indice de précision de 100% du test basé sur ACLU effectué par son panel de trois personnes. Après la publication des premiers reportages sur la société le mois dernier, la société a ajouté une nouvelle section à son site Web, autrefois clairsemée, intitulée Clearview Facts », où elle a déclaré qu'un groupe d'experts indépendants a évalué Clearview à 100% de précision pour tous les groupes démographiques selon le Méthodologie de précision de la reconnaissance faciale d'ACLU. » Cela ne convenait pas bien à l'ACLU, qui a finalement déposé une plainte. Le 28 janvier, Clearview a retiré le nom du groupe des droits civiques de son site, bien qu'il affirme toujours qu'un groupe d'experts indépendants a examiné et certifié Clearview pour l'exactitude et la fiabilité. » Cela peut ne pas être suffisant pour l'ACLU et Snow, qui ont déclaré que toute preuve d'exactitude était hors de propos. » La technologie de Clearview donne au gouvernement le pouvoir sans précédent de nous espionner partout où nous allons - suivre nos visages lors des manifestations, des réunions des Alcooliques anonymes, de l'église, etc. », a-t-il déclaré.