Reconnaissance faciale : des parlementaires ou des criminels ?

Trop souvent biaisés et pas assez fiables les logiciels de reconnaissance faciale ? C’est l’avis de l’Union américaine pour les libertés civiles (ACLU) qui réclame un moratoire sur l’utilisation de la technologie. Elle a réalisé un test et s’en explique dans un billet de blog.

L’organisation dit avoir utilisé l’API Amazon Rekognition d’AWS (Amazon Web Services). Et ce pour comparer les photos officielles des membres actuels du Congrès des États-Unis avec 25 000 clichés de personnes arrêtées pour crimes (une base créée à partir de photos en accès public, selon l’ACLU).

Résultat : le logiciel n’a pas correctement identifié 28 parlementaires américains, les prenant pour des criminels connus outre-Atlantique. De surcroît, les Afro-américains et les Latino-américains sont surreprésentés parmi les parlementaires mal identifiés.

Ce résultat vient ainsi alimenter les craintes de l’ACLU concernant les risques associés à l’utilisation d’un tel outil par des services de police et autres autorités.

« Seuil de confiance »

Pour sa défense, Amazon a indiqué que la technologie ne remplace pas l’humain, mais soutient son action, rapporte le New York Times. Une porte-parole a également relevé que l’ACLU a utilisé le paramètre par défaut du système pour comparer les photos. Le « seuil de confiance » est alors fixé à 80%. Alors qu’Amazon dit recommander aux services de police d’élever ce seuil à 95% pour réduire la probabilité de correspondances erronées.

Il n’empêche, des parlementaires confondus avec des criminels par le logiciel ont demandé à rencontrer le dirigeant d’Amazon, Jeff Bezos. D’autres ont transmis une lettre à la société dans laquelle ils lui demandent des détails sur sa façon de tester/estimer la précision et les biais de sa technologie faciale. Ils émettent également des doutes « quant à savoir si Amazon devrait vendre sa technologie aux forces de l’ordre en ce moment ».

Le 13 juillet dernier, le président et directeur juridique de Microsoft, Brad Smith, appellait lui-même le gouvernement américain à réguler le marché. Et ce après que la firme de Redmond a été vivement critiquée pour son logiciel de reconnaissance faciale biaisé.

(crédit photo © GlebStock / Shutterstock)

Recent Posts

De Windows à Chrome OS : Google active des leviers de transition

À l'approche du Chrome OS Demo Day, Google met en lumière des outils destinés à…

3 heures ago

Akri : un projet open source pour pousser Kubernetes vers l’IoT

Microsoft ouvre la communication sur le projet Akri, destiné à favoriser l'exploitation des ressources IoT…

5 heures ago

DBaaS : MariaDB SkySQL s’enrichit de capacités distribuées

SkySQL exécute dorénavant la plus récente version de MariaDB Platform X5 qui fournit, via le…

6 heures ago

Ce que révèlent les 9 tendances Tech du Gartner pour 2021

L'Internet des comportements, le maillage de la cybersécurité et l'ingénierie de l'IA figurent parmi les…

23 heures ago

Project APEX : Dell veut généraliser le modèle « as a service »

À travers l'initiative Project APEX, Dell entend accompagner la transition de ses offres vers le…

24 heures ago

Orange Cyberdefense : direction la Bourse ?

Orange étudierait une cotation pour son activité cybersécurité, dont les performances financières ressortent au sein…

1 jour ago