Trop souvent biaisés et pas assez fiables les logiciels de reconnaissance faciale ? C’est l’avis de l’Union américaine pour les libertés civiles (ACLU) qui réclame un moratoire sur l’utilisation de la technologie. Elle a réalisé un test et s’en explique dans un billet de blog.
L’organisation dit avoir utilisé l’API Amazon Rekognition d’AWS (Amazon Web Services). Et ce pour comparer les photos officielles des membres actuels du Congrès des États-Unis avec 25 000 clichés de personnes arrêtées pour crimes (une base créée à partir de photos en accès public, selon l’ACLU).
Résultat : le logiciel n’a pas correctement identifié 28 parlementaires américains, les prenant pour des criminels connus outre-Atlantique. De surcroît, les Afro-américains et les Latino-américains sont surreprésentés parmi les parlementaires mal identifiés.
Ce résultat vient ainsi alimenter les craintes de l’ACLU concernant les risques associés à l’utilisation d’un tel outil par des services de police et autres autorités.
Pour sa défense, Amazon a indiqué que la technologie ne remplace pas l’humain, mais soutient son action, rapporte le New York Times. Une porte-parole a également relevé que l’ACLU a utilisé le paramètre par défaut du système pour comparer les photos. Le « seuil de confiance » est alors fixé à 80%. Alors qu’Amazon dit recommander aux services de police d’élever ce seuil à 95% pour réduire la probabilité de correspondances erronées.
Il n’empêche, des parlementaires confondus avec des criminels par le logiciel ont demandé à rencontrer le dirigeant d’Amazon, Jeff Bezos. D’autres ont transmis une lettre à la société dans laquelle ils lui demandent des détails sur sa façon de tester/estimer la précision et les biais de sa technologie faciale. Ils émettent également des doutes « quant à savoir si Amazon devrait vendre sa technologie aux forces de l’ordre en ce moment ».
Le 13 juillet dernier, le président et directeur juridique de Microsoft, Brad Smith, appellait lui-même le gouvernement américain à réguler le marché. Et ce après que la firme de Redmond a été vivement critiquée pour son logiciel de reconnaissance faciale biaisé.
(crédit photo © GlebStock / Shutterstock)
OpenAI orchestre un déploiement très progressif de GPT-4o, y compris de ses capacités multimodales.
Elon Musk avait racheté le nom de domaine X.com à PayPal en 2017. Depuis juillet 2023,…
Des centaines d'ingénieurs en IA et cloud travaillant pour Microsoft se voient proposer de quitter…
Reddit s'ajoute à la liste des « partenaires data » d'OpenAI. Qui rejoint-il ?
Younited a utilisé PaLM 2 puis Gemini pour catégoriser des transactions bancaires en vue de…
Les États-Unis vont tripler leur capacité nationale de fabrication de puces et contrôler 30 %…
