Trop souvent biaisés et pas assez fiables les logiciels de reconnaissance faciale ? C’est l’avis de l’Union américaine pour les libertés civiles (ACLU) qui réclame un moratoire sur l’utilisation de la technologie. Elle a réalisé un test et s’en explique dans un billet de blog.
L’organisation dit avoir utilisé l’API Amazon Rekognition d’AWS (Amazon Web Services). Et ce pour comparer les photos officielles des membres actuels du Congrès des États-Unis avec 25 000 clichés de personnes arrêtées pour crimes (une base créée à partir de photos en accès public, selon l’ACLU).
Résultat : le logiciel n’a pas correctement identifié 28 parlementaires américains, les prenant pour des criminels connus outre-Atlantique. De surcroît, les Afro-américains et les Latino-américains sont surreprésentés parmi les parlementaires mal identifiés.
Ce résultat vient ainsi alimenter les craintes de l’ACLU concernant les risques associés à l’utilisation d’un tel outil par des services de police et autres autorités.
Pour sa défense, Amazon a indiqué que la technologie ne remplace pas l’humain, mais soutient son action, rapporte le New York Times. Une porte-parole a également relevé que l’ACLU a utilisé le paramètre par défaut du système pour comparer les photos. Le « seuil de confiance » est alors fixé à 80%. Alors qu’Amazon dit recommander aux services de police d’élever ce seuil à 95% pour réduire la probabilité de correspondances erronées.
Il n’empêche, des parlementaires confondus avec des criminels par le logiciel ont demandé à rencontrer le dirigeant d’Amazon, Jeff Bezos. D’autres ont transmis une lettre à la société dans laquelle ils lui demandent des détails sur sa façon de tester/estimer la précision et les biais de sa technologie faciale. Ils émettent également des doutes « quant à savoir si Amazon devrait vendre sa technologie aux forces de l’ordre en ce moment ».
Le 13 juillet dernier, le président et directeur juridique de Microsoft, Brad Smith, appellait lui-même le gouvernement américain à réguler le marché. Et ce après que la firme de Redmond a été vivement critiquée pour son logiciel de reconnaissance faciale biaisé.
(crédit photo © GlebStock / Shutterstock)
Les investissements mondiaux dans les technologies et services de transformation numérique progresseraient de plus de…
De Jeff Bezos (Amazon) à David Duffield (Workday), voici la liste Forbes des 20 personnalités…
Comment améliorer la sécurité de l'open source ? Éléments de réponse avec le plan d'action…
Après avoir annoncé la suspension de l'accord pour le rachat de Twitter, Elon Musk s'est…
Financer une nouvelle génération de start-up des technologies de cybersécurité, c'est l'objectif affiché par CyberArk…
Silicon.fr vous invite à Silicon Day Workplace, une journée dédiée aux enjeux de la Digital…
