Pour gérer vos consentements :

Reconnaissance faciale : des parlementaires ou des criminels ?

Trop souvent biaisés et pas assez fiables les logiciels de reconnaissance faciale ? C’est l’avis de l’Union américaine pour les libertés civiles (ACLU) qui réclame un moratoire sur l’utilisation de la technologie. Elle a réalisé un test et s’en explique dans un billet de blog.

L’organisation dit avoir utilisé l’API Amazon Rekognition d’AWS (Amazon Web Services). Et ce pour comparer les photos officielles des membres actuels du Congrès des États-Unis avec 25 000 clichés de personnes arrêtées pour crimes (une base créée à partir de photos en accès public, selon l’ACLU).

Résultat : le logiciel n’a pas correctement identifié 28 parlementaires américains, les prenant pour des criminels connus outre-Atlantique. De surcroît, les Afro-américains et les Latino-américains sont surreprésentés parmi les parlementaires mal identifiés.

Ce résultat vient ainsi alimenter les craintes de l’ACLU concernant les risques associés à l’utilisation d’un tel outil par des services de police et autres autorités.

« Seuil de confiance »

Pour sa défense, Amazon a indiqué que la technologie ne remplace pas l’humain, mais soutient son action, rapporte le New York Times. Une porte-parole a également relevé que l’ACLU a utilisé le paramètre par défaut du système pour comparer les photos. Le « seuil de confiance » est alors fixé à 80%. Alors qu’Amazon dit recommander aux services de police d’élever ce seuil à 95% pour réduire la probabilité de correspondances erronées.

Il n’empêche, des parlementaires confondus avec des criminels par le logiciel ont demandé à rencontrer le dirigeant d’Amazon, Jeff Bezos. D’autres ont transmis une lettre à la société dans laquelle ils lui demandent des détails sur sa façon de tester/estimer la précision et les biais de sa technologie faciale. Ils émettent également des doutes « quant à savoir si Amazon devrait vendre sa technologie aux forces de l’ordre en ce moment ».

Le 13 juillet dernier, le président et directeur juridique de Microsoft, Brad Smith, appellait lui-même le gouvernement américain à réguler le marché. Et ce après que la firme de Redmond a été vivement critiquée pour son logiciel de reconnaissance faciale biaisé.

(crédit photo © GlebStock / Shutterstock)

Recent Posts

Transition numérique : une solide croissance à deux chiffres

Les investissements mondiaux dans les technologies et services de transformation numérique progresseraient de plus de…

6 heures ago

Classement Forbes : 20 milliardaires de la Tech

De Jeff Bezos (Amazon) à David Duffield (Workday), voici la liste Forbes des 20 personnalités…

11 heures ago

Dix pistes d’action pour sécuriser l’open source

Comment améliorer la sécurité de l'open source ? Éléments de réponse avec le plan d'action…

12 heures ago

Twitter : Elon Musk joue les équilibristes

Après avoir annoncé la suspension de l'accord pour le rachat de Twitter, Elon Musk s'est…

3 jours ago

Cybersécurité : CyberArk crée un fonds doté de 30 millions $

Financer une nouvelle génération de start-up des technologies de cybersécurité, c'est l'objectif affiché par CyberArk…

3 jours ago

Silicon Day Workplace : quelle Digital Workplace à l’heure du travail hybride ?

Silicon.fr vous invite à Silicon Day Workplace, une journée dédiée aux enjeux de la Digital…

3 jours ago