Pour gérer vos consentements :

L’IA des voitures autonomes tombe dans le panneau…modifié

Une équipe de 8 chercheurs a démontré que les voitures autonomes et plus encore le système d’apprentissage automatique embarqué pouvaient être abusés en modifiant les panneaux de signalisation. L’idée derrière ces travaux (Robust Physical-World Attacks on Machine Learning Models) est de démontrer les possibilités mises à disposition pour un attaquant afin de tromper les voitures autonomes et leur faire prendre des décisions fatales pour les passagers.

Parmi ces possibilités, un attaquant peut imprimer une nouvelle signalétique et la superposer sur l’existante ou ajouter des petits autocollants sur un panneau pour leurrer la voiture autonome qui estime voir un autre panneau. Dans le premier cas, ni l’œil humain, ni l’IA embarquée ne peuvent voir la tromperie. Par contre, dans le deuxième cas, seule l’IA risque de mal comprendre la signalétique.

67% à 100% d’erreurs

Les chercheurs ont donc modifié plusieurs panneaux (cf image ci-dessous) de signalisation afin de démontrer l’impact de ces changements sur les véhicules autonomes. Sur un sens interdit, ils ont posé des autocollants pour former la phrase amour et haine et l’IA a considéré ce panneau comme étant celui limitant la vitesse dans 100% des cas. En posant juste des petits autocollants au hasard sur le panneau sens interdit ou peignant quelques graffitis, l’IA estime aussi qu’il s’agit du panneau de limitation de vitesse dans 67% des cas. Enfin, sur la dernière image, une affiche imprimée d’un panneau pour tourner à droite a été mal interprétée par l’IA du véhicule en le considérant dans 100% des cas comme un stop.

Ces découvertes montrent que les collectivités territoriales et l’Etat vont devoir veiller à ce que les panneaux de signalisation soient propres et sans taches. Un défi pour les villes intelligentes. Pour lutter contre ces risques, les chercheurs préconisent l’usage de matériaux antiadhésifs pour les panneaux de signalisation. Les constructeurs devront apprendre aux IA des choses logiques comme l’absence de panneaux stop sur des autoroutes par exemple.

A lire aussi :

Pourquoi la voiture 100 % autonome n’est pas près de rouler

Waymo confie la maintenance de ses voitures autonomes à Avis

Recent Posts

Sigfox en redressement judiciaire : la chute d’une pépite qu’on voyait licorne

Une période d'observation de six mois démarre pour l'entreprise toulousaine Sigfox, en quête d'un repreneur.

5 heures ago

Salaires IT : des rémunérations à six chiffres… aux Etats-Unis

La Silicon Valley, Seattle et New York proposent les salaires Tech les plus élevés. En…

7 heures ago

Tech : comment motiver et retenir les talents

Face aux difficultés de recrutement des profils technologiques les plus recherchés du marché, la mise…

11 heures ago

Gestion des données de référence : le top 10 des fournisseurs

Qui sont les têtes d'affiche de la gestion des données de référence (MDM) et comment…

12 heures ago

Ransomware au ministère de la Justice : où en est-on ?

LockBit 2.0 a épinglé le ministère de la Justice à son tableau de chasse. À…

15 heures ago

Stéphane Boulanger, nouveau DOSI du PMU

Le PMU nomme Stéphane Boulanger au poste Directeur des Opérations et des Systèmes d'Information (DOSI).

1 jour ago