Une équipe de 8 chercheurs a démontré que les voitures autonomes et plus encore le système d’apprentissage automatique embarqué pouvaient être abusés en modifiant les panneaux de signalisation. L’idée derrière ces travaux (Robust Physical-World Attacks on Machine Learning Models) est de démontrer les possibilités mises à disposition pour un attaquant afin de tromper les voitures autonomes et leur faire prendre des décisions fatales pour les passagers.
Parmi ces possibilités, un attaquant peut imprimer une nouvelle signalétique et la superposer sur l’existante ou ajouter des petits autocollants sur un panneau pour leurrer la voiture autonome qui estime voir un autre panneau. Dans le premier cas, ni l’œil humain, ni l’IA embarquée ne peuvent voir la tromperie. Par contre, dans le deuxième cas, seule l’IA risque de mal comprendre la signalétique.
Les chercheurs ont donc modifié plusieurs panneaux (cf image ci-dessous) de signalisation afin de démontrer l’impact de ces changements sur les véhicules autonomes. Sur un sens interdit, ils ont posé des autocollants pour former la phrase amour et haine et l’IA a considéré ce panneau comme étant celui limitant la vitesse dans 100% des cas. En posant juste des petits autocollants au hasard sur le panneau sens interdit ou peignant quelques graffitis, l’IA estime aussi qu’il s’agit du panneau de limitation de vitesse dans 67% des cas. Enfin, sur la dernière image, une affiche imprimée d’un panneau pour tourner à droite a été mal interprétée par l’IA du véhicule en le considérant dans 100% des cas comme un stop.
Ces découvertes montrent que les collectivités territoriales et l’Etat vont devoir veiller à ce que les panneaux de signalisation soient propres et sans taches. Un défi pour les villes intelligentes. Pour lutter contre ces risques, les chercheurs préconisent l’usage de matériaux antiadhésifs pour les panneaux de signalisation. Les constructeurs devront apprendre aux IA des choses logiques comme l’absence de panneaux stop sur des autoroutes par exemple.
A lire aussi :
Pourquoi la voiture 100 % autonome n’est pas près de rouler
Waymo confie la maintenance de ses voitures autonomes à Avis
Sous la marque Horizon OS, Meta va ouvrir le système d'exploitation des casques Quest à…
Après avoir essaimé dans 145 pays, la communauté de femmes de la tech Women Who…
Les voix du CISPE et des associations d'utilisateurs s'accordent face à Broadcom et à ses…
Bonnes pratiques, indicateurs, prestataires... Aperçu de quelques arbitrages que le comité d'organisation de Paris 2024…
Le 31 mars 2023, le PTCC (Programme de transfert au Campus Cyber) était officiellement lancé.…
Nicolas Gour, DSI du groupe Worldline, explique comment l’opérateur de paiement fait évoluer sa gouvernance…