Bercy veut mieux cadrer les algorithmes, sans brider l'innovation

Le gouvernement veut encourager la conception d’algorithmes « responsables et transparents par construction ». Une plateforme d’évaluation, TransAlgo, devrait voir le jour pour faciliter leur évaluation.

Du système de préinscription dans le supérieur Admission post-bac (APB) aux applications d’intelligence artificielle, les algorithmes montent en puissance. La transparence, elle, peut faire défaut. Pour tenter d’y remédier, Axelle Lemaire, secrétaire d’État au Numérique, a demandé au Conseil général de l’économie (CGE) de réfléchir aux modalités de régulation des algorithmes de traitement des contenus. Un rapport a été détaillé la semaine dernière.

Les recommandations du CGE couvrent les « algorithmes utilisés sur le web pour filtrer des contenus, ordonner des réponses à une recherche, sélectionner les informations pertinentes, faire des recommandations, calculer un score, prédire un évènement ou un risque ». Ces « algorithmes peuvent être très complexes, composés de multiples briques logicielles. Google indique que les algorithmes de son moteur de recherche prennent en compte 200 critères, Netflix décompose son moteur de recommandation en 12 algorithmes différents », soulignent les ingénieurs des Mines Ilarion Pavel et Jacques Serris.

Le rapport ne propose pas une nouvelle régulation sectorielle qui s’appliquerait aux algorithmes. Pour Bercy, il s’agit de contrôler leur fonctionnement, sans « freiner l’innovation ». La « valorisation des données responsables et éthiques » étant considérée comme un moteur de croissance. Pour y parvenir, les auteurs du rapport recommandent de doter les pouvoirs publics d’outils leur permettant « de détecter l’existence de discriminations illicites et de vérifier la conformité aux lois et règlements ».

TransAlgo décortique les algorithmes

La création d’une plateforme collaborative scientifique fait partie des recommandations retenues par Bercy. Cordonnée par l’Inria et attendue pour 2017, cette plateforme nommée TransAlgo doit permettre de réunir des chercheurs et experts afin d’encourager l’évaluation d’algorithmes et la diffusion de bonnes pratiques . Il s’agit de promouvoir la conception d’algorithmes « responsables et transparents par construction ». Saisir l’enjeu éthique des algorithmes est également au menu.

Le gouvernement veut aussi imposer aux grandes entreprises un effort de communication sur le fonctionnement des algorithmes visibles pour l’utilisateur. L’identification de l’équipe ou de la personne responsable (chief algorithm officer) est également attendue. Le dialogue devrait se faire à l’échelle de l’Europe. Le rapport préconise, par ailleurs, de créer un bureau des technologies de contrôle de l’économie numérique au sein de la Direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF). Une autre piste validée par Bercy consiste à proposer un outil grand public sur les algorithmes (le Conseil national du numérique y réfléchit).