L'INESIA est lancé : dans quoi s'inscrit ce centre français d'évaluation des IA
La France annonce son institut public pour l'évaluation de l'IA. En toile de fond, un réseau international, ou tout du moins la volonté d'en constituer un.

Vers un programme public d'évaluation des modèles d'IA généralistes ?
En mai 2024, Inria et le LNE (Laboratoire national de métrologie et d'essais) avaient annoncé la signature d'un accord-cadre allant dans ce sens. Il devait se matérialiser par un centre "réalisant des activités de recherche, d'expérimentation et de contrôle".
Le voilà officiellement incarné en l'INESIA (Institut national pour l'évaluation et la sécurité de l'intelligence artificielle). L'entité - créée sans nouvelle structure juridique - est pilotée par le SGDSN (Secrétariat général de la défense et de la sécurité nationale) et la DGE (Direction générale des entreprises). Outre le LNE et Inria, elle fédère l'ANSSI et le PEReN (Pôle d'expertise de la régulation numérique). L'annonce de sa constitution intervient à une semaine du Sommet de l'IA. Un choix de timing qui rappelle ceux du Royaume-Uni et de la Corée du Sud, organisateurs des deux précédentes éditions dudit sommet.
Une impulsion sur l'axe US-UK
Londres avait effectivement officialisé la mise en place de son AISI (AI Safety Institute) en novembre 2023, pendant le sommet de Bletchley Park. Celui-ci s'inscrivait dans la continuité de la Foundation Model Taskforce, établie en avril de la même année au sein du département pour la Science, l'Innovation et la Technologie, avec un investissement initial de 100 M£ - et rebaptisée Frontier AI Taskforce en septembre. À sa tête, Ian Hogarth, fondateur de Songkick (découverte de concerts et vente de billets). Parmi ses "conseillers externes", Yoshua Bengio, lauréat du prix Turing et tête de pont du rapport scientifique international publié à l'occasion du Sommet de l'IA.
Les États-Unis avaient eu aussi annoncé leur AISI à Bletchley Park, au lendemain de l'ordre exécutif de Joe Biden sur le développement et l'usage sûrs de l'IA. L'institut est hébergé par le NIST, rattaché au département du Commerce. Sa directrice Elizabeth Kelly fut conseillère spéciale de Joe Biden pour la politique économique. Sa directrice technique Elham Tabassi est Chief IA Advisor au NIST. Dans la gouvernance, il y a aussi Paul Christiano, ancien directeur de l'équipe d'alignement des modèles de langage chez OpenAI. Une enveloppe de 10 M$ lui fut accordée en mars 2024. Quelques semaines auparavant y avait été greffé un consortium pour favoriser la collaboration avec le privé.
Un réseau international... avec 9 pays pour le moment
Il avait fallu attendre avril 2024 pour voir émerger une coopération formelle entre les AISI britannique et américain, "sur au moins une évaluation". En toile de fond, la pression d'entreprises technologiques - au premier rang desquelles Meta - qui en appelaient à des règles et procédures d'évaluation communes avant d'ouvrir leurs modèles.
Entre-temps, le Japon avait créé son AISI en février 2024, au sein de l'IPA (Agence de promotion des technologies de l'information, rattachée au ministère de l'Économie). Le Canada avait suivi en avril, manifestant son intention d'investir 50 millions de dollars canadiens (actuellement environ 33 M€). Puis Singapour, qui a choisi de s'appuyer sur son Digital Trust Center fondé en 2022 à l'université de technologie de Nanyang.
En mai 2024, lors du Sommet de Séoul, ces pays, ainsi que la France, l'Australie et le Kenya, avaient décidé d'une coopération entre ces AISI, sous la forme d'un réseau international. L'Allemagne et l'Italie, en tant que signataires de la Déclaration de Séoul pour une IA sûre, novatrice et inclusive, étaient pressentis pour faire partie des membres initiaux. Ce ne fut pas le cas.
La première réunion officielle de ce réseau d'AISI eut lieu en novembre 2024 à San Francisco. La déclaration de mission promet une "complémentarité" et une "interopérabilité" entre les instituts, mais ne définit pas d'objectifs ou de mécanismes spécifiques à cet égard. On ignore, par exemple, comment la structure s'inscrira dans cet autre effort global qu'est le Partenariat mondial sur l'IA.
Illustration générée par IA
Sur le même thème
Voir tous les articles Data & IA