Santé, edtech, IA : où en sont les « bacs à sable » de la CNIL ?

« IA générative et service public : le Gouvernement expérimente sur socle américain ». Ainsi avions-nous relayé, début octobre, l’annonce d’Albert.

Il est question de concevoir, sous cette bannière, un « modèle souverain en open source ». En attendant, on s’appuie sur Claude, un LLM venu d’outre-Atlantique. Notamment pour accompagner les agents du programme Services Publics + dans la rédaction des réponses en ligne aux avis et commentaires des usagers.

Pour développer Albert, Etalab va bénéficier d’un accompagnement de la CNIL. Celle-ci a sélectionné le projet dans le cadre de son troisième « bac à sable »… précisément axé sur l’IA au bénéfice des services publics. L’appel à projets s’est déroulé entre juillet et septembre. Sur une vingtaine de candidatures, quatre sont lauréates. Outre Albert, il y a :

– Conseils personnalisés d’Intelligence Emploi
Objet : un chatbot pour aider les conseillers de Pôle Emploi à proposer des parcours adaptés aux usagers en s’appuyant sur leurs données professionnelles.

– Ekonom IA
Objet : un outil qui informera et conseillera les habitants de nantes sur leur consommation d’eau.

– Un projet de la RATP porté sur la captation vidéo sous forme de données matricielles (valeurs numériques) afin qu’éviter la récupération de données personnelles

Quatre autres projets non lauréats bénéficieront tout de même d’un « soutien juridique et technique », sous la forme de réunions avec la CNIL. Nommément :

– Sport Data Hub (Agence nationale du sport, INSEP, Direction des sports), outil d’analyse et de prédiction de la performance sportive

– La DILA (Direction de l’information légale et administrative) pour répondre aux usagers et les orienter vers les ressources de service-public.fr

– La DINUM de Nouvelle-Calédonie pour un chatbot sur service-public.nc

– Un collectif de centres hospitaliers universitaires pour un LLM spécialisé, notamment sur la déclaration de l’activité hospitalière et la tarification à l’activité

Bac à sable santé : les 4 lauréats…

La première édition du « bac à sable » touchait à la santé numérique (appel à projets entre février et avril 2021). La deuxième, aux outils numériques éducatifs (AAP en janvier-février 2022). La CNIL en a publié des bilans.

Sur la partie santé numérique, les quatre lauréats furent les suivants :

– CHU de Lille et Inria, accompagnés entre juin et décembre 2021
Objet : mettre en place un protocole d’apprentissage fédéré entre plusieurs entrepôts de données de santé, pour alimenter un algorithme destiné à faciliter la prise en charge des patients. La mise en œuvre des recommandations de la CNIL a porté sur deux projets de recherche. D’une part, l’aide au codage des diagnostics médicaux par analyse textuelle (Audimat). De l’autre, la prédiction automatisée de la réhospitalisation par apprentissage fédéré (Parade).

– Resilience, accompagné en 2022
Cette entreprise a développé une application mobile d’éducation thérapeutique pour les patients atteints du cancer et un logiciel d’aide à la prise de décision médicale. Pour réunir ces outils, elle a souhaité créer un entrepôt de données de santé alimenté par ses données et celles d’établissements partenaires. L’accompagnement de la CNIL a porté sur l’interconnexion de ces sources et la réutilisation des données rassemblées.

– Clinityx, accompagné entre juin 2021 et juin 2023
Projet : constituer Magellan, premier entrepôt de données de santé constitué uniquement à partir du SNDS. Il doit alimenter un outil de visualisation d’indicateurs agrégés destinés à répondre à des questions de santé publique. L’accompagnement s’est concernté sur la déclinaison opérationnelle du principe de minimisation et sur les modalités de réutilisation des données contenues dans cette base.

– Vertexa, accompagné entre juin 2021 et avril 2022
Le CH Arras était le porteur initial du projet, destiné à développer un jeu thérapeutique en VR pour les patients atteints de troubles alimentaires. Une société a fini par en émaner.

… et les 8 « lots de consolation »

Huit projets non lauréats du bac à sable santé ont tout de même bénéficié d’un accompagnement :

– Mithril (utilisation des enclaves sécurisées des microprocesseurs à des fins de confidentialité)

– N4HCloud du CEA (cloud pour données de santé, avec services)

– Takadoc (diagnostic et prise en charge du surpoids)

– Sarus d’Air Liquide (anonymisation pour le traitement des maladies chroniques)

– MIR de l’AP-HP (IA d’imagerie pour l’oncologie)

– L’université de Rennes 1 pour des systèmes autoapprenants avec des données de santé

– Sharp-Tc (prédiction d’Alzheimer et traitement préventif)

– Arkhn (analyse des données fédérées hospitalières)

Bac à sable edtech : 5 lauréats au départ, 4 à l’arrivée…

Sur le volet edtech, la CNIL avait initialement sélectionné cinq lauréats. La start-up PowerZ, avec son jeu vidéo éducatif adaptant le niveau de difficulté au profil du joueur, a disparu des radars. Restent :

– Daylindo, accompagné entre juin 2022 et janvier 2023
Objet : développer un portfolio pour tracer l’acquisition de compétences dans le milieu professionnel des apprentis et des alternants.

– Klassroom, accompagné entre juin 2022 et juin 2023
Objet : le projet Klassly, destiné à développer une alternative aux ENT pour la communication entre parents et enseignants du premier degré. L’accompagnement a notamment porté sur l’identification du régime de responsabilité de traitement applicable à la gestion des activités scolaires et à la création/gestion des comptes utilisateurs. Il s’est aussi agi de préciser les modalités de réutilisation des photos des élèves réalisées lors des activités scolaires.

– Le GIP FUN (France Université Numérique), accompagné en mai et décembre 2022
Avec le projet DATA, il s’agit de constituer, à partir des MOOC FUN, un entrepôt de traces d’apprentissage et les valoriser par des analyses. L’accompagnement a porté, en particulier, sur les mesures et vérifications à mettre en œuvre pour anonymiser les données. Elles se sont assorties de recommandations pour l’ouverture des données.

– L’académie de Rennes, accompagnée entre juin 2022 et février 2023
Objet : le projet d’espace numérique personnel MyToutatice, destiné à centraliser les contenus stockés dans diverses apps (ENT, Pronote, Pix…). L’accompagnement a englobé l’identification des bases légales adéquates pour les différents usages, ainsi que la clarté de l’information des personnes concernées.

… et 5 « lots de consolation »

– Astrachain (chiffrement sur base blockchain)

– Eleda de Kdetude (outil no code de développement d’activités pédagogiques en mathématiques)

– Kalygo DYS de Learn & Go (aide à l’apprentissage de l’écriture pour les enfants DYS)

– Babel de Sight-O (profilage du niveau musical de l’utilisateur)

– PEC (Portefeuille de compétences), d’un consortium d’établissements, pour mettre à jour une plate-forme à des fins d’interopérabilité

Illustration © tookitook – Adobe Stock