IA générative : les tuyaux du Cigref
Fournisseurs, développeurs, sous-traitants, utilisateurs finaux… Le Cigref a compilé quelques observations sur le sujet de l’IA générative.
Biais, absence de maîtrise des données, coûts imprévus, dépendance technologique, empreinte carbone, exposition à l’intelligence économique… Ces risques liés aux IA génératives sont largement documentés. Le Cigref leur a toutefois donné un certain relief en les présentant sous forme synthétique, dans le cadre d’une note d’information.
En filigrane aux recommandations qu’elle formule, cette note met en avant les arbitrages de quelques organisations.
L’une d’entre elles a adapté son proxy. Lorsque les collaborateurs se connectent à des outils d’IA, une alerte s’affiche, rappelant les règles internes en la matière.
Une autre a demandé à ses développeurs se signaler leur intention d’utiliser de tels outils. Le principe : évaluer l’impact sur la sécurité du projet concerné, avant que la première ligne de code soit écrite.
Fournisseurs, sous-traitants… Qui utilise de l’IA générative ?
Certaines organisations, souligne le Cigref, cherchent à déterminer les fournisseurs de solutions qui utilisent eux-mêmes de l’IA générative. Et de suggérer, dans la même veine, de penser à imposer des règles spécifiques aux sous-traitants pour s’assurer qu’eux-mêmes n’utilisent pas d’IA génératives. Tout au moins publiques.
Ce sont effectivement ces dernières qui « gênent » le plus. Le Cigref ne conseille pas ouvertement de leur préférer des outils privés, mais ne manque pas de souligner que certains ont choisi cette voie. Non sans toutefois admettre que cela peut supposer d’avoir une ou des infrastructures spécifiques, en propre. En particulier si on se tourne vers des modèles open source, « recours potentiel pour des cas d’usage […] sensibles ».
Face à la rapidité avec laquelle les solutions évoluent, on préférera commencer par des expérimentations à petite échelle. On impliquera éventuellement les RH, aussi bien pour identifier les métiers touchés que les rôles et missions émergents.
À consulter sur le sujet :
ChatGPT risque-t-il de « privatiser » la connaissance ?
IA d’entreprise : IBM lance Watsonx
ChatGPT pour l’ITOps : le cas Younited
PoisonGPT : des LLM détournés à la racine
Une DSI augmentée par l’intelligence artificielle ?
IA : les 10 start-up les mieux financées en 2023
Illustration générée par IA
