GenAI : BNP Paribas lance sa plateforme interne "LLM as a Service"

BNP Paribas annonce le déploiement accélère de sa plateforme interne d'IA générative baptisée "LLM as a Service". L'objectif est de faciliter le développement et le déploiement de cas d'usage au sein des métiers et des fonctions du groupe bancaire.

La plateforme a déjà permis la mise en production ou l'expérimentation de plusieurs cas d'usage dans différents métiers : assistants internes, génération de documents ou recherche d'informations dans des corpus. Déployée dans un premier temps en phase de test auprès de plusieurs entités, telles que Hello bank! ou l'inspection générale, la plateforme a vocation doit être généralisée à l'ensemble du groupe. Ce déploiement progressif permet de tenir compte des spécificités locales.

Par ailleurs, l'IA générative permet déjà aux développeurs du groupe de générer du code, d'accéder de manière centralisée aux outils de développement, aux technologies d'IA et aux chaînes DevOps.

Conçue et opérée par les équipes IT, la plateforme permet à chaque entité d'accéder, via une interface standardisée et sécurisée, à une sélection de modèles de langage (LLM) adaptés à ses besoins. Elle repose sur une infrastructure mutualisée hébergée dans les datacenters du groupe et donne accès à une variété de modèles open source, dont ceux de Mistral AI, indique le groupe bancaire. D'autres modèles entraînés sur des corpus internes pour répondre à des besoins spécifiques seront déployés ultérieurement.

« Avec LLM as a Service, nous créons un socle technologique commun qui permet aux entités de se concentrer sur les cas d'usage métier, tout en s'appuyant sur une infrastructure mutualisée et sécurisée. C'est un levier commun pour innover et améliorer la performance de certains usages », souligne Marc Camus, Directeur des Systèmes d'Information.