Pour gérer vos consentements :

GenAI : face à NVIDIA, Intel se tourne vers l’open source

Pour exister dans l’IA générative, Intel doit-il miser sur l’open source ? Le voilà en tout cas au cœur d’un projet de cette teneur : OPEA (Open Enterprise Platform for AI).

L’initiative est placée sous l’égide de la Fondation Linux. Elle vise, selon les termes de sa charte technique, à développer un « framework d’orchestration d’écosystème pour l’intégration efficace des technologies de GenAI ».

Intel apparaît comme la tête de pont. Ne serait-ce que par sa communication, doublée du fait qu’OPEA a été annoncé dans le cadre de son événement Open Source Summit North America 2024.

Par ailleurs, les premiers éléments du framework ont une forte coloration Intel. Jusqu’aux implémentations de référence. Toutes sont optimisées pour une exécution sur les accélérateurs Gaudi 2. Parmi eux :

– ChatQnA (chatbot de questions-réponses reposant sur NeuralChat-7B ou Mistral-7B et utilisant du RAG , avec Redis ou Chroma en base vectorielle)

– DocSum (chatbot pour le résumé de texte à partir des mêmes modèles)

– VisualQnA (questions-réponses sur des images ; fondé sur LLaVA-1.5-7B)

– CodeGen (génération de code avec Deepseek-Coder-33B)

Tous ces exemples impliquent LangChain et le toolkit TGI (Text Generation Inference) de Hugging Face.

OPEA, un consortium couleur data

Hugging Face est l’un des 13 membres actuels du projet OPEA. À ses côtés, on retrouve de nombreux fournisseurs de bases de données. SQL pour MariaDB et Yellowbrick Data ; NoSQL pour Cloudera et Redis. Et des « pure players » du vectoriel avec Qdrant et Zilliz.

Les pipelines RAG sont effectivement un point focal d’OPEA. Le projet leur consacre d’ailleurs son premier blueprint.

OPEA comprend également un framework d’évaluation en quatre étapes. Là aussi made in Intel.

De manière générale, les contributions au projet se feront sous licence Apache 2.0. L’identité des membres du comité de pilotage n’est pas encore officialisée.

Domino, Hugging Face, Red Hat et Zilliz sont – comme la Fondation Linux – membres d’une autre initiative née récemment. En l’occurrence, l’AI Alliance. Elle a émergé sous l’impulsion d’IBM et de Meta, en tant que « communauté internationale de développeurs, de chercheurs et d’utilisateurs pour faire avancer l’IA ouverte, sûre et responsable ». Amazon, Google et Microsoft y sont liés à travers le Partenariat sur l’IA (Partnership on AI). Une organisation à but non lucratif qui « s’intéresse aux questions les plus impotantes concernant notre futur avec l’IA ».

Illustration principale © faithie – Adobe Stock

Recent Posts

Science & Vie lance son Incubateur

Avis aux ingénieurs, inventeurs, startuppeurs...Lancé en partenariat avec l’INPI, l’accélérateur de startup 50partners, et les…

7 heures ago

À quoi s’attendre avec les PC Copilot+ ?

Les premiers « PC Copilot+ » arrivent sur le marché en juin. Tour d'horizon des…

8 heures ago

Slack défend sa politique d’exploitation de données

Attaqué sur son usage des données des clients pour l'entraînement d'IA, Slack tente de justifier…

15 heures ago

Ce qui change avec la version 2024 du référentiel d’écoconception de services numériques

Un an et demi après sa publication initiale, le RGESN est mis à jour. Tour…

1 jour ago

Microsoft x Mistral AI : l’Autorité britannique de la concurrence renonce à enquêter

Le régulateur britannique de la concurrence renonce à une enquête approfondie sur le partenariat de…

1 jour ago

MFA obligatoire sur Azure : ce que prépare Microsoft

À partir de juillet 2024, Microsoft imposera progressivement le MFA pour certains utilisateurs d'Azure. Aperçu…

2 jours ago