IA : IBM propose un outil pour décrypter les décisions des algorithmes

Business IntelligenceCloudData & Stockage

IBM élargit l’étendue de son offre IA avec un logiciel d’analyse des décisions prises par les algorithmes. Objectif : détecter les critères les plus influents et les biais.

Comment analyser les ressorts de l’intelligence artificielle ? IBM  ouvre « la boîte noire » avec un service cloud d’ analyse des décisions prises par les algorithmes.

“Nous apportons une nouvelle transparence et un nouveau contrôle aux entreprises qui utilisent l’IA et font face aux risques les plus potentiels liés à une prise de décision erronée.” explique Beth Smith , directrice générale de Watson AI chez IBM. 

Premier objectif :  expliquer les décisions en déterminant les facteurs qui les ont influencées. Second objectif : détecter d’éventuels biais et recommander des mesures pour les éliminer.

L’évaluation s’effectue, au fur et à mesure, pendant l’exécution des modèles, sur trois critères : précision, performance et impartialité (« fairness »).

ibm-ai

Le logiciel traite les algorithmes développés avec IA Watson mais gère aussi les environnements TensorFlow (Google), SageMaker (AWS), AzureML (Microsoft) et SparkML (plate-forme Apache Spark). Il peut être personnalisé pour s’adapter à plusieurs processus de prise de décision. 
Toutes les fonctionnalités, y compris celles liées à des problématiques de conformité, comme le RGPD, sont accessibles via des tableaux de bord. 

IBM affiche une volonté d’ouverture avec la mise à disposition de AI Fairness 360, un ensemble d’outils de détection (sur la base de 30 indicateurs) et de réduction des biais (9 algorithmes correctifs) pour la communauté open source. 

ai-fairness-360

“Ces développements font suite à de nouvelles recherches effectuées par l’ IBM Institute for Business Value d’IBM , qui révèle que si 82% des entreprises envisagent des déploiements d’IA, 60% craignent des problèmes de responsabilité et 63% manquent de compétences pour gérer la technologie en toute confiance.” indique IBM.

 

 

 

 


Lire la biographie de l´auteur  Masquer la biographie de l´auteur