IA : IBM propose un outil pour décrypter les décisions des algorithmes

Business IntelligenceCloudData & Stockage

IBM élargit l’étendue de son offre IA avec un logiciel d’analyse des décisions prises par les algorithmes. Objectif : détecter les critères les plus influents et les biais.

Comment analyser les ressorts de l’intelligence artificielle ? IBM  ouvre « la boîte noire » avec un service cloud d’ analyse des décisions prises par les algorithmes.

« Nous apportons une nouvelle transparence et un nouveau contrôle aux entreprises qui utilisent l’IA et font face aux risques les plus potentiels liés à une prise de décision erronée. » explique Beth Smith , directrice générale de Watson AI chez IBM. 

Premier objectif :  expliquer les décisions en déterminant les facteurs qui les ont influencées. Second objectif : détecter d’éventuels biais et recommander des mesures pour les éliminer.

L’évaluation s’effectue, au fur et à mesure, pendant l’exécution des modèles, sur trois critères : précision, performance et impartialité (« fairness »).

ibm-ai

Le logiciel traite les algorithmes développés avec IA Watson mais gère aussi les environnements TensorFlow (Google), SageMaker (AWS), AzureML (Microsoft) et SparkML (plate-forme Apache Spark). Il peut être personnalisé pour s’adapter à plusieurs processus de prise de décision. 
Toutes les fonctionnalités, y compris celles liées à des problématiques de conformité, comme le RGPD, sont accessibles via des tableaux de bord. 

IBM affiche une volonté d’ouverture avec la mise à disposition de AI Fairness 360, un ensemble d’outils de détection (sur la base de 30 indicateurs) et de réduction des biais (9 algorithmes correctifs) pour la communauté open source. 

ai-fairness-360

« Ces développements font suite à de nouvelles recherches effectuées par l’ IBM Institute for Business Value d’IBM , qui révèle que si 82% des entreprises envisagent des déploiements d’IA, 60% craignent des problèmes de responsabilité et 63% manquent de compétences pour gérer la technologie en toute confiance. » indique IBM.

 

 

 

 


Lire la biographie de l´auteur  Masquer la biographie de l´auteur