Formation : Salesforce affine le machine learning de Trailhead

Salesforce a annoncé l’intégration de nouveaux modules dans sa plate-forme de formation Trailhead.

La mise à jour en question permet aux développeurs, aux rédacteurs et aux cadres qui animent la plate-forme d’utiliser l’IA de façon responsable et les sensibiliser à l’impact qu’elle peut avoir sur les utilisateurs et l’entreprise.

Il faut dire que le fonctionnement d’une IA reste bien souvent totalement opaque pour l’utilisateur.

Mieux comprendre le fonctionnement des algorithmes

C’est d’autant plus le cas en raison de la présence d’algorithmes d’apprentissage automatique qui évoluent au fur et à mesure du traitement des données. Et justement comment évoluent-ils ? Restent-ils dans l’éthique convenue, sont-ils réellement partiaux  ?

Pour limiter les déviances, la mise à jour ajoute donc ces nouveaux modules Trailhead, conçus pour aider les clients à mieux comprendre le contenu d’un modèle d’IA.

Avec eux, ils pourront exclure certaines données qui parasitent l’IA et identifier ses déviances facilement.

Autrement dit, les utilisateurs vont pouvoir surveiller l’évolution des algorithmes afin qu’ils évitent de biaiser les résultats par « préjugés ».

Les inévitables biais du machine learning

Dernièrement, une étude de quatre chercheurs français a révélé que les algorithmes ont tendance à reproduire les valeurs implicites des humains. Et donc à guider parfois vers des décisions biaisées par rapport à un comportement rationnel ou à la réalité.

Une partie des biais repérés sont dits « cognitifs ». Ils sont liés à la manière dont les algorithmes sont écrits. Le programmeur peut avoir suivi des modélisations populaires sans s’assurer de leur exactitude (cas du « mouton de Panurge »). Il peut aussi favoriser sa vision du monde (biais d’anticipation et de confirmation) ou encore déceler des corrélations entre deux événements indépendants (biais de « corrélations illusoires »).

D’autres biais sont dits « statistiques » concernent en premier lieu les données d’entrée – en d’autres termes, celles sur lesquelles les algorithmes s’entraînent.

Les biais des algorithmes peuvent également avoir une motivation financière. Ce sont les biais économiques. Google favorisant ses propres services dans son moteur de recherche en est une parfaire illustration.

Recent Posts

Cyberattaques d’États-nations : les RSSI sonnent l’alarme

Pour 8 professionnels de la sécurité IT sur 10, les entreprises ne peuvent exclure d'être…

4 heures ago

Ransomware : où en sont Umanis et les collectivités du Val-de-Marne ?

Vincennes, Alfortville et l'ESN Umanis ont toutes trois subi, ce mois-ci, une cyberattaque impliquant probablement…

6 heures ago

Orange Business Services étend sa couverture AWS

Cet été, Orange étendait sa collaboration avec Google Cloud. Sa filiale OBS fait désormais de…

9 heures ago

IBM France : un plan social majeur prend forme

IBM France vient de communiquer le périmètre et la volumétrie envisagés pour son plan social…

11 heures ago

AIOps : Dynatrace et ServiceNow renforcent leur alliance

Dynatrace et ServiceNow ont conforté l'intégration entre leurs plateformes d'observabilité applicative et de réponse automatisée…

1 jour ago

Deloitte Tech Fast 500 : le secteur logiciel bat des records

L'industrie du logiciel représente 355 des 500 entreprises affichant le plus fort taux de croissance…

1 jour ago