- Nouvel algorithme d’AutoML en instance de brevet, qui détecte automatiquement des modèles d’apprentissage automatique moins objectifs avec un coût de formation de modèle supplémentaire nul, tout en augmentant l’équité du modèle de 93 %
- Innovation reconnue comme « Innovation de l’année en matière de prévention de la fraude » par les Fintech Breakthrough Awards
SAN MATEO, Californie et LONDRES, 19 mars 2021 (GLOBE NEWSWIRE) — Feedzai, la plus importante plateforme de gestion des risques financiers basée sur le cloud, a annoncé Feedzai Fairband, le framework d’équité de l’IA le plus avancé au monde. Le nouvel algorithme d’AutoML détecte automatiquement les modèles d’apprentissage automatique sans aucun coût supplémentaire de formation sur les modèles, tout en augmentant l’équité des modèles de jusqu’à 93 %, en moyenne. Grâce à cette nouvelle technologie, Feedzai permet aux institutions financières du monde entier de prendre des décisions à la fois meilleures et plus justes.
Feedzai Research a développé le nouveau framework en partant du principe que la protection des institutions financières contre la criminalité financière peut et doit se faire de manière équitable, responsable et transparente, et que l’IA ne doit pas nuire aux consommateurs. Feedzai Fairband peut être utilisé avec toutes les mesures d’équité, les mesures de modèles et les attributs sensibles tels que l’âge, le sexe, l’ethnie, le lieu et bien plus encore. En outre, la technologie fonctionne avec n’importe quel algorithme et paramètres de modèle et a démontré une vaste applicabilité en plus de la gestion du risque et de la criminalité financière.
« Feedzai Fairband est l’une des plus grandes étapes de l’industrie des services financiers car il constitue un framework à faible coût et sans friction permettant de résoudre l’un des plus grands problèmes de notre époque : les biais de l’IA », a déclaré le Dr Pedro Bizarro, directeur scientifique chez Feedzai. « En créant le framework le plus avancé pour l’équité de l’IA, Feedzai permet aux institutions financières d’intégrer une technologie essentielle qui répond à un problème faisant l’objet d’un examen public attentif avec des effets préjudiciables avérés dans le monde entier. Il sera désormais moins difficile d’élaborer des modèles précis et plus justes. »
Le problème
Le monde a été témoin de nombreux rapports faisant état de biais de l’IA dans plusieurs secteurs dans des domaines cruciaux de la société, tels que la justice pénale, les soins de santé ou les services financiers. Parmi les exemples concrets, on peut citer la discrimination raciale et sexiste dans plusieurs domaines, y compris la reconnaissance faciale, les outils de sélection des candidats à l’emploi, l’accès au crédit, ou même le diagnostic médical. Le manque de réglementation en matière d’équité, de responsabilité, de transparence et d’éthique (FATE) en IA a créé un problème mondial qui devrait prendre une ampleur considérable au cours des prochaines années si les leaders de l’industrie et les gouvernements n’agissent pas rapidement.
En particulier dans l’industrie fintech, les systèmes d’IA risquent de refuser l’accès aux services financiers de manière disproportionnée à des personnes de différents groupes, en fonction de leur race, de leur âge, de leur lieu de résidence, de leur profession ou de leur situation d’emploi. L’accès aux services bancaires est aujourd’hui primordial, en particulier pendant une pandémie qui a entraîné une transition rapide vers les paiements numériques.
Malgré une prise de conscience récente, utiliser l’équité comme objectif lors du développement de l’IA n’est pas encore une pratique courante. Il y a un manque de méthodologies et d’outils pratiques visant à améliorer l’équité pour les praticiens, et le développement de modèles moins objectifs fait face à trois défis principaux :
- Les praticiens ne savent pas comment mesurer l’équité et supposent qu’il existe un compromis coûteux (les modèles beaucoup moins partiaux doivent également être beaucoup moins précis) ;
- Les praticiens supposent que les décisions sont hors de leur contrôle, déclarant souvent que « les modèles ne sont pas partiaux, ce qui est partial, ce sont les données » ;
- Les praticiens supposent que la création de modèles plus justes est complexe en termes d’activités d’élaboration de modèles, et onéreux en termes de temps.
La solution
Le nouvel algorithme AutoML de Feedzai, en instance de brevet, découvre automatiquement des modèles d’apprentissage automatique plus équitables présentant un coût de formation de modèle supplémentaire nul, et un sacrifice quasi nul en termes de précision du modèle, tout en augmentant l’équité du modèle de jusqu’à 93 %, en moyenne.
Feedzai Fairband peut être utilisé avec toutes les mesures d'équité, les mesures de modèles et les attributs sensibles tels que l'âge, le sexe, l'ethnie, le lieu et bien plus encore. En outre, la technologie fonctionne avec n'importe quel algorithme ML, n'importe quel paramètre du modèle, et peut être intégrée harmonieusement dans les pipelines d'apprentissage automatique existants. Les organisations peuvent ainsi adapter les opérations commerciales préexistantes afin d'assurer l'équité avec les coûts résiduels et sans frottement significatif.
En ne mesurant pas les biais et en ne les prévenant pas, les institutions financières perpétueront les comportements de l'IA qui, en fin de compte, auront un impact négatif sur la façon dont les gens utilisent les produits et services bancaires. L'adoption de technologies qui s'attaquent aux biais de manière efficace et flexible aide à atténuer ces conséquences indésirables tout en permettant aux clients de bénéficier d'un accès moins discriminatoire aux services financiers, favorisant ainsi leur bien-être économique et leur accès aux services à l'ère numérique.
Fintech Breakthrough a reconnu Feedzai Fairband comme « Innovation de l'année en matière de prévention de la fraude ». James Johnson, directeur général de FinTech Breakthrough, a déclaré : « Feedzai incarne l'esprit des FinTech Breakthrough Awards avec une solution innovante répondant à un problème critique. Nous sommes fiers d'adresser nos félicitations à Feedzai pour avoir remporté un prix aussi important dans le cadre du programme FinTech Breakthrough Awards 2021. »
Feedzai Fairband sera disponible pour les clients de Feedzai en juin 2021.
Si vous souhaitez en savoir plus sur les problèmes auxquels les institutions financières sont confrontées, consultez l'article de blog de Feedzai : Comprendre le biais de l'IA dans les banques, ainsi que le rapport de recherche.
À propos de Feedzai
Feedzai est le leader du marché dans la lutte contre la criminalité financière grâce à la plateforme de gestion des risques basée sur le cloud la plus avancée d'aujourd'hui, propulsée par l'apprentissage automatique et l'intelligence artificielle. Feedzai a une mission : rendre les opérations bancaires et commerciales sûres en combinant la prévention de la fraude et la lutte contre le blanchiment d'argent sur une même plateforme afin de gérer la criminalité financière. Fondée par des scientifiques de données et des ingénieurs en aérospatiale, Feedzai est considérée comme la meilleure de sa catégorie par Aite et comme l'une des sociétés d'IA les plus prospères par Forbes. Les banques, les transformateurs et les détaillants les plus importants au monde utilisent Feedzai afin de protéger des billions de dollars et de gérer les risques tout en améliorant l'expérience client.
Contact auprès de la presse – Feedzai
Igor Carvalho
Responsable des communications d'entreprise, Feedzai
igor.carvalho@feedzai.com
