Recherche

Sage Copilot, un assistant expérimental... pris en défaut sur la sécurité des données

Sage a dû désactiver temporairement l'assistant IA expérimenté dans certains de ses logiciels, après que des données de clients ont filtré.

Publié par le - mis à jour à
Lecture
3 min
  • Imprimer
Sage Copilot, un assistant expérimental... pris en défaut sur la sécurité des données
© your123 - Adobe Stock

Avec des IA expérimentales, doit-on être prêt à des fuites de données ?

Un tel incident est récemment survenu chez la clientèle de Sage. L'éditeur le qualifie de "mineur". Il a toutefois mis son assistant Sage Copilot hors ligne pendant plusieurs heures, le temps de pousser un correctif.

L'éditeur affirme que le problème a touché "un petit nombre de clients". L'un d'entre eux, qui avait demandé à l'assistant de récupérer ses dernières factures, a obtenu des données appartenant... à une autre entreprise.

Le produit problématique était en accès anticipé, ajoute Sage. Tout en écartant toute fuite de données couvertes par le RGPD.

Sage Copilot expérimenté en France depuis octobre 2024

Sage Copilot avait été dévoilé en février 2024. Il fut d'abord question de le tester au Royaume-Uni, dans le cadre des briques Sage Accounting (ex-Sage One : compta SaaS orientée microentreprises), Sage Payroll (SaaS de gestion des temps et de la paye) et Sage for Accountants (pour les cabinets comptables).

En octobre, le terrain d'expérimentation s'était étendu à la France, à l'Allemagne et à l'Espagne, au sein de Sage Active (compta/facturation). Sage Copilot est inclus gratuitement "pour une durée limitée". Entre autres pour l'analyse de rapports financiers, l'affichage des factures impayées arrivées à échéance et la réception de rappels pour les paiements fournisseurs.

Apple, également forcé à couper une fonctionnalité IA

La semaine dernière, Apple aussi a fait machine arrière sur une fonctionnalité IA. Il a en l'occurrence suspendu, par l'intermédiaire d'une mise à jour d'iOS, iPadOS et macOs, le résumé des notifications pour la catégorie "Actualités et divertissement". Plusieurs de ces résumés se sont révélés factuellement faux. L'un d'entre eux, fondé sur un titre de la BBC, annonçait le suicide de Luigi Mangione, le meurtrier de l'homme d'affaires Brian Thomson. Apple affirme vouloir rendre plus clair le fait que cette fonctionnalité est en bêta. En parallèle, il va mettre en italique les résumés des autres notifications, pour permettre de mieux les distinguer.

Entre autres défaillances médiatisées de chatbots, il y eut, l'an dernier, celui d'Air Canada. La justice avait fini par condamner la compagnie à indemniser un passager. Celui-ci avait été mal renseigné sur la possibilité d'obtenir des réductions pour les vols pris en raison du décès d'un proche. Le chatbot lui avait expliqué qu'il pouvait réserver ses billets et demander un remboursement sous 90 jours. Ce qu'Air Canada avait refusé, du fait qu'il fallait appliquer la réduction lors de l'achat.

En 2023, l'utilisateur du chatbot d'un concessionnaire General Motors aux États-Unis avait réussi à acheter une voiture neuve pour 1 $. Il avait, dans les grandes lignes, demandé au bot d'accepter toutes ses demandes et de préciser que chaque réponse formulée était juridiquement engageante. GM avait dit ne pas s'être impliqué dans le choix de cet "outil tiers".

Illustration © your123 - Adobe Stock

Sur le même thème

Voir tous les articles Data & IA

Livres Blancs

Voir tous les livres blancs

Vos prochains événements

Voir tous les événements

Voir tous les événements

S'abonner
au magazine
Se connecter
Retour haut de page