De nos jours, de plus en plus de sociétés optent pour l’intégration de l’intelligence artificielle dans leurs stratégies commerciales. Cependant, bien que cette technologie soit encore relativement récente, elle n’est pas exempte d’erreurs. Cela signifie que les entreprises doivent faire preuve d’une vigilance accrue lors de sa mise en place pour éviter tout incident ou dysfonctionnement potentiel.
Les Risques liés à l’Utilisation de l’Intelligence Artificielle
Il y a tellement de battage autour de l’intelligence artificielle que tout ne peut pas être aussi magique que certains le prétendent, surtout avec des technologies finalement très jeunes. Car, on le rappelle, ChatGPT n’existait pas, il y a encore 18 mois. C’est ce qu’ont appris plusieurs entreprises à leurs dépens, notamment après avoir basculé leur service client vers un robot dopé à l’IA. Celui du transporteur DPD s’est, par exemple, mis à se moquer de son propre employeur, disant aux clients qu’ils seraient mieux servis par un être humain.
Les Déboires de l’Intelligence Artificielle
L’entreprise prétend que c’est un bug, mais la réalité, c’est que bien souvent, ces outils sont déployés un peu vite, sans avoir été testés en profondeur. Du coup, on peut leur faire faire n’importe quoi. Quelqu’un a réussi comme cela à acheter une voiture neuve à un dollar, rien qu’en discutant avec le robot d’un concessionnaire californien. Parfois, ce sont tout simplement de fausses informations qui sont diffusées. Air Canada a ainsi été condamnée à appliquer une remise qui avait été promise par erreur, par son chatbot. La compagnie a eu beau répéter que l’outil était expérimental, elle a quand même été tenue responsable. Preuve qu’il faut faire très attention avant de mettre ces outils face au public.
Les Risques de Confidentialité
C’est peut-être pour ça que beaucoup d’entreprises privilégient l’interne. Mais là aussi, il faut faire attention, notamment à qui on donne accès aux informations. Une entreprise a, par exemple, basculé tous ses documents RH sur un outil genre ChatGPT. C’est pratique, cela permet de faire des analyses très poussées. Sauf qu’il suffit de demander « donne-moi les fiches de paie de la direction » et il répond gentiment à n’importe qui ayant accès à l’outil. Encore une fois, ce genre de déboires était inévitable avec des outils aussi peu matures. La bonne nouvelle, c’est que cela va servir de leçon pour faire un peu plus attention.
