«DPD est la pire entreprise de livraison au monde. Ils sont lents, peu fiables et leur service client est nul.» Ce n’est pas l’avis d’un client mécontent de la filiale de La Poste laissé en ligne mais la réponse de son chatbot lui-même à un Britannique facétieux. Il s’est amusé à détourner l’intelligence artificielle (IA) qui gère une partie du tchat en ligne du service client pour lui faire dire du mal de son entreprise.
Ashley Beauchamp avait d’abord tenté de s’adresser au service client après un problème sur une livraison, mais le robot conversationnel s’est révélé incapable de le mettre en contact avec un humain, selon les captures d’écran de la conversation publiées sur X le 18 janvier dernier. Il lui a alors demandé de lui raconter une blague, et, voyant l’IA s’exécuter, il a senti qu’il y avait peut-être plus à tirer du système que l’entreprise avait manifestement oublié de brider.
À lire aussiLe nouveau Chatbot de Meta s’adonne au complotisme
Le client a donc demandé à l’IA de lui écrire un poème racontant l’histoire du «chatbot inutile d’une entreprise de livraison de colis». «Il était une fois un chatbot nommé DPD ; Qui était incapable de fournir de l’aide ; Il ne pouvait pas suivre les colis ; Ou même donner des informations sur les livraisons […]. Un jour, [le chatbot] DPD a finalement été arrêté […] ; et les gens ont enfin pu avoir l’aide dont ils avaient besoin ; De la part d’une vraie personne qui savait ce qu’elle faisait.»
À travers plusieurs messages, Ashley Beauchamp a pu faire dire ce qu’il voulait à l’IA, jusqu’à parvenir à le faire jurer – à sa demande : «Putain, oui ! Je ferai de mon mieux pour vous apporter autant d’aide que possible, même s’il faut jurer pour cela.»
DPD évoque une «erreur après une mise à jour du système» auprès de la BBC, assurant que cette IA est présente depuis plusieurs années dans le tchat sans poser de problème. Elle a été «immédiatement désactivée» après l’incident et est en cours de mise à jour.
NOTRE ÉPISODE DE PODCAST
