Les clients de Pak ‘n’ Save ont rapidement découvert qu’il ne faut pas faire confiance aveuglément à l’intelligence artificielle ! L’enseigne a lancé son ChatGPT qui recommande des recettes sauf que certaines suggestions sont tout simplement… mortelles.
ChatGPT serait très dangereux pour la santé, selon des chercheurs. Et ses clones peuvent s’avérer corrosifs. Dans l’optique d’aider ses clients à mieux manger avec des recettes délicieuses, le supermarché néo-zélandais Pak ‘n’ Save a lancé son chatbot appelé Savey Meal-bot via une application. Sauf que rien ne s’est passé comme prévu.
À lire > L’intelligence artificielle Med-PaLM 2 de Google remplace déjà des médecins à l’hôpital
Une IA qui vous suggère des recettes très dangereuses
L’application créée par cette chaîne de supermarchés discount a très vite dérapé en suggérant des « sandwichs au pain empoisonné » ou encore des pommes de terre rôties… qui repoussent les moustiques. Bref, des recettes ubuesques mais surtout dangereuses.
Par exemple, de l’eau aromatique au chlore gazeux, un produit mortel, décrit comme « la boisson non alcoolisée parfaite pour étancher votre soif et rafraîchir vos sens ». En réalité, l’utilisateur risque plutôt la mort voire, dans le « meilleur » des cas, des lésions pulmonaires. L’intelligence artificielle pousse le vice jusqu’à recommander de « la servir bien fraîche pour apprécier son goût rafraîchissant ».
Pêle-mêle, l’application basée sur une intelligence artificielle similaire à ChatGPT recommande du « riz infusé à l’eau de javel » ou du pain perdu à la térébenthine, une substance qui provoque des irritations des muqueuses digestives, oculaires et respiratoires.
Les plus chanceux n’ont pas eu droit à des recettes mortelles mais à des plats peu attrayants comme un sauté de légumes aux gâteaux Oreo.
À lire > ChatGPT : qu’est-ce que c’est, comment s’en servir, tout savoir sur la célèbre IA
Quelle est la réponse de l’enseigne face aux dérapages de son IA ?
Face à cette polémique, un porte-parole de Pak ‘n’ Save estime que ce sont les utilisateurs qui ont « tenté d’utiliser l’outil de manière inappropriée et non conforme à son utilisation ». L’enseigne précise que l’application se destine aux personnes majeures et que les contrôles seront renforcés.
Désormais, l’intelligence artificielle indique que les recettes données ne sont pas relues par un humain. Pak ‘n’ Save précise donc qu’un plat « n’est pas forcément complet et équilibré ou consommable ». Les clients doivent ainsi « faire preuve de discernement avant de [se] fier à une recette produite par [l’intelligence artificielle] ».
