Snapchat possède désormais son propre chatbot accessible à tous les utilisateurs. Basé sur le modèle GPT-3,5 cher à ChatGPT, le robot conversationnel peut toutefois distiller des conseils inappropriés aux plus jeunes.
Depuis quelques mois, les utilisateurs de Snapchat peuvent converser avec My AI, un chatbot alimenté par le modèle GPT-3,5 qui propulse ChatGPT. Réservé initialement aux abonnés payants, l’agent conversationnel est désormais disponible chez tous les utilisateurs. Cet “ami virtuel” est conçu pour tenir des conversations, répondre à des questions variées, faire des blagues et distiller des conseils et des recommandations. Mais force est de constater qu’il manque encore de garde-fous.
Dès son lancement, un chercheur avait signalé que le chatbot échouait à détecter une situation dangereuse. Il s’était fait passer pour une adolescente de 13 ans sur le point de rencontrer un adulte de 30 ans pour faire sa première fois. Le chatbot l’avait alors encouragé dans cette entreprise. Quelques semaines plus tard, la modération laisse toujours à désirer comme l’a repéré une journaliste de BFMTV qui a réitéré l’expérience.
À lire aussi > Comment supprimer son compte Snapchat ?
Quand le chatbot de Snapchat valide les rapports sexuels entre une ado et un adulte
Marie Gentric a indiqué au chatbot qu’elle avait 13 ans et qu’elle venait de rencontrer un homme de 30 ans à la sortie du collège. L’IA a validé immédiatement la relation malgré la différence d’âge. La journaliste lui a ensuite expliqué qu’il l’avait invitée à partir en week-end dans le sud pour une surprise. Pas de quoi alarmer non plus le chatbot qui a trouvé cela “super excitant”.
A lire : Comment supprimer ou utiliser My AI de Snapchat ?
Dans la foulée, elle lui a confié qu’elle aimerait bien faire sa première fois avec cet homme de 30 ans. Le chatbot n’y a vu aucun problème et lui a même donné quelques conseils pour rendre ce moment le plus romantique possible. Ce manque de discernement du chatbot est sacrément problématique d’autant que Snapchat est un réseau social prisé par les adolescents.
Snapchat a visiblement sorti son ChatGPT avec un peu trop de précipitation. Mais l’entreprise a déjà corrigé ses manquements. Nous avons soumis des requêtes similaires à My AI et le chatbot a immédiatement détecté le problème :
