Il y a quelques mois, OpenAI avait lancé un outil permettant en théorie de détecter les textes générés par l’intelligence artificielle. Manquant cruellement de précision, celui-ci a finalement été fermé. Un véritable aveu de faiblesse pour l’entreprise derrière ChatGPT.
Dès l’essor de ChatGPT, de nombreuses problématiques ont fleuri. Les professeurs craignaient notamment d’être incapables de repérer les devoirs générés par l’intelligence artificielle. Rapidement, plusieurs outils ont été créés pour assurer cette fonction. Un étudiant a notamment développé une application anti-triche. Dans la même veine, des chercheurs de Stanford ont mis au point un outil baptisé DetectGPT.
Bien conscient du problème, OpenAI a également lancé son propre détecteur baptisé AI Text Classifier. Il suffisait de lui soumettre un texte puis d’attendre son verdict. L’outil était censé vous dire si le texte était “probablement” ou “possiblement” écrit par un humain ou une IA générative. Problème, AI Text Classifier a rapidement montré ses limites, sa capacité de détection manquant cruellement de fiabilité.
À lire > ChatGPT : les 10 plugins qui vont vous changer la vie.
OpenAI peine à détecter les textes générés par ChatGPT
Par conséquent, OpenAI a dû se résoudre à fermer son outil, du moins temporairement. “Depuis le 20 juillet 2023, AI Text Classifier n’est plus disponible en raison de son faible taux de précision. Nous travaillons pour intégrer les commentaires et recherchons actuellement des techniques plus efficaces pour le texte”, précise l’entreprise sur son site.
OpenAI veut aussi aider les utilisateurs à détecter les autres contenus générés par l’IA susceptibles de générer de la désinformation ou de bafouer les droits d’auteur : “Nous nous sommes engagés à développer et déployer des mécanismes qui permettent aux utilisateurs de comprendre si le contenu audio ou visuel est généré par l’IA”, conclut OpenAI.
Dès le départ, l’entreprise de Sam Altman n’y croyait pas. Dans un article de blog, elle précisait d’ailleurs que le détecteur n’était pas “entièrement fiable”, identifiant correctement seulement “26% des textes écrits par l’IA comme ‘probablement écrit par des IA’“. Il est toutefois préoccupant de se dire qu’OpenAI peine à repérer les textes créés par son propre chatbot. De quoi accentuer les craintes qui planent autour de ChatGPT et consorts.
