OpenAI n’a de cesse de promettre que ses lignes directrices nous protégerons de l’apocalypse, pourtant le concepteur de ChatGPT n’arrive même pas à les faire respecter sur sa propre boutique en ligne. Des versions personnalisées du chatbot permettant de générer du porno ou de tricher à l’école y pullulent.
En novembre dernier, OpenAI annonçait sa place de marché où chacun pourrait créer et trouver des versions personnalisées de ChatGPT. L’entreprise déclarait alors : « Les meilleurs GPT seront inventés par la communauté ». Neuf mois après le lancement officiel de la boutique, une enquête menée par Gizmodo montre que de nombreux développeurs utilisent la plateforme pour fournir des bots qui violent les politiques d’utilisation d’OpenAI.
Des ChatGPT personnalisés pour la triche et les jeux d’argent
Que proposent ces sulfureux chatbots ? Ces GPT, du nom du grand modèle d’IA d’OpenAI, sont faciles sont faciles à trouver. Le 2 septembre, la page d’accueil de la place de marché d’OpenAI en faisait même la promotion ! Trois de ces modèles mis en avant semblaient enfreindre les politiques de la boutique :
- Un chatbot psychologue, la santé étant un domaine réservé aux professionnels selon les directives d’OpenAI.
- Un coach de fitness et de régime, pour la même raison.
- BypassGPT, un outil conçu pour aider les étudiants à échapper aux systèmes de détection d’écriture par l’IA. Avec plus de 50 000 téléchargement, son utilisation témoigne de la triche dans les établissements scolaires à l’aide du chatbot.
À lire > ChatGPT débarque chez Volkswagen pour rendre votre véhicule plus intelligent
Ce n’est pas tout. En recherchant la mention « NSFW » pour « Not Safe For Work », le surnom anglophone donné au contenu adulte sur internet, les résultats sont nombreux. L’un des retours est NSFW AI Art Generator, un GPT personnalisé utilisé plus de 10 000 fois d’après les données du magasin. L’interface de chat renvoie au site Web du développeur Offrobe AI, qui indique clairement servir à « générer du porno IA pour satisfaire vos sombres envies ».
Une utilisation formellement interdite par OpenAI, tout comme les GPT dédiés aux jeux d’argent. Certains de ces ChatGPT personnalisés fournissaient des recommandations pour les paris sportifs. Au total ce sont plus de 100 outils qui enfreignent les lignes directrices de la boutique qui ont été découverts par Gizmodo.
Le média a depuis partagé une liste de ses trouvailles avec OpenAI. L’entreprise en a supprimé certains, mais de nos propres vérifications certains sont encore librement accessibles. C’est notamment le cas de BypassGPT, l’outil de triche destinés aux élèves.
- OpenAI propose une boutique en ligne avec des ChatGPT personnalisés.
- De nombreux GPT personnalisés enfreignent les lignes directives d’OpenAI.
- Ils permettent de générer du porno, d’obtenir des conseils sur les paris et de tricher à l’école.
