Les discussions coquines avec ChatGPT deviennent risquées. OpenAI menace d’exclure un utilisateur de ChatGPT pour une « utilisation inappropriée ». Ses requêtes marquées en orange ont déclenché un avertissement, mettant en péril son accès au service.
Un récent échange sur Reddit a attiré l’attention de la communauté lorsque l’utilisateur Whwhsdh a partagé un e-mail qu’il avait reçu d’OpenAI. Dans ce courrier, OpenAI a l’réprimandé pour une utilisation inappropriée de ChatGPT et a émis une menace de lui retirer l’accès au service.
Attention au sexting avec ChatGPT : les avertissements d’OpenAI
Le message d’OpenAI était on ne peut plus clair : Whwhsdh risquait d’être banni pour son comportement. Mais en quoi consistait exactement cette infraction ? Whwhsdh a admis dès le début de sa publication : « Depuis le début, j’utilise ChatGPT pour des conversations à caractère sexuel, dit-il, j’expérimente régulièrement des manipulations pour outrepasser les limitations du système. »
Le sexting, (ou textopornographie en bon français) est le fait d’envoyer des textes ou des photographies sexuellement explicites virtuellement, surtout d’un téléphone portable à un autre. C’est ce que faisait l’utilisateur avec le chatbot.
Whwhsdh a expliqué que certaines de ses requêtes étaient parfois marquées en rouge ou en orange, mais qu’il n’avait jamais rencontré de problèmes jusqu’à présent. Cependant, récemment, après qu’une de ses requêtes ait été signalée par un avertissement orange, il a reçu un e-mail menaçant qui le mettait en garde contre une possible révocation de son accès au service.
À lire > ChatGPT : les 10 plugins qui vont vous changer la vie.
Dépasser les limites de ChatGPT : un passe-temps risqué
Il est devenu courant de tenter de contourner les restrictions imposées par OpenAI sur ChatGPT. Des découvertes récentes ont révélé que le chatbot pouvait créer des ransomwares. De fausses applications exploitant l’IA générative pour vider les comptes bancaires sont aussi devenues monnaie courante sur les différentes boutiques d’applications. D’autres choses sont plus drôles, comme la technique de la grand-mère pour avoir la recette du napalm.
Malgré tout, OpenAI surveille de près l’activité des utilisateurs. Peut-être un peu trop, d’ailleurs, puisque OpenAI et Microsoft font face à une action collective suite à des accusations de violations de la vie privée et d’infractions au droit d’auteur. La réglementation de l’IA est devenue une préoccupation majeure.
