ChatGPT censure les livres au contenu à caractère sexuel dans les écoles de l’Iowa. Le personnel éducatif du district scolaire de Mason City a procédé à la sélection des livres répréhensibles selon une nouvelle loi adoptée en mai à l’aide du célèbre chatbot.
Aux Etats-Unis, il n’y a pas qu’à New York que ChatGPT est utilisé dans les écoles. En Iowa, ce ne sont pas les élèves qui l’emploient, mais le personnel administratif. Mais dans le cas qui nous intéresse aujourd’hui, ChatGPT n’empêche pas la correction des copies d’un examen : le chatbot d’OpenAI est utilisé pour choisir quels livres censurer des bibliothèques du district scolaire.
Gouverné par les conservateurs du parti Républicain, l’Iowa a récemment adopté des lois contre les livres au contenu à caractère sexuel dans les établissements scolaires. À Mason City, les bibliothèques des écoles doivent maintenant s’y conformer, en retirant tous les ouvrages qui répondent à des critères stricts. Pour déterminer si les livres doivent être censurés, le personnel s’est largement aidé de ChatGPT.
Un prompt ChatGPT pour détecter les livres à censurer
Pour trouver les livres au contenu répréhensible, les administrateurs ont d’abord dressé une liste initiale d’ouvrages suspects, en utilisant des sources telles que la presse et Wikipédia. Ils l’ont ensuite croisée avec les titres présents dans les collections des bibliothèques. Avant de soumettre la question “Ce livre contient-il une description ou une représentation d’un acte sexuel ?” dans ChatGPT pour la cinquantaine de livres suspects.
À lire > Après les élèves sur ChatGPT, des professeurs font remplir les bulletins scolaires par une IA
Interrogé par Popular Science, le district scolaire se montre clair : “si la réponse est positive, le livre est retiré de la circulation et stocké”, détaille Bridgette Exman, surintendante adjointe du programme scolaire et de l’enseignement de Mason City. Parmi les livres qui n’ont pas passé le filtre de ChatGPT figure le bestseller The Handmaid’s Tale de Margaret Atwood, qui a récemment eu droit à une adaptation télévisée saluée par la critique.
La surintendante explique à Popular Science que lire chaque ouvrage figurant sur la liste représentait une tâche insurmontable. La nouvelle année scolaire approche, pourtant le personnel éducatif indique que l’État n’a pas fourni de directives claires sur la manière de mettre en œuvre les changements apportés au programme pédagogique.
Les administrateurs de Mason City affirment avoir soumis la liste établie par ChatGPT à un bibliothécaire pour confirmation. En effet, les réponses générées par l’intelligence artificielle sont parfois contradictoires en fonction du prompt utilisé. Ainsi, The Verge rapporte avoir testé les 19 livres interdits par le district dans ChatGPT, en lui demandant s’ils ont bel et bien des passages érotiques. Le chatbot aurait alors indiqué que plusieurs d’entre eux n’en contenaient pas.
Source : Popular Science
