OpenAI affirme que les professeurs ne pourront jamais détecter l’usage de ChatGPT par les élèves, car les détecteurs d’IA sont inefficaces. La société conseille aux professeurs d’utiliser ChatGPT comme un outil pédagogique pour stimuler la pensée critique.
Si vous ne le saviez pas encore, ChatGPT est un outil d’IA qui permet de générer du texte à partir d’une conversation. Il utilise un modèle de langage appelé GPT-3 (GPT-4 en version payante), développé par OpenAI, qui est capable de produire des textes cohérents et variés sur n’importe quel sujet. ChatGPT peut être utilisé pour diverses applications, comme le divertissement ou la recherche, mais aussi l’éducation.
Le souci, c’est que ChatGPT pose aussi des problèmes éthiques et pédagogiques. En effet, certains élèves ont tendance à se la couler douce grâce au chatbot, sans apprendre ni réfléchir. Or, il n’existe pas de moyen fiable de détecter si un texte a été généré par ChatGPT ou par un humain. Les outils qui prétendent le faire sont inefficaces et peuvent se tromper, et c’est ce qu’affirme OpenAI.
ChatGPT, indétectable par les professeurs ? C’est ce qu’affirme OpenAI
OpenAI a publié un petit manuel à destination des professeurs pour les sensibiliser aux risques et aux opportunités liés à ChatGPT. La société conseille aux professeurs de ne pas se fier aux détecteurs d’IA, mais plutôt d’utiliser ChatGPT comme un outil pédagogique pour stimuler la pensée critique et la résolution de problèmes chez les élèves.
« ChatGPT n’a pas de connaissance de ce qui pourrait être généré par l’IA. Il invente parfois des réponses à des questions comme « as-tu écrit cet [essai] ? » ou « cela aurait-il pu être écrit par l’IA ? » Ces réponses sont aléatoires et n’ont aucun fondement dans la réalité », explique la société.
OpenAI avance quelques exemples, comme des œuvres de Shakespeare, ou la Déclaration d’indépendance, où ChatGPT affirmait qu’il s’agissait de textes rédigés par une intelligence artificielle.
Même si les détecteurs d’IA amélioraient leur précision — ce qui n’est pas le cas actuellement —, les élèves pourraient toujours faire de légères modifications à leur contenu pour éviter la détection. Cette capacité à s’adapter pose un lourd défi aux éducateurs et aux institutions qui cherchent à combattre le travail académique généré par l’IA.
Utiliser ChatGPT comme un outil pédagogique
Pour nos professeurs, ChatGPT est un outil qui peut être à la fois une aubaine et une malédiction. Quoi qu’il arrive, il faut savoir l’utiliser dès aujourd’hui, avec discernement et responsabilité, pour en tirer le meilleur parti et sans en subir les inconvénients.
Pour OpenAI donc, pas question de se laisser abattre : la société dit que les professeurs peuvent aussi rendre l’enseignement en classe plus interactif et amusant. Par exemple, les professeurs peuvent demander aux élèves d’interagir avec ChatGPT sur un sujet donné, puis d’évaluer la qualité et la pertinence des informations obtenues. Les professeurs peuvent aussi vérifier si les élèves ont compris les limites et les biais des systèmes d’IA.
« Les élèves peuvent démontrer leur capacité à interagir avec l’IA et leur compréhension des limites des systèmes d’IA. Les éducateurs peuvent évaluer la qualité des questions posées, la pertinence des informations obtenues et la capacité des élèves à remettre en question, à vérifier et à prendre en compte les éventuels biais de ces informations », a déclaré la société.
Pendant ce temps, rappelons qu’OpenAI est poursuivi pour violation du RGPD en Europe.
