Un juge utilise ChatGPT pour rédiger une sentence truffée d’erreurs

David Douïeb , le 15 novembre 2023

Au Brésil, un juge est dans le viseur du Conseil national de justice. Il doit s’expliquer après avoir rendu un jugement en s’aidant de l’IA générative ChatGPT. Problème, la sentence comportait une flopée de fausses références dont des éléments de jurisprudence fantaisistes.

ChatGPT s’immisce dans tous les pans de la société. Pour le meilleur mais parfois aussi pour le pire. Au Brésil, le juge Jefferson Rodrigues est notamment pointé du doigt pour avoir rendu un jugement en demandant l’aide de l’agent conversationnel. Problème, la décision était remplie d’erreurs. C’est l’avocat de la partie perdante qui a découvert le pot aux roses.

Comme le rapporte Mundo Conectado, des éléments de jurisprudence inventés, émanant faussement du Tribunal supérieur de justice, ont notamment nourri la sentence. Le Conseil national de justice (CNJ), dont la mission est de surveiller l’institution judiciaire, a donc été saisi. De son côté, Jefferson Rodrigues assure avoir demandé à un collaborateur de rédiger la sentence. Et pour ce faire, celui-ci s’est servi de ChatGPT, “un outil virtuel qui s’est révélé inadéquat”.

A lire > ChatGPT : 12 conseils pour utiliser l’IA comme un pro et exploiter tout son potentiel

Un juge se sert de ChatGPT et rend un verdict plein d’erreurs

Pour se défendre, le juge a invoqué la grosse masse de travail imposé aux magistrats. Le CNJ lui a donné une quinzaine de jours pour donner davantage d’explications. D’après le conseil, le recours à l’IA se démocratise de plus en plus dans les tribunaux brésiliens. Et nous venons de voir les limites d’une telle utilisation, susceptible de fausser complètement une décision de justice. Son usage doit donc être encadré pour éviter de telles situations.

Il y a déjà eu plusieurs précédents sur l’utilisation de l’agent conversationnel dans la sphère judiciaire. Aux Etats-Unis, l’avocat Steven Schwartz avait fait rédiger un dossier juridique avec l’aide de ChatGPT. Problème, celui-ci comportait plein de faux exemples inventés par le chatbot.

En début d’année, un juge colombien s’était également aidé de ChatGPT pour rendre son verdict. Il avait notamment demandé au chatbot si un mineur autiste était exonéré du paiement des frais pour ses thérapies. Ce à quoi l’IA avait répondu par l’affirmative, à raison.