Utiliser ChatGPT peut jouer des tours, parfois avec de graves conséquences. Deux avocats de New-York ont été condamnés à une amende très salée pour avoir cité de fausses affaires hallucinées par le chatbot d’OpenAI dans un dossier de plainte.
Outre que ChatGPT empêche la correction des copies d’examen, l’IA fait aussi obstruction à la justice. Ou plutôt son usage par des avocats peu scrupuleux qui n’auraient pu mieux s’y prendre pour prouver leur incompétence. Car si ChatGPT remplace les RH en rédigeant les lettres de licenciement à leur place, il semblerait qu’elle ne soit pas encore capable de prendre la place des juristes.
Des avocats aux États-Unis à l’origine d’un dossier judiciaire rempli de fausses citations ont été condamnés à une amende de 5 000 dollars après qu’un juge fédéral a estimé qu’ils avaient agi en mauvaise foi. Les avocats avaient employé ChatGPT pour constituer leur dossier, qui s’est évidemment retrouvé truffé de fausses affaires hallucinées par le chatbot !
ChatGPT piège des avocats flemmards de New-York
Le juge qui a examiné le dossier a infligé l’amende jeudi au cabinet Levidow, Levidow & Oberman P.C., estimant que deux des avocats du cabinet avaient sciemment évité d’indiquer que leurs citations étaient fausses et avaient fait des “déclarations trompeuses au tribunal“. Le magistrat a pris cette décision après une audience tenue le 8 juin au cours de laquelle il a interrogé Steven Schwartz et Peter LoDucadeux, les deux avocats fautifs.
Le cabinet et ses avocats “ont abandonné leurs responsabilités lorsqu’ils ont soumis des avis judiciaires inexistants avec de fausses citations créées par l’outil d’intelligence artificielle ChatGPT, puis ont continué à soutenir les faux avis après que des ordonnances judiciaires ont remis en question leur existence“, estime le juge dans sa décision rendue publique.
Les deux avocats avait déposé le dossier au nom de Roberto Mata, un client qui affirmait avoir été blessé lors d’un vol de 2019 entre le Salvador et New York. Double malchance pour ce client, le juge a également rejeté la plainte de Mata, estimant qu’elle avait été déposée trop tard.
À lire > ChatGPT compromis : plus de 100 000 comptes ont été piratés et mis en vente sur le dark web
Comble de l’humiliation, le juge a également ordonné aux avocats d’envoyer son avis et une transcription de l’audience du 8 juin à leur client et à chacun des juges faussement identifiés comme auteurs des six décisions fictives cités dans leur dossier. En revanche, “La Cour n’exigera pas d’excuses de la part des avocats, car des excuses forcées ne sont pas des excuses sincères“, déclare le juge dans sa décision. Outch.
Source : Bloomberg
