Un avocat est en difficulté après avoir admis avoir utilisé ChatGPT pour aider à rédiger des documents judiciaires citant six cas inexistants inventés par l’outil d’intelligence artificielle.

L’avocat Steven Schwartz du cabinet Levidow, Levidow, & Oberman « regrette profondément d’avoir utilisé l’intelligence artificielle générative pour compléter les recherches juridiques effectuées ici et ne le fera jamais à l’avenir sans une vérification absolue de son authenticité », a écrit Schwartz dans un affidavit en mai. 24 concernant les fausses citations précédemment soumises au tribunal de district américain du district sud de New York.

Schwartz a écrit que « l’utilisation de l’intelligence artificielle générative a évolué au sein des cabinets d’avocats » et qu’il « a consulté le site Web d’intelligence artificielle ChatGPT afin de compléter les recherches juridiques effectuées ».

Les « citations et opinions en question ont été fournies par ChatGPT qui a également fourni sa source légale et assuré la fiabilité de son contenu », a-t-il écrit. Schwartz a admis qu’il « s’est appuyé sur les avis juridiques qui lui ont été fournis par une source qui s’est révélée peu fiable » et a déclaré que c’était de sa faute de ne pas avoir confirmé les sources fournies par ChatGPT.

Schwartz n’avait pas envisagé auparavant la possibilité qu’un outil d’intelligence artificielle comme ChatGPT puisse fournir de fausses informations, même si des erreurs de chatbot IA ont été largement signalées par des intelligences non artificielles telles que les journalistes humains employés par des organes de presse réputés. L’affidavit de l’avocat a déclaré qu’il n’avait « jamais utilisé ChatGPT comme source pour mener des recherches juridiques avant cet événement et n’était donc pas au courant de la possibilité que son contenu puisse être faux ».

Le juge évalue les « circonstances sans précédent »

Le juge fédéral Kevin Castel envisage des sanctions pour Schwartz et ses associés. Dans une ordonnance de vendredi, Castel a prévu une audience le 8 juin au cours de laquelle Schwartz, son collègue avocat Peter LoDuca et le cabinet d’avocats doivent justifier pourquoi ils ne devraient pas être sanctionnés.

« La Cour est confrontée à une circonstance sans précédent », a écrit Castel dans une précédente ordonnance du 4 mai. « Un mémoire déposé par l’avocat du demandeur en opposition à une requête en rejet est rempli de citations de cas inexistants… les affaires soumises semblent être de fausses décisions judiciaires avec de fausses citations et de fausses citations internes. »

Les documents déposés comprenaient non seulement des noms d’affaires inventées, mais également une série de pièces avec des « extraits » des décisions fictives. Par exemple, le faux Varghese contre China Southern Airlines opinion a cité plusieurs précédents qui n’existent pas.

« La fausse décision ‘Varghese’ contient des citations et des citations internes, qui, à leur tour, sont inexistantes », a écrit Castel. Cinq autres « décisions soumises par l’avocat du demandeur contiennent des lacunes similaires et semblent également fausses », a écrit Castel.

Les cinq autres faux cas ont été appelés Shaboun c. Egypt Air, Petersen contre Iran Air, Martínez c. Delta Airlines, Succession de Durden contre KLM Royal Dutch Airlineset Miller contre United Airlines.