Quand l’IA hallucine : l’avocat face à ses responsabilités
Par Maître Thibault LACHACINSKI et Carla NURRA, Cabinet FAJGENBAUM
L’intelligence artificielle (IA) générative est un système logiciel qui communique en langage naturel, capable de répondre à des questions relativement complexes et de créer un contenu (texte, image ou son) à la suite d’une question ou d’instructions formulées (prompt ou invite). En quelques années, l’IA générative est passée du statut de curiosité technologique à celui d’outil de travail quotidien. Les professionnels du droit ne font pas exception : plus de 90 % des répondants à un sondage ont en effet admis avoir recours à au moins un outil d’IA dans le cadre de leur activité, principalement pour la recherche juridique, la rédaction de contrats et la revue documentaire (Enquête “Avocats et Juristes face au futur 2026”, Wolters Kluwer). En ligne de mire : des gains d’efficacité et une productivité renforcée.
Si le recours aux services d’IA générative tend à se généraliser dans les cabinets d’avocats, leur déploiement n’en suscite pas moins certaines inquiétudes. Le sondage précité révèle ainsi que 39% des sondés expriment des préoccupations éthiques et de confidentialité des données. Parmi les principaux risques identifiés, figure surtout celui des “hallucinations” (que la CNIL assimile à des résultats factuellement infondés, mais présentés comme véridiques). Une certitude demeure : les informations délivrées par les services d’IA générative ne sont pas exemptes d’erreurs, parfois grossières. Dans le domaine juridique, celles-ci peuvent prendre la forme de citations inexactes, de raisonnements erronés, voire de références à des décisions de justice ou des textes inexistants. Cette fiabilité relative s’explique par le fonctionnement même de ces systèmes, qui repose sur une approche probabiliste : à partir des prompts qui leur sont transmis, les modèles d’IA génèrent une réponse en déterminant, selon des calculs statistiques, les éléments les plus susceptibles de se succéder ; ces résultats dépendent donc, dans une large mesure, de la nature et de la qualité des données utilisées pour entrainer le modèle.
La diffusion rapide de l’IA générative impacte d’ores et déjà la pratique judiciaire. Les juridictions de tous les pays se trouvent actuellement confrontées à un nombre croissant d’actes et de requêtes générés grâce à l’IA et auxquelles doivent répondre des juges, pour leur part, bien humains. Une affaire actuellement pendante devant le tribunal fédéral de l’Illinois en fournit une illustration singulière. En mars 2026, un assureur a engagé une action contre OpenAI après avoir dû répondre à une quarantaine d’actes et requêtes qu’une ancienne assurée aurait rédigés à l’aide de ChatGPT, afin d’obtenir la réouverture d’un litige pourtant déjà transigé par un accord amiable. Il réclame notamment 10 millions de dollars de dommages-intérêts punitifs du fait de “l’abus du système judiciaire par Mme Dela Torre, aidée et encouragée par la pratique illégale du droit par OpenAI” (Nippon Life Insurance Company of America v. OpenAI, 1:26-cv-02448). La responsabilité des fournisseurs des services d’IA générative commence également à être recherchée en Europe : en mai 2026, le Landgericht München I a en effet retenu la responsabilité directe de Google à raison d’allégations dénigrantes générées par sa fonctionnalité “AI Overview” (référé, 28 mai 2026, 26 O 869/26 ; appel en cours).
La présente étude n’a pas vocation à examiner l’ensemble des problématiques liées à l’utilisation d’une IA générative, s’agissant notamment de la protection des données personnelles, du secret professionnel et des droits de propriété intellectuelle. Elle se concentre en effet sur les conséquences procédurales, civiles et disciplinaires susceptibles de résulter de la régularisation, par les avocats, d’écritures dont le contenu généré par une IA se révèle erroné.
I. PERSPECTIVES AMÉRICAINES – LE TEMPS DES SANCTIONS
Sur près de 2.000 affaires sur les hallucinations de l’IA recensées depuis 2023 à travers le monde (source : https://www.damiencharlotin.com/hallucinations/), plus de 1.300 sont répertoriées aux États-Unis.
Mata v. Avianca (2023) : premières amendes – Le premier cas du genre semble être l’affaire “Mata v. Avianca” : en 2023, des avocats new-yorkais ont régularisé des conclusions mentionnant plusieurs décisions de justice et citations entièrement inventées par ChatGPT, sans jamais en vérifier l’existence. Le juge consacre plus de quarante pages de sa décision à leur reprocher leur négligence, soulignant à quel point les problèmes d’hallucinations d’IA font “perdre à la partie adverse du temps et de l’argent à exposer la tromperie” et que “le temps consacré par le tribunal à cette affaire est soustrait à d’autres activités importantes” (traduction libre ; Tribunal fédéral de New York, 22 juin 2023, 1:2022cv01461). Si les conseils fautifs ont été condamnés au versement d’une amende de 5.000 dollars, la sanction symboliquement la plus lourde – et humiliante – qui leur est infligée est incontestablement d’avoir à communiquer une copie de cette condamnation aux juges faussement présentés comme les auteurs des décisions fictives. L’exaspération du tribunal transparait d’ailleurs dès le tout premier paragraphe de la motivation :
“Dans le cadre de leurs recherches et de la rédaction de leurs écritures judiciaires, les avocats compétents sollicitent légitimement l’assistance de collaborateurs juniors, d’étudiants en droit ou d’avocats, et consultent des encyclopédies juridiques ainsi que des bases de données telles que Westlaw et LexisNexis. Les progrès technologiques sont courants et le recours à un outil d’intelligence artificielle fiable à des fins d’assistance ne présente, en soi, aucun caractère fautif. Toutefois, les règles en vigueur confèrent aux avocats un rôle de contrôle, destiné à garantir l’exactitude des écritures qu’ils déposent (règle 11 des Règles fédérales de procédure civile) (…)” (Traduction libre).
Park v. Kim (2024) : diffusion des décisions – Aux États-Unis, les avocats américains défaillants dans la vérification de l’existence, voire de la véracité, des arguments qu’ils opposent n’encourent pas simplement des sanctions pécuniaires. L’avocate Lee ayant déposé un mémoire contenant des décisions inexistantes générées par ChatGPT en violation de la Rule 11 précitée, la cour d’appel du deuxième circuit de New York l’a renvoyé devant son “Committee on Admissions and Grievances”, c’est-à-dire l’instance disciplinaire compétente (30 janvier 2024, n° 22-2057). Il a également été enjoint à l’avocate d’adresser une copie de la décision à son client, traduite en coréen si nécessaire, afin de lui permettre d’en comprendre les termes. L’affaire a d’ailleurs fait jurisprudence puisqu’elle est désormais expressément citée dans les décisions ultérieures (24 décembre 2024, Jennie Enterprise v. Shvo, n° 2024 NY Slip Op 35320 (U), page 2 ; 17 juin 2026, Barber v. Morawa, n°374773, page 9).
In re : Sanctions Order of Kenney, Kerry (2025) : stage de sensibilisation à l’IA – C’est cette fois en se fondant sur les dispositions de l’article 863 du Louisiana Code of Civil Procedure (imposant à l’avocat de vérifier les arguments qu’il soumet aux juridictions) que la cour d’appel de Louisiane a condamné l’avocate Trieu à rembourser les frais et honoraires engagés par la partie adverse, mais également à suivre trois heures de formation sur l’éthique et l’utilisation de l’IA et à en justifier. La décision a par ailleurs été transmise à l’Office of Disciplinary Counsel de la Louisiana Attorney Disciplinary Board ! Une fois encore, la motivation retenue apparait peu amène : “le fait que l’avocate ait invoqué des affaires fictives ou inexistantes dans ses conclusions constitue une preuve prima facie qu’elle a manqué à son obligation positive de mener une recherche objectivement raisonnable sur le droit” (23 octobre 2025, n° 25-C-389 ; page 14). La cour semble avoir peu apprécié la défense opposée par l’avocate mise en cause, qui faisait valoir qu’elle n’avait pas effectué les recherches elle-même…
LNU v. Blanche et Withers v. City of Aberdeen (2026) : interdiction de comparaître devant la juridiction – Les sanctions semblent aller en s’aggravant devant les juridictions américaines, ainsi que l’illustre l’arrêt rendu le 3 juin 2026 par la Court of Appeals for the Ninth Circuit. Les deux avocats en cause (Sethi et Rounds) ayant soumis des écritures contenant plusieurs décisions inexistantes ou des citations erronées ont été condamnés à une sanction pécuniaire de 2.500 dollars chacun, ainsi qu’à une suspension de six mois de leur droit d’exercer devant cette juridiction. Mais ce n’est pas tout : outre la transmission de la décision à leurs clients ainsi qu’à chacun des juges devant lesquels ils sont constitués en qualité d’avocats, il est enjoint à tous les membres de leur cabinet d’avocats de produire, dans tous leurs futurs actes de procédure, une déclaration faite sous peine de parjure précisant si une IA générative a été utilisée et de certifier alors que l’avocat signataire en a personnellement vérifié le contenu. Là encore, la sévérité de la décision paraît s’expliquer par l’attitude des intéressés, qui ont persisté à nier tout recours à une IA générative, invoquant une simple “erreur de copier-coller” (3 juin 2026, n° 24-4790).
Quelques jours plus tard, la juge en chef du district nord du Mississippi a découvert que les écritures des deux parties (dans le cadre d’un litige portant sur le règlement des honoraires d’un avocat) citaient des décisions inexistantes. Parallèlement aux lourdes sanctions prononcées contre les avocats (interdiction de comparaître devant le tribunal pendant deux ans ; obligation de poursuivre une formation sur l’IA ; amende ; exclusion de la poursuite de l’instance), la juge Sharion Aycock a révoqué le calendrier de procédure et a suspendu l’affaire pendant 60 jours afin de permettre aux parties de mandater de nouveaux conseils, sous peine de rejet de l’action (Withers v. City of Aberdeen, 8 juin 2026, n° 1:24-cv-00218-SA-RP).
Matter of Julien v. Arthur (2026) – Le fait de comparaître sans avocat ne dispense pas davantage le justiciable d’avoir à vérifier les références juridiques dont il se prévaut. La Cour Suprême de l’État de New York a ainsi condamné un individu, qui assurait sa propre défense, à verser une amende de 250 dollars pour avoir déposé un mémoire contenant une référence à une décision inexistante générée par IA (27 mai 2026, 2026 NY Slip Op 03308).
Dans un registre différent, Jerome Dewald a été sévèrement rappelé à l’ordre par la juge Sallie Manzanet-Daniels lors d’une audience devant la cour d’appel de New York. Le justiciable âgé de 74 ans, également non représenté, avait tenté de faire présenter sa plaidoirie par un avatar généré par IA, d’apparence plus jeune, sans en avoir préalablement informé les juges. La Présidente a alors immédiatement interrompu la vidéo, reprochant à Jerome Dewald d’avoir cherché à induire la cour en erreur. L’arrêt finalement rendu ne mentionne toutefois pas cet incident et ne prononce aucune sanction à ce titre (17 avril 2025, Dewald v Massachusetts Mut. Ins. Co, n° 2024-07337).
* * *
Il ne s’agit là que d’une sélection parmi les décisions rendues par les juridictions des États-Unis. Le durcissement des sanctions prononcées outre-Atlantique semble en tout cas illustrer l’exaspération croissante des juges face à un usage inconsidéré de l’IA. Loin d’être cantonné aux États-Unis, ce phénomène concerne en réalité de nombreux systèmes judiciaires. Les juridictions françaises ne font pas exception, comme en témoignent les premières décisions rendues en la matière.
II. PERSPECTIVES FRANÇAISES – VERS UNE RESPONSABILISATION PROGRESSIVE
Depuis quelques mois, plusieurs décisions rendues par les juridictions françaises font état de références et citations jurisprudentielles fictives ou erronées dans des actes procéduraux manifestement rédigés par une IA ou avec son concours. Jusqu’à très récemment, les juges français semblaient vouloir privilégier une approche pédagogique, adressant principalement des avertissements aux parties, tout en les déboutant de leurs demandes en cas de motivation défaillante. Les premières sanctions viennent toutefois de tomber.
Jurisprudence administrative – Le tribunal administratif de Grenoble semble particulièrement concerné par cette problématique. Par une ordonnance rendue le 3 décembre 2025, il a rejeté la requête d’un particulier comme manifestement irrecevable au visa de l’article R. 222-1 du Code de la justice administrative, soulignant que “le manque de clarté de cette dernière résultant vraisemblablement de la circonstance qu’elle a manifestement été rédigée au moyen d’un outil dit d’intelligence artificielle générative, totalement inadapté à cet usage” (TA Grenoble, 3 décembre 2025, n° 2509827). Quelques jours plus tard, le même tribunal a débouté un autre requérant, tout en relevant dans un paragraphe préliminaire que la requête et les mémoires avaient été “générés avec un outil dit d’intelligence artificielle, dont le contenu est tout sauf « juridiquement cadré », contrairement à ce que prétend l’outil utilisé, dans un échange avec le requérant que M. A… n’a même pas pris la peine d’enlever du document adressé au tribunal” (TA Grenoble, 9 décembre 2025, n° 2512468).
Ayant constaté que plus d’une dizaine de décisions citées par un avocat dans sa requête n’existait pas, le tribunal administratif d’Orléans a tenu à lui faire remarquer, dans une partie spécialement dédiée de son jugement, “la nécessité de vérifier les décisions juridictionnelles citées, au demeurant non produites, avant de saisir le juge” (TA Orléans, 29 décembre 2025, n° 2506461). Il a alors invité le conseil du requérant à “vérifier à l’avenir que les références trouvées par quelque moyen que ce soit ne constituent pas une hallucination ou une confabulation”, formule qui sera par la suite reprise à l’identique par la cour administrative d’appel de Bordeaux (Juge des référés, 26 février 2026, n° 25BX02906). Le requérant a malgré tout obtenu gain de cause.
À l’inverse, le tribunal administratif de Rennes a rejeté – toujours au visa de l’article R. 222-1 précité – une requête “manifestement rédigée à l’aide d’un outil d’intelligence artificielle générative” après avoir constaté qu’ “aucun des moyens invoqués n’est assorti des précisions nécessaires permettant au juge d’en apprécier le bien-fondé” (TA Rennes, 28 janvier 2026, n° 2506364). Un autre justiciable dont la requête “stéréotypée apparaît manifestement rédigée avec l’aide d’une intelligence artificielle” a connu le même sort devant le tribunal administratif d’Orléans (TA Orléans, 2 juin 2026, n° 2603107).
Parmi les décisions, de plus en plus nombreuses, rendues par les juridictions administratives, signalons pour finir un savoureux jugement du tribunal administratif de Lille qui se fait, pour l’occasion, l’avocat… des avocats : “On ne peut qu’inviter M. C… B… et Mme D…, (…) alors qu’ils ont saisi le juge des référés à deux reprises en huit jours, par le biais de requêtes manifestement rédigées à l’aide d’outils d’intelligence artificielle générative dont la pertinence juridique n’est pas optimale, à se rapprocher d’un avocat, le cas échéant en demandant à bénéficier de l’aide juridictionnelle organisée par la loi n° 91-647 du 10 juillet 1991” (TA Lille, 28 avril 2026, n° 2604642). Qu’il en soit remercié.
Jurisprudence judiciaire – Les juridictions judiciaires ne sont pas non plus épargnées par le phénomène, même si apparemment à un degré moindre, peut-être en raison du caractère obligatoire de la représentation par avocat dans une large part du contentieux civil. Dans un jugement du 18 décembre 2025, le tribunal judiciaire de Périgueux semble avoir été le premier à employer expressément le terme d’ “hallucination” pour désigner des références jurisprudentielles inexistantes ou erronées. Le tribunal a alors invité “le requérant et son conseil à vérifier à l’avenir que les références qu’ils ont pu trouver sur des moteurs de recherches ou à l’aide de l’intelligence artificielle ne sont pas des hallucinations”. Cette mise en garde est toutefois demeurée sans incidence sur l’issue du litige, le requérant ayant obtenu gain de cause (TJ Périgueux, 18 décembre 2025, n° 23/00452).
Conséquences pécuniaires – Si les différentes décisions précitées rendent compte d’un usage parfois inapproprié de modèles d’IA générative, il n’en est résulté aucune conséquence concrète pour les parties dans le cadre du procès, indépendamment du rejet de leurs prétentions lorsque les actes produits étaient insuffisamment motivés. Les juridictions ont pourtant à leur disposition des instruments à vocation dissuasive.
Fait relativement rare, dans un contexte marqué par l’usage – de plus en plus décomplexé – des outils d’IA générative pour générer des requêtes, le tribunal administratif de Rennes a mis en ligne sur son compte LinkedIn un communiqué “Intelligence artificielle et Amende pour recours abusif” (19 août 2026). Le ton en est pour le moins mordant : “Aux yeux de bien des justiciables, les requêtes “fabriquées par l’IA” ont toutes les apparences de leur côté : un vocabulaire juridique y est employé et le propos paraît structuré. Aux yeux du professionnel du droit, ces requêtes ont souvent un vilain défaut : elles sont creuses et fourmillent de références fallacieuses“. Prenant pour exemple une décision récemment rendue par le tribunal administratif de Rennes (19 août 2026, n° 2508168 : condamnation du justiciable, non représenté, à une amende de 500 euros), le communiqué rappelle que les requêtes ainsi générées présentent dans certains cas le caractère de requêtes abusives, ouvrant la voie à une amende allant jusqu’à 10.000 euros au visa de l’article R. 741-12 du Code de la justice administrative (pour une autre condamnation, à 200 euros, le requérant ayant produit un “mémoire de plus de 300 pages, manifestement généré à l’appui de l’intelligence artificielle” : TA Grenoble, 4 juin 2026, n° 2410230).
Devant les juridictions civiles, l’article 32-1 du Code de procédure civile pourrait vraisemblablement recevoir une application comparable. Dans tous les cas, le comportement procédural des parties est également susceptible d’avoir une incidence lors de la détermination, par les juridictions saisies, des sommes allouées au titre des frais irrépétibles (C. just. adm., art. L. 761-1 ; C. proc. civ., art. 700).
Les sanctions pécuniaires ainsi prononcées sont, en principe, supportées par les justiciables eux-mêmes et non pas leurs conseils. Ces derniers peuvent en revanche voir leur responsabilité civile recherchée, par exemple dans le cadre d’un appel en garantie. La cour d’appel d’Aix-en-Provence a ainsi jugé que l’omission ou l’absence de vérification d’un élément dont dépend la validité ou l’efficacité de l’acte constitue un manquement fautif au devoir de diligence qui pèse sur l’avocat, de nature à engager sa responsabilité professionnelle (Cour d’appel Aix-en-Provence, 20 mars 2008, n° 06/03667).
Conséquences disciplinaires – À l’instar des États-Unis, il ne saurait être exclu que la responsabilité des avocats puisse être engagée dans le cadre de poursuites disciplinaires pour manquement aux principes rappelés dans le Règlement Intérieur National. L’article 1.3 leur impose notamment d’exercer leurs fonctions avec conscience, probité et loyauté et de faire preuve, à l’égard de leurs clients, notamment de diligence, de compétence et de prudence (également, Décret n° 2023-552 du 30 juin 2023 portant Code de déontologie des avocats, art.3).
Le Guide “La déontologie et l’intelligence artificielle”, adopté par le Conseil national des barreaux en mars 2026, conforte cette analyse. Il rappelle notamment que “la diligence et la prudence exigent de l’avocat une vérification systématique des résultats produits par l’IA et une utilisation réfléchie de ces technologies. Il doit relire, contrôler et valider chaque contenu généré avant de l’utiliser ou de le transmettre à un client ou à une juridiction“. Le Guide poursuit : “l’avocat ayant recours à des contenus générés par l’intelligence artificielle sans vérification appropriée prend le risque de produire des éléments erronés ce qui est de nature à engager sa responsabilité civile. Il est susceptible de faire l’objet de poursuites disciplinaires” (page 17).
Les logiciels intégrant une IA doivent demeurer des “outils d’assistance et pas de substitution” à l’exercice professionnel et doivent seulement “assister” l’avocat. Leur utilisation n’est donc nullement prohibée par principe, mais doit s’inscrire dans une démarche responsable et encadrée. Comme le précise le Guide, “les documents que (l’avocat) adresse à la juridiction doivent être de la même qualité que s’il n’y avait pas eu de recours à l’IAG” ; sous cette réserve, aucune information spécifique n’a à être apportée à la juridiction quant au recours à une IA pour l’élaboration de son dossier (page 22).
Charte IA – Le 21 juillet 2026, sous l’impulsion du bâtonnier Louis Degos, le barreau de Paris a adopté un modèle de charte non contraignant (à l’attention des cabinets) qui vise à encadrer l’usage de l’IA pour une pratique responsable, sécurisée et conforme à la réglementation par les membres avocats de la structure. Son article 5.1 (“Respect des principes déontologiques”) impose notamment aux utilisateurs d’un service d’IA de veiller à faire preuve de diligence, de loyauté et de prudence et, notamment (1) de vérifier systématiquement l’exactitude, la pertinence et la licéité des contenus générés par l’outil, (2) d’exercer un contrôle humain systématique, (3) de ne jamais substituer le raisonnement automatisé à leur propre jugement professionnel et (4) d’apprécier les risques juridiques, déontologiques et techniques liés à chaque utilisation. L’article 12 du modèle de Charte IA rappelle quant à lui que l’utilisation d’outils d’IA par les avocats, collaborateurs et associés d’un cabinet ne modifie en rien les règles de responsabilité professionnelle qui leur sont habituellement applicables et que “le recours à un SIA ne constitue ni une cause d’exonération, ni une atténuation de responsabilité“.
* * *
Conclusions : l’IA est un outil, pas un avocat – Si l’IA constitue une avancée technologique majeure, pleine de promesses pour les professionnels du droit, son utilisation doit nécessairement s’inscrire dans un cadre maîtrisé et s’accompagner d’une responsabilisation des utilisateurs. A défaut, la confiance que les justiciables placent dans l’institution judiciaire pourrait s’en trouver altérée.
Une récente affaire illustre de manière presque caricaturale les dérives auxquelles cette technologie peut donner lieu. Un justiciable américain a en effet tenté de tromper un tribunal du Connecticut en insérant dans ses conclusions des instructions subliminales (car en caractères minuscules et de couleur blanche, invisibles à l’œil nu) à destination d’une intelligence artificielle, lui donnant, en substance, instruction de produire une réponse conforme à l’argumentation du demandeur. Le justiciable prétendait avoir voulu “tester les pratiques du tribunal” et vérifier s’il recourait à une IA pour le traitement de ses dossiers (ce que le juge a formellement démenti). Tout en rappelant que le demandeur demeure libre de se faire assister par une IA dans le cadre du procès, le tribunal lui a ordonné de régulariser désormais ses écritures sur support papier (Tribunal de Milford, Matthew A. Elliott v. Judicial district of Milford, Ordonnance du 6 août 2026, AAN-CV-25-6066141-S).
Dans tous les cas, l’avocat conservera un avantage essentiel sur l’IA : le secret professionnel (RIN, art. 2). Le dirigeant d’un géant sud-coréen du jeu vidéo en a fait l’amère expérience aux États-Unis : dans le cadre d’un litige portant sur un complément de prix pouvant atteindre 250 millions de dollars, il avait préféré suivre scrupuleusement les recommandations de ChatGPT plutôt que d’écouter ses conseils. Si la question des dommages et intérêts a été (dans un premier temps) réservée, la société sud-coréenne a malgré tout été contrainte de communiquer, au cours de la procédure de discovery, les conversations échangées avec l’IA générative. En effet, ces informations sont dépourvues par elles-mêmes de toute protection au titre du secret professionnel (Fortis v. Krafton, 16 mars 2026, C.A. No. 2025-0805-LWW).
Par Maître Thibault LACHACINSKI et Carla NURRA, Cabinet FAJGENBAUM
Quand l’IA hallucine : l’avocat face à ses responsabilités
