Jurisprudència "inventada" i risc de dades en obert: els casos de mala praxi per ús d’IA arriben als tribunals

El setembre del 2024, el Tribunal Constitucional va imposar a un advocat de Barcelona una sanció d’"apercebiment" per faltar al respecte a aquest òrgan mitjançant la presentació d’una demanda que incloïa 19 suposades cites de sentències que en realitat no existien. Tot i que el Constitucional no va arribar a aclarir si la causa va ser l’ús d’IA o simplement la inclusió de cites d’arguments propis, per als experts en l’ús d’aquest tipus d’eines aquest cas va suposar un primer toc d’atenció.

Així ho assenyala a El Periódico, diari del mateix grup editorial que l’EMPORDÀ, Manuel Mata, responsable de Deontologia del Col·legi General de l’Advocacia Espanyola (CGAE) i degà del Col·legi d’Advocats de Castelló. "Els magistrats ho van enfocar com una falta de respecte i deslleialtat i ho van traslladar al col·legi professional de Barcelona". Des del seu punt de vista, més que una deslleialtat, ell hi veu mala praxi. "Quan prepares una demanda tens l’obligació de revisar-la i d’entregar un document adequat, perquè qui estàs perjudicant és el teu propi client; has d’assegurar-te que tingui vies de prosperar", assenyala.

Des d’aleshores, ja identificats com a casos de mala praxi en l’ús de la IA, s’han donat a conèixer diversos episodis que incideixen en la inclusió en les demandes de jurisprudència inexistent —per "al·lucinacions" de l’eina que no es depuren— o en l’al·lusió a normes penals d’altres països.

Contra jutges

S’hi afegeixen queixes davant el Consell General del Poder Judicial contra jutges per la introducció en obert de dades confidencials o per un presumpte ús indegut d’aquestes eines en la valoració de la prova, segons assenyala a aquest diari el vocal i magistrat del Tribunal Suprem José Antonio Montero, que treballa per elaborar una instrucció que serà aprovada pròximament per ajudar els jutges a espavilar-se en l’ús dels motors d’IA generativa.

L’acció de responsabilitat contractual per mala praxi en l’advocacia està regulada per l’article 1101 del Codi Civil, que estableix que aquells que, en el compliment de les seves obligacions, incorren en negligència estan subjectes a indemnització per danys i perjudicis. A això s’hi suma la responsabilitat disciplinària que puguin aplicar els col·legis professionals. Els jutges també estan subjectes a un règim de sancions si actuen indegudament.

Canàries, Alacant i Navarra

El 5 de gener, la Sala Penal del Tribunal Superior de Justícia de les Canàries va informar de l’obertura d’una investigació per una possible falta a la bona fe processal d’un advocat en un recurs d’apel·lació. Incloïa jurisprudència inventada i també al·lusions a un suposat informe del Consell General del Poder Judicial sobre la credibilitat del testimoni infantil que tampoc existia, i que presumptament havien estat generats per eines d’intel·ligència artificial. Els recursos es van presentar contra l’absolució d’un home jutjat per agressió sexual a Tenerife.

Per als jutges canaris, es tracta d’un cas de negligència per part del lletrat, que hauria confiat la seva feina, "sense més revisió, al que l’algoritme li va proposar". Per això van obrir una peça separada per investigar aquesta possible negligència i van traslladar els fets al col·legi professional.

Una cosa semblant va passar a Alacant. Segons el diari Información, pertanyent al mateix grup editorial que EMPORDÀ, l’Audiència Provincial ha denunciat recentment davant el Col·legi de l’Advocacia d’aquesta província un altre professional per haver-se inventat cites d’una sentència del Tribunal Suprem. També ha assenyalat que podria formar part d’una "al·lucinació" de la IA, tot i que sense descartar que hi pogués haver voluntat d’enganyar el tribunal. L’advocat pretenia emparar-se en la llei de segona oportunitat en relació amb un deute de més de 100.000 euros d’un dels seus clients amb la Seguretat Social.

Un dels primers casos coneguts va tenir lloc a Navarra el juny del 2024, amb la presentació d’una querella en què s’invocava l’aplicació d’un precepte del Codi Penal que en realitat corresponia a l’ordenament jurídic de Colòmbia.

En aquest cas, la querella va ser inadmesa pel Tribunal Superior de Justícia i es va obrir una investigació per determinar si havia existit un abús de dret o mala fe processal. En el marc d’aquestes indagacions, l’advocat va reconèixer haver utilitzat parcialment el ChatGPT-3 i es va excusar admetent que havia comès un error material greu, tot i que "involuntari". Per als jutges, l’error no va estar en l’ús de la IA, sinó en la manca de verificació per part del lletrat, i finalment l’assumpte va quedar arxivat.

Va ser la Fiscalia

En un altre cas recent, la denúncia presentada contra el Jutjat número 5 de Ceuta davant el Consell General del Poder Judicial va resultar aliena a les "al·lucinacions" o a la mala praxi per IA. El que va passar, en realitat, és que la Fiscalia va cometre un error en fer un "retalla i enganxa" de jurisprudència que el magistrat no va comprovar posteriorment.

El cas va ser denunciat per un advocat de Ceuta, la personació del qual no va ser admesa en una causa en què el seu client es trobava en situació de recerca i captura. Segons el parer del lletrat, les sentències citades en la interlocutòria no existien i havien estat generades per IA, però una comprovació posterior va revelar que l’error tenia l’origen en una equivocació de la fiscal del cas a l’hora d’introduir-les.

Les resolucions citades sí que existien, tot i que feien referència a delictes contra la llibertat sexual. La Fiscalia pretenia al·ludir-hi en un altre assumpte diferent, però es va equivocar en mantenir dos documents oberts a la pantalla de l’ordinador. En tot cas, aquest "error material involuntari" tampoc va ser detectat pel jutge.

Principis deontològics

El que va passar a Ceuta remet de nou a l’expert en Deontologia del CGAE, que puntualitza que la mala praxi ja existia abans que advocats, jutges o fiscals recorreguessin a aquests motors d’IA, per la qual cosa no veu necessari modificar els principis bàsics que ja figuren en els codis deontològics vigents.

Els més avançats en aquesta matèria són els despatxos d’advocats nord-americans, als quals s’obliga a conèixer el funcionament dels motors que utilitzen i a advertir els seus clients que faran servir IA en els seus casos. També poden tenir problemes si pengen documents sense anonimitzar.

"Ben aviat tindrem sentències en què es veurà que hi ha una utilització d’intel·ligència artificial", augura. També alerta d’altres usos que obren el debat deontològic en els col·legis professionals, com l’aparició en algunes pàgines web de despatxos d’advocats de sistemes automatitzats de conversa, els xatbots. Si un client fa una consulta breu a través d’aquesta eina i després el despatx defensa la part contrària, es podria incórrer en un conflicte d’interessos. "Al final, els problemes deontològics que provoca la IA són els mateixos que ja existien, però amb una nova dimensió", conclou Mata.