Detectan citas inventadas por IA en un escrito y reprenden al abogado

La Sala II de la Cámara de Apelación en lo Civil y Comercial de Rosario advirtió a un abogado por presentar un escrito con citas jurisprudenciales inexistentes generadas por inteligencia artificial, sin verificar su autenticidad. El hecho se produjo en el marco de un expediente por daños y perjuicios derivados de un accidente de tránsito, donde se discutía el incumplimiento de un convenio con una aseguradora.

El juez Oscar Puccinelli detectó que las referencias jurisprudenciales aportadas por el abogado de la parte actora no podían ser corroboradas. Tras requerir explicaciones, el letrado admitió haber usado una herramienta de IA generativa y haber incluido las citas sin chequearlas. El magistrado señaló que esta conducta, aunque de buena fe, compromete la responsabilidad profesional del abogado, ya que no puede delegarse el deber de verificación en herramientas tecnológicas.

El fallo destacó que los sistemas de IA generativa son experimentales y pueden producir «alucinaciones». Es decir, situaciones en las que los modelos generativos, como ChatGPT, Claude o Copilot, fabrican información verosímil pero falsa, incluyendo jurisprudencia con nombre, número de expediente hasta argumentos que jamás existieron.

En tal sentido, el fallo remarca que la probidad profesional exige veracidad y rigurosidad en las presentaciones judiciales.

Si bien no se impuso sanción directa, el tribunal decidió notificar al Colegio de Abogados de Rosario para que "adopte las medidas que correspondieren, especialmente las enderezadas a poner en conocimiento a los colegiados acerca de la problemática y de los riesgos que implica la utilización de ese tipo de herramientas sin chequear los resultados (...)".

En ese sentido, el fallo cita expresamente las Normas de Ética Profesional del Colegio, en particular la regla de probidad, que prohíbe realizar citaciones incompletas, aproximativas o contrarias a la verdad.

La extensión y el riesgo del uso de la IA generativa en escritos judiciales generó severas advertencias y medidas activas en el plano institucional. Por caso, el Colegio Público de la Abogacía de la Capital Federal (CPACF), que preside Ricardo Gil Lavedra, difundió hace pocas semanas una guía integral sobre el uso de IAGen. En el documento se advierte expresamente que "es falta ética efectuar citas doctrinarias o jurisprudenciales inexistentes, exponerlas en forma tal que falseen la opinión o el fallo invocados, o realizar falsas transcripciones de resoluciones judiciales o escritos de la contraparte".

El caso

En un expediente donde se discuten daños y perjuicios por un convenio incumplido, la Sala II de la Cámara de Apelación en lo Civil y Comercial de Rosario formuló un llamado de atención a un abogado por presentar un escrito judicial con citas jurisprudenciales inexistentes obtenidas de un sistema de inteligencia artificial generativa sin verificar su autenticidiad. En ese marco, también decidió notificar al Colegio de Abogados de esa ciudad con el fin de que "adopte las medidas que correspondieren, especialmente las enderezadas a poner en conocimiento a los colegiados acerca de la problemática y de los riesgos que implica la utilización de ese tipo de herramientas sin chequear los resultados (...)".

El caso se originó en un reclamo pecuniario tras un accidente de tránsito. Las partes habían celebrado un convenio transaccional con una aseguradora, pero el actor denunció el incumplimiento del acuerdo y pidió continuar con el proceso civil. El tribunal de Alzada confirmó que el pacto no había sido homologado y que, ante el incumplimiento, correspondía proseguir con el juicio.

La decisión fue adoptada por el camarista Oscar Puccinelli, quien, después de analizar las actuaciones, dio cuenta de una serie de irregularidades vinculadas a referencias de fallos presentadas por la parte actora. Al exponer la situación, relató: "Pasados los autos a resolver, y luego de analizados los argumentos de las partes, se advirtió que ciertas citas jurisprudenciales realizadas por el letrado de la actora no pudieron ser halladas pese a haberse realizado una búsqueda exhaustiva, razón por la cual se dictó una medida para mejor proveer, solicitando al letrado que identifique la fuente de tales citas. Al contestar el requerimiento, el letrado aclaró que utilizó un sistema de inteligencia artificial y que volcó el resultado encontrado de buena fe, de modo que resulta claro que las citas mencionadas no fueron chequeadas por tal curial".

Responsabilidad

El juez Puccinelli subrayó que esta conducta, incluso cuando se actúe de buena fe, "compromete la responsabilidad profesional del letrado no sólo ante el tribunal sino, especialmente, respecto de su cliente -existiera o no consentimiento informado que autorice el uso de chatbots con inteligencia artificial generativa, pues no puede haber consentimiento válido alguno que releve a un letrado de su deber de cotejar las fuentes en las que basa sus posiciones jurídicas-".

El fallo, publicado por el sitio E-Procesal y con repercusión en varios medios nacionales, señaló que los chatbots de inteligencia artificial generativa "existen desde hace ya más de tres años y no sólo en sus términos y condiciones estos sistemas destacan que se trata de un sistema experimental y que sus resultados deben ser cotejados, sino que es ampliamente conocida la circunstancia de que, por esa misma razón, los resultados que ofrecen, en pos de satisfacer los requerimientos del consultante, incluyen aún y en muchos casos las denominadas 'alucinaciones' y por ello, como ocurrió en el caso, aparecen fuentes lisa y llanamente inventadas".

En ese sentido, el juez de la Sala II de la Cámara Civil rosarina determinó: "Corresponde hacer un llamado de atención al letrado en cuestión y, además, a fin de prevenir que este tipo de situaciones se generalice en el fuero, anoticiar al Colegio de Abogados de Rosario del contenido de esta resolución a fin de que adopte las medidas que correspondieren, especialmente las enderezadas a poner en conocimiento a los colegiados acerca de la problemática y de los riesgos que implica la utilización de este tipo de herramientas sin chequear los resultados que ofrece en la labor de preparación de documentos que se presenten ante los tribunales".