Alberto Biglieri: "Hay decisiones que no pueden quedar en manos de la IA"

Alberto Biglieri, reconocido académico y especialista en Derecho Administrativo, resaltó la utilidad de las herramientas de inteligencia artificial en la práctica jurídica y judicial, pero advirtió sobre los riesgos que supone la aparición de "sesgos". La inutilidad de intentar frenar su desarrollo, la necesidad de establecer regulaciones aplicables, y el imperativo de preservar el control humano, en diálogo con El Litoral.

Biglieri participó en Rosario de la 62ª Conferencia Anual de la Federación Interamericana de Abogados (FIA), que se desarrolló bajo el lema "Universalidad del Derecho en la era de las nuevas tecnologías".

Allí disertó sobre "El impacto de la Inteligencia Artificial en las Fuentes del Derecho Administrativo" y fue distinguido por su destacada trayectoria profesional, académica y colegial, así como a sus aportes al estudio, la enseñanza y el fortalecimiento de las instituciones jurídicas.

En la entrevista con este medio, se refirió al acontecimiento y abordó la cuestión que fue la problemática de fondo abordada en el encuentro por profesionales y juristas de distintos países americanos.

- ¿En qué consiste el trabajo de la FIA y la actividad que se desarrolló en Rosario?

- La Federación es una una rama americana de la "barra" americana, la International Bar Association. Ya tiene 86 años de vid, y el que se acaba de hacer en Rosario es el 62 Congreso Interamericano. Y se tomó como lema el impacto de la inteligencia artificial, su impacto en el derecho y el enfoque a un derecho global.

- También en este caso usted fue distinguido por la entidad.

- En cada Congreso la organización elige a un abogado destacado del país local, lo invita a una conferencia y lo distinguen con la medalla "William Roy Vallance", en recuerdo del fundador de la FIA. Esta vez yo tuve ese honor. Y había muchos paneles, con temas y expositores sumamente interesantes. Participan abogados y jueces también, lo cual lo hace más atractivo, porque permite un intercambio de distinto nivel y con distinta sintonía.

También creo que hay que destacar la participación de asociaciones, como la América Caribeña. El día que yo expuse había disertantes de Colombia, Ecuador, Puerto Rico, Dominicana, Bolivia, Guatemala, Estados Unidos. Hay una representatividad de países que a veces uno no ve en este tipo de encuentros.

Esto se extiende a la percepción de los factores que influyen cotidianamente en el ejercicio del derecho. Por caso, una colega boliviana no podía sacar el auto del estudio por los problemas en La Paz. Así que tener esa aproximación a la vida profesional, por fuera de lo estrictamente jurídico, es muy valioso.

Y también lo es el temario del Congreso, el impacto de inteligencia artificial en el Derecho. Mi especialidad es el administrativo, así que me enfoqué en las modificaciones que está produciendo la IA. Que, aunque alguien la quisiera negar, está.

Un nuevo escenario

- ¿Y cómo ve usted a la IA?

- Yo creo que es una herramienta fenomenal. Pero hay que tener cuidado, porque lo que no hay que hacer nunca es resignar la decisión humana final, ¿no? Especialmente cuando se dispone sobre fondos públicos o cuando se toma un beneficio judicial.

La vida privada es otra cosa. Si yo quiero que a mi casa la limpie un robot, es asunto mío. Pero lo público es tema de todos. Y la Unión Europea ya está haciendo muchas regulaciones que tienen que ver con eso, con el alto riesgo de la inteligencia artificial, por lo menos de seguridad, la cuestión de la privacidad, la libertad, el patrimonio….Son alertas que pone la Unión Europea, y dice: "Ojo, no se puede usar inteligencia artificial para hacer un fallo". Y yo creo que que ese es el camino.

- Claro, porque además recientemente no sólo hay demandas hechas con IA, que a veces remiten a fuentes inexistentes, e incluso fallos que citan jurisprudencia inventada.

- Es así. Pero cuando se trabaja a conciencia, esa fantasía, esa fábula que inventa la IA no me preocupa, porque si en la demanda se cita jurisprudencia o doctrina falsas, y el que está del otro lado trabaja a conciencia y lo contrasta, eso salta; y si no lo hace es porque es un vago.

Entonces, el juez o el decisor administrativo en el ámbito público tiene que controlar. Por eso tiene vigencia una vieja máxima del Derecho, que dice que la mejor forma de manejar la información que se da al otro es no hablar. Porque si mentís, el otro controla y se da cuenta. Y eso se puede detectar con tecnología.

Lo que estamos percibiendo con la IA es más complejo, porque se están produciendo sesgos en función del big data. O sea, tiene tantos datos de derecho privado, que deforma la idea de derecho público. Por otra parte, los grandes volúmenes de datos con que se construye la IA son de Estados Unidos, Europa, China, y un poquito de Argentina. Entonces, cuando te querés informar terminás accediendo a una IA que está alimentada con una gran cantidad de datos que no tienen nada que ver con nuestra cultura.

Yo suelo decir en mis clases que el mejor gol que ví en mi vida fue en un partido de Huracán contra San Lorenzo. Pero si yo pregunto al grupo, obviamente el más votado va a ser algún gol de Riquelme en Boca o de Passarella en River. Y ese es el fenómeno del Big Data. Si tengo que elegir el mejor gol, termino inducido por la mayoría datos. Cuando yo podría atestiguar y defender a muerte que no, que para mí el mejor gol es el que ví en el partido Huracán-San Lorenzo.

Y eso es lo que estamos viendo. O sea, más allá de que la IA pueda inventar un gol que no existió, el problema es que te da los datos que existen, pero con un sesgo producido por la cantidad.

El factor humano

- Pero también podemos hablar de los beneficios…

- Por supuesto. Yo soy un defensor. Para mí es un hiperprocesador de texto maravilloso y tiene la ventaja, sobre todo en versiones pagas, en que uno le puede cargar 50 documentos, y alimentarla con datos que son realmente los que uno necesita analizar. Entonces, la IA se nutre con eso. Y si uno plantea una cuestión de tránsito, por ejemplo, no te va a tirar que alguien cometió una infracción porque circulaba por la derecha, como diría si solo carga datos de Inglaterra, donde se circula por mano izquierda.

Yo defiendo la IA, porque si uno la entiende como una herramienta, es maravillosa. Ahora, el problema es cuando es generativa. Cuando es generativa y no tiene control humano, puede terminar en cualquier cosa. Porque cuando produce una cantidad de datos en función de lo que vos le cargaste antes, al input lo manejás vos. Pero no tenemos volumen para darle tanta información. Y entonces la captura de los 7000 millones de seres humanos del mundo. Y en ese contexto, 50 millones somos menos que una hormiga.

- Entonces, ¿la clave sigue siendo el conocimiento humano? Para alimentar primero, para formular las indicaciones correctas para los requerimientos a través de los prompt, y para el control final.

- Claro. La inteligencia artificial hace lo que por volumen no puede hacer el humano, pero el humano es el que controla. Y obtiene resultados a una velocidad magnífica con un texto muy claro. Si uno le da buenas indicaciones da buenos resultados, pero a la vez agregamos cosas. Por un lado, un mismo prompt en dos máquinas diferentes, una al lado de la otra, puede arrojar respuestas distintas. Y después, de un día para otro, las respuestas suelen ser distintas, porque la IA incorporó nuevos conocimientos.

El otro tema muy importante es que quien controla la IA tiene que saber. O sea, yo no voy a ser Van Gogh, ni Rubens, ni Picasso. Pero puedo ser un buen curador de una obra de arte. Puedo establecer que la obra pertenece al período azul, puedo explicar el impresionismo. Yo creo que los abogados vamos a tener esa labor de "curador". No voy a ser el gran artista plástico, pero sí el que puede ordenar eso a partir de saber.

- Usted habló también de las regulaciones en otros países. ¿Pero cómo se hace eso? ¿Cómo se está en condiciones de aplicar una regulación en esta materia?

- Creo que ahí está la respuesta: para mí es en qué ámbito se puede aplicar. Creer que por un decreto o por una ley se puede limitar el desarrollo del sistema de inteligencia artificial es como creer que vamos a tapar el sol con la mano. Lo que sí podemos decir es cuándo hay que tomar sol o con cuánto factor dérmico. Me parece que en la Unión Europea hacen autocrítica, porque dicen: "Tanto regulamos que al final desarrollan más los chinos y los yanquis que nosotros".

Yo no digo eso. El desarrollo tecnológico no va a parar por una norma. Lo que sí tiene que regularse es la lógica de cómo la dejo tomar decisiones. Si vos querés armar tu valija para viajar y se lo preguntás a la IA, me parece bien. Pero no la podés usar para decidir si una persona va presa o queda libre, o sobre el patrimonio de una persona.

Sí puede ser, y ocultarlo es una pavada, que todos los funcionarios que la usan se nutran y acepten algunas recomendaciones. Pero después a la decisión final la tiene que tomar el ser humano, eso es indubitable. Estamos hablando en el ámbito de justicia y administración pública. En el ámbito privado, como la plata es tuya, hace lo que quieras. Si llueve sopa y te aconseja comprar tenedores, y vos le hacés caso, es un problema tuyo.

Por eso yo creo que está bien que la Unión Europea legisle para determinados ámbitos. Y te dice: "Usarla para contestar un mail: bajo riesgo. Para la foto multa: riesgo mediano. Para tomar decisiones sobre libertad, impuestos o patrimonio: riesgo alto, inaceptable". Entonces, no podés usarla para que tome la decisión. Ahí no se puede prescindir del control humano.