La IA y el problema del arquitecto

La defensa actual de la inteligencia artificial (IA) suele apoyarse en una figura que quiere transmitirnos tranquilidad. Esa figura es la del arquitecto intelectual. La idea es conocida y muy mencionada. La IA no piensa por nosotros porque seguimos siendo quienes dirigimos el proceso. La máquina redacta, resume, organiza y propone.

Nosotros decidimos qué conservar, qué corregir y qué descartar. La IA puede producir textos, pero el juicio sigue siendo humano. Y desde ya que esta defensa tiene algo de cierto. Quienes utilizamos estas herramientas sabemos que los resultados dependen, muchas veces, de la capacidad de formular buenas preguntas, detectar errores, reorganizar argumentos o corregir interpretaciones forzadas.

En esta etapa de transición, la IA no elimina la intervención humana, sino que la desplaza hacia tareas de dirección, edición y supervisión, ejecutadas por quienes ya fueron formados en el sistema tradicional. El problema de esta defensa no es que sea falsa. El problema es que olvida preguntarse de dónde sale el arquitecto.

Toda la confianza depositada en la figura del supervisor presupone una capacidad que rara vez se problematiza o nos detenemos a pensar: la capacidad de ejercer juicio. Presuponemos que el usuario sabrá distinguir un argumento sólido de uno apenas plausible, una interpretación rigurosa de una simplificación solo elegante, una idea fecunda de una mera repetición bien formulada.

Pero... ¿cómo se forma esa capacidad? La propia palabra arquitecto encierra una enseñanza que el debate parece haber olvidado. Proveniente del griego architécton, vocablo que designaba originalmente al jefe de los constructores. No era alguien completamente ajeno al oficio de construir.

Su figura remitía a una forma de dirección fundada en el conocimiento de aquello que se dirige. En el oficio de construir, no hay arquitectura sin conocimiento de la construcción. No hay dirección sin comprensión de los procesos que se coordinan. No hay juicio técnico sin una formación en el oficio.

La autoridad del arquitecto no surgía de ocupar una posición superior, sino de haber atravesado aquello que ahora dirigía. Esta inseparabilidad ilustra, a modo de analogía, lo que tiende a ocurrir en el ámbito intelectual, donde la evaluación crítica suele requerir familiaridad con los mecanismos de producción.

Toda función de supervisión intelectual presupone haber atravesado la práctica generativa correspondiente, ya que la capacidad de juicio no aparece de forma espontánea, sino que es el resultado de una formación. Quienes hoy celebran la figura del arquitecto intelectual suelen olvidar que ellos mismos fueron formados antes de ocupar ese lugar.

Aprendieron a escribir escribiendo. Aprendieron a investigar investigando. Aprendieron a leer enfrentándose a textos difíciles. Aprendieron a argumentar equivocándose, corrigiéndose y reformulando sus ideas. Antes de dirigir, aprendieron el oficio. Hace poco conversaba con estudiantes sobre la dificultad de ciertos textos académicos.

Les decía que cada vez que logro comprender un argumento complejo siento que algo cambia en mi manera de leer. Después de atravesar ciertas dificultades intelectuales, empiezo a percibir relaciones que antes me pasaban inadvertidas. Los textos cambian porque yo he cambiado. Esa experiencia revela que algunas prácticas intelectuales no valen únicamente por los resultados que producen.

Su valor también reside en las capacidades que forman. Las prácticas intelectuales como la lectura, la escritura y la investigación no valen únicamente por sus resultados materiales, lo hacen porque producen criterio, discernimiento y juicio; a emitir juicios se aprende ejerciendo el juicio.

Esto importa porque muchas de las capacidades que asociamos al pensamiento crítico no nacen de la posesión de respuestas o de la simple edición de borradores plausibles generados por terceros, sino de la fricción cognitiva de haber tenido que buscarlas y construirlas.

Nacen del error estructural, de la duda metódica, de la interpretación fallida y del argumento que obliga a volver sobre nuestros pasos; un nivel de exigencia intelectual que la delegación automatizada de la escritura, por su propia eficiencia, tiende a suprimir.

Aprendemos a juzgar cuando descubrimos que estábamos equivocados. Aprendemos a pensar cuando advertimos los límites de nuestras propias ideas. La cuestión importante que plantea la inteligencia artificial es qué ocurre cuando una cultura puede obtener resultados intelectuales plausibles sin necesitar muchos de los procesos que históricamente formaban a quienes podían producirlos.

No se trata de rechazar la IA ni de idealizar formas anteriores de trabajo intelectual. Es posible que surjan nuevas prácticas formativas y maneras de adquirir criterio en la interacción continua con la máquina.

Sin embargo, resulta problemático ignorar la paradoja a la que esto nos enfrenta, la cual consiste en asumir que estas nuevas dinámicas de supervisión compensarán por sí solas la pérdida de la carga cognitiva original, ya que el discernimiento profundo que requiere evaluar a la IA presupone la misma estructura mental que históricamente se forjaba al producir sin ella.

Cuanto más eficaz se vuelve la inteligencia artificial produciendo resultados aceptables, mayor es el riesgo de volver invisible el valor formativo de las prácticas que tradicionalmente forjaban el juicio necesario para evaluarlos.

La discusión actual sobre la IA se concentra obsesivamente en la producción de resultados. Sin embargo, la pregunta decisiva, podría encontrarse en otro lugar. No en los textos que producimos. Sino en las capacidades que dejamos de formar. Porque el problema fundamental nunca fue quién escribe el texto. El problema es quién forma el juicio capaz de evaluarlo.

Un arquitecto puede dirigir una obra porque fue formado en la comprensión de aquello que dirige. ¿Y qué riesgo enfrentamos cuando una cultura adopta dinámicas tecnológicas que tienden a legitimar la figura del arquitecto intelectual, debilitando gradualmente las prácticas que antes formaban esa capacidad de juicio?

El autor es profesor de Filosofía y tesista de la Licenciatura en Filosofía de la Facultad de Filosofía y Humanidades de la Universidad Católica de Santa Fe. Docente, becario investigador y miembro del Instituto de Filosofía en la misma facultad.