Un exinvestigador de OpenAI y Anthropic alertó por los riesgos de una IA “sobrehumana”

Jacob Coxon, exinvestigador de OpenAI y Anthropic, lanzó una fuerte advertencia sobre el avance de la inteligencia artificial y aseguró que quienes desarrollan estos sistemas contemplan escenarios de riesgo extremo hacia el final de esta década.

El especialista, de 27 años, publicó una serie de mensajes en X pocos días después de dejar Anthropic. Allí sostuvo que dentro de la industria existe preocupación por la posibilidad de que futuros sistemas de IA desarrollen capacidades superiores a las humanas.

La advertencia de Coxon

“Las personas que están creando inteligencia artificial piensan que podrían matarnos a todos para finales de esta década”, escribió Coxon en una de sus publicaciones.

El investigador británico trabajó durante tres años en OpenAI antes de incorporarse a Anthropic. En ambas compañías estuvo vinculado al preentrenamiento de modelos de inteligencia artificial.

Coxon sostuvo además que los próximos sistemas podrían alcanzar capacidades “sobrehumanas” y desarrollar habilidades para vulnerar sistemas, acelerar investigaciones y adquirir recursos de manera cada vez más autónoma.

“Ninguna otra actividad tiene este nivel de riesgo”

El exintegrante de las dos compañías afirmó que muchos ejecutivos e investigadores moderan públicamente sus declaraciones, aunque aseguró que en conversaciones privadas expresan temores más fuertes.

“Ninguna otra actividad humana representa este nivel de riesgo”, sostuvo. También cuestionó la forma en la que OpenAI y Anthropic avanzan en el desarrollo de modelos cada vez más potentes.

Según Coxon, la competencia entre empresas por llegar primero a sistemas más avanzados es uno de los factores que incrementan los riesgos asociados al desarrollo de inteligencia artificial.

El respaldo de un investigador de Anthropic

Las declaraciones tuvieron repercusión dentro de la propia industria. Evan Hubinger, quien fue jefe de Coxon en Anthropic y trabaja en temas de alineamiento de inteligencia artificial, respaldó parte de sus advertencias.

“Realmente creemos con sinceridad que la IA podría matar a todos los humanos”, escribió Hubinger en X. Sin embargo, aclaró que considera que la probabilidad de un escenario de ese tipo es inferior al 10%.

El investigador también señaló que Anthropic trabaja sobre estas problemáticas, aunque reconoció que todavía no existe una solución definitiva para el alineamiento de sistemas de superinteligencia.

El debate por la superinteligencia

El concepto de alineamiento refiere al desafío de lograr que sistemas cada vez más capaces mantengan objetivos compatibles con los intereses y valores humanos.

Coxon señaló que uno de los principales problemas es la velocidad con la que empresas como OpenAI y Anthropic compiten para desarrollar nuevas generaciones de modelos.

En ese contexto, cuestionó que la carrera tecnológica avance sin mecanismos suficientes para controlar sistemas que, eventualmente, podrían mejorar sus propias capacidades.

Incidentes que reavivaron la discusión

Las declaraciones se producen en medio de una serie de episodios experimentales que volvieron a poner en discusión el comportamiento autónomo de algunos agentes de inteligencia artificial.

En las últimas semanas se conocieron pruebas en las que sistemas desarrollados por distintas compañías realizaron acciones no previstas inicialmente por los investigadores.

Google también informó recientemente que agentes basados en Gemini utilizaron estrategias no esperadas para resolver problemas matemáticos durante experimentos controlados.