La inteligencia artificial y una semana marcada por cuestionamientos a las principales desarrolladoras

El estado de situación del desarrollo de la inteligencia artificial volvió a sembrar preocupación a la comunidad de usuarios y no usuarios tras manifestaciones desde dentro de las propias empresas líderes del rubro.

Luego del comunicado de más de 100 firmas tecnológicas en el que se solicitaba mayor control gubernamental y seguridad ante el avance del campo, el pasado martes un investigador de pre entrenamiento publicó en X una alarmante experiencia.

Jacob Coxon, ex empleado de Anthropic y OpenAI durante tres años en total, afirmó que “ninguna de las dos compañías está actuando de manera responsable” y que “están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”:

“Podría matarnos para finales de década”

Coxon no se limitó en sus críticas y premoniciones apocalípticas al comentar que estas herramientas “pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”.

“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro”, sumó en un hilo de su cuenta de X.

La eventual llegada de una especie de Skynet fue avalada por el propio Líder de Ciencia de Alineación en Anthropic, Evan Hubinger, quien también trabajó en MIRI, OpenAI, Google, Yelp y Ripple. “Realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es >10% dentro de la próxima década”, respondió en redes.

Las empresas desarrolladoras de inteligencia artificial se encuentran en un dilema similar al de carreras armamentísticas, nucleares o espaciales. Si uno cede terreno, el otro lo supera, y esto no abarca exclusivamente a privados, sino también a países. Esta competencia de resistencia tiene dos contendientes mayores: China y Estados Unidos.

Coxon hizo referencia a este aspecto: “Están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo”.

Su mensaje cerró con una reflexión hacia colegas: “¿Deberías agachar la cabeza porque «de todos modos está sucediendo» —o aprovechar este momento para pedir condiciones diferentes?”.

Navier-Stokes, el enjambre de agentes y supuesto robo

Casi en simultáneo a que se desate el caos digital por las declaraciones de Coxon, OpenAI aseguró que lograron resolver el Problema del Premio del Milenio de Navier-Stokes a través de un enjambre de agentes, utilizando un modelo de próxima generación de su firma “significativamente más capaz que GPT-6 Astra”, el más reciente lanzamiento público.

“Nuestro grupo interno de modelos llegó a la solución de Navier–Stokes en 88 horas, utilizando alrededor de 10.000 agentes de IA coordinados”, explica el comunicado de la empresa de Sam Altman.

“El grupo produjo una prueba analítica y formalización en Lean que demuestra que, a través de la dinámica de Navier-Stokes, un fluido puede desarrollar una singularidad en tiempo finito”, explican, desde un plano más científico y específico, agregando que “la solución es un vórtice, un remolino giratorio de fluido, que se arremolina hacia adentro y se alarga cada vez más, como espagueti”.

La salvedad ante este gigantesco avance es de semejante dimensión. Tristan Buckmaster y Levent Alpöge, dos investigadores matemáticos, habían avanzando con un trabajo similar sobre dinámica de fluidos utilizando extensivamente chatbots de IA como GPT para asistir en su investigación.

Esto lo realizaron en el marco de ChatGPT para Investigadores Académicos, diseñado para acelerar el descubrimiento en diversas disciplinas, donde se le otorga a científicos, matemáticos e ingenieros acceso gratuito a modelos de vanguardia.

Buckmaster ha alzado la voz para sostener su reclamo: “Casi nadie más que yo conozca estaba trabajando en ello. No es la dirección a la que se llega en unos pocos días simplemente dándole el enunciado del problema a un modelo. Cuando oí ‘forzado’, fue una clara señal de alerta”, declaró en un documento alojado en la página web académica oficial del profesor en el servidor de la Universidad de Nueva York.

Sobre las inquietudes ante este escenario, Tristan relató: “Pregunté si el modelo había sido entrenado o si tenía acceso a nuestras sesiones en Codex, donde habíamos estado guardando todos nuestros borradores durante la totalidad de este proyecto. Me dijeron que el modelo no consultaba datos de usuarios. Volví a preguntar sobre el entrenamiento y no obtuve respuesta”.

“Me hicieron dos propuestas”, comentó en relación a OpenAI y sumó: “La primera era que publicáramos nuestro resultado de Euler y que OpenAI publicara su resultado de Navier-Stokes al día siguiente. La segunda era que, tras publicar Euler, yo escribiera en solitario un artículo presentando el resultado de Navier-Stokes, reconociendo que un modelo interno de OpenAI lo había resuelto”.

Sam Altman, CEO de OpenAI, publicó que se intentó hallar la solución “porque había rumores en internet". Las vías oficiales de la empresa afirmaron en paralelo que “no se puede descartar que datos desidentificados del uso de sus herramientas ayudaran a mejorar nuestros modelos".

El Instituto Clay lo lista como no resuelto pendiente de revisión por pares, en medio de disputas de atribución que involucran a T. Buckmaster y L. Alpöge.

¿Una reflexión o intento de lavada?

Este sábado se dio un particular intercambio entre Dario Amodei, CEO de Anthropic, y Sam Altman, su par de OpenAI, con una publicación de este primero como detonanten.

Amodei publicó un ensayo oficial en el que argumenta que “la industria de la IA debería ir más despacio, con un plan de tres partes para hacerlo”.

“Anthropic se compromete unilateralmente con el primer paso de estos”, explicó Amodei y sumó: “Proporcionaremos a evaluadores externos acceso permanente de nivel empleado a nuestros sistemas, para que puedan verificar el cumplimiento de nuestras medidas de seguridad, informar sobre incidentes y evaluar la alineación de los modelos durante el entrenamiento”.

Este mensaje recibió el aval de Altman asegurando que se necesita “moderar el ritmo de la frontera”. “Comprometernos a tener evaluadores independientes con acceso similar al de los empleados es una gran idea, y haremos lo mismo. Pronto tendremos más que compartir”, agregó.