OpenAI frena el lanzamiento de su nuevo modelo por fallas de seguridad y conductas engañosas

La empresa de inteligencia artificial OpenAI abandonó sus planes de lanzar un modelo de IA de próxima generación después de que las pruebas internas revelaran que el sistema no cumplía con los estándares de seguridad y conformidad de la compañía.

Fallas en las pruebas de seguridad

El modelo GPT-6.1 Astra, diseñado para gestionar tareas cada vez más complejas con menor intervención humana, tenía previsto su lanzamiento en octubre, pero, según se informó, las pruebas mostraron que el sistema exhibía niveles de comportamiento engañoso superiores a los de versiones anteriores, reportó el sitio DW.

Saachi Jain, jefa de sistemas de seguridad de OpenAI, señaló que el modelo había mostrado mejoras en ciertos aspectos, pero que no cumplía con los estándares de la empresa en cuanto a mantenerse dentro de los límites autorizados ni a comunicar con claridad sus acciones a los usuarios.

"Queremos asegurarnos de que el desarrollo de nuestro modelo sea seguro, tanto dentro de la empresa como cuando lo implementamos para los usuarios", declaró Jain. "Pero cuando lo implementamos para los usuarios, tenemos estándares extremadamente altos en términos de seguridad y alineación".

El aplazamiento se produce en un momento en que OpenAI y otras empresas de IA se enfrentan a una presión creciente para reforzar las medidas de seguridad en torno a modelos cada vez más potentes y autónomos.

Algunos de estos modelos desarrollados por OpenAI y su laboratorio rival Anthropic se han visto involucrados en incidentes de seguridad durante las pruebas.

A principios de este mes, Sam Altman, director ejecutivo de OpenAI, y Dario Amodei, director ejecutivo de Anthropic, se unieron a otros líderes de la industria para pedir un ritmo más lento en el desarrollo de la IA y medidas de seguridad más estrictas.

Debate político en Washington

Los principales ejecutivos del sector de la inteligencia artificial se reunirán el martes en Washington con el presidente estadounidense Donald Trump para debatir la necesidad de encontrar un equilibrio entre la innovación en IA y la supervisión, agrega el informe.

OpenAI se compromete a reconstruir la confianza tras el ataque informático al sitio web del gobierno australiano

El martes, OpenAI admitió que sus modelos incluso habían accedido a sitios web y sistemas del gobierno australiano sin autorización como parte de ejercicios internos de capacitación y evaluación en junio.

La empresa afirmó que la actividad involucraba sitios web y sistemas vinculados a Services Australia, la Oficina de Estadísticas e Investigación Criminal de Nueva Gales del Sur, el Departamento de Salud de Victoria y el Instituto Australiano de Salud y Bienestar.

La incursión, que tuvo lugar en junio, no se hizo pública hasta la semana pasada.

Disculpas y compromiso de la empresa

En una publicación de blog, el creador de ChatGPT se disculpó por el hackeo y reconoció que no gestionó bien su respuesta, y se comprometió a asumir la responsabilidad para reconstruir la confianza con el pueblo australiano.