Carlos III advirtió qué podría pasar si la inteligencia artificial cae en “manos equivocadas”

El rey Carlos III expresó su preocupación por los riesgos que podría generar la inteligencia artificial (IA) si sus capacidades llegaran a quedar en manos equivocadas. El monarca realizó estas declaraciones durante una cumbre sobre el desarrollo seguro de esta tecnología, organizada en Dumfries House, Escocia.

El encuentro reunió a referentes de la industria tecnológica y funcionarios para debatir mecanismos destinados a garantizar que el avance de la IA se produzca bajo criterios de seguridad y control.

La advertencia

Durante la cumbre, Carlos III señaló que existe una preocupación creciente dentro del propio sector tecnológico por la evolución de los modelos de inteligencia artificial.

En ese contexto, el rey planteó que las empresas no deberían concentrarse únicamente en ampliar las capacidades de estos sistemas. También consideró necesario garantizar que permanezcan “firmemente al servicio de la humanidad, la comunidad y el mundo natural”.

Entre los participantes del encuentro estuvieron el ministro británico de Inteligencia Artificial, Kanishka Narayan; representantes de OpenAI, Anthropic y Nvidia; y un asesor del papa.

El planteo

Uno de los asistentes fue Jensen Huang, CEO de Nvidia, quien sostuvo que la seguridad debe ocupar un lugar prioritario en el desarrollo de nuevos sistemas de inteligencia artificial.

Huang planteó que las empresas deberían postergar el lanzamiento de un producto cuando consideren que todavía no ofrece condiciones suficientes de seguridad.

Por su parte, Sir Demis Hassabis, cofundador de DeepMind, adoptó una postura más cautelosa al referirse al futuro de la tecnología. Afirmó que la inteligencia artificial general podría estar a pocos años de distancia y tener un impacto “diez veces mayor que el de la Revolución Industrial”.

Al mismo tiempo, Hassabis sostuvo que todavía existe margen para abordar los riesgos asociados con este desarrollo.

Una cumbre para definir principios comunes

El objetivo del encuentro en Dumfries House fue avanzar hacia un conjunto de principios compartidos que permitan orientar el desarrollo de la inteligencia artificial.

Sarah Friar, directora financiera de OpenAI, también señaló que las nuevas capacidades de estos sistemas plantean interrogantes relacionados con la seguridad y el control.

Las advertencias sobre los posibles riesgos de la IA se multiplicaron durante los últimos meses entre especialistas y ejecutivos de la industria.

El debate

Según la BBC, la discusión también recibió críticas de sectores que consideran que el foco puesto en posibles riesgos futuros puede dejar en segundo plano problemas que ya existen.

Entre ellos aparece el impacto ambiental asociado al desarrollo y utilización de estas tecnologías. De esta manera, la cumbre volvió a poner en el centro del debate la necesidad de establecer criterios comunes para acompañar la evolución de la inteligencia artificial.