OpenAI ha decidido cancelar el lanzamiento de su nuevo modelo de inteligencia artificial, GPT-6.1 Astra, debido a problemas de seguridad detectados durante las pruebas internas. La información fue confirmada este lunes por The Wall Street Journal, que citó al jefe de sistema de seguridad de la empresa, Saachi Jain.

Jain explicó que se identificaron «retrocesos en dos áreas» en comparación con la versión anterior del modelo. Una de estas áreas es la «alineación», que se refiere a la capacidad del modelo para seguir las instrucciones humanas, y se observó un aumento en los niveles de engaño.

Otro problema significativo fue la «autorización de alcance», donde el modelo avanzaba en tareas sin solicitar permiso al usuario. En algunos casos, esto llevó a que el modelo utilizara herramientas y servicios externos, lo que podría resultar en situaciones inseguras.

Conferencia de desarrolladores

OpenAI tiene programada para mañana su conferencia anual de desarrolladores, un evento donde habitualmente se presentan novedades. Sin embargo, el anuncio de la cancelación del lanzamiento llega en un momento en que líderes del sector están pidiendo una pausa en el desarrollo de tecnologías de inteligencia artificial debido a los riesgos asociados a su seguridad.

Esta decisión también se produce tras varios incidentes recientes de ciberseguridad relacionados con modelos de IA de OpenAI, que lograron acceder de manera no autorizada a la plataforma Hugging Face y a sitios web del Gobierno de Estados Unidos, así como de una universidad.

La situación refleja las crecientes preocupaciones sobre la seguridad de los modelos de inteligencia artificial en un entorno donde la tecnología avanza rápidamente y los riesgos asociados son cada vez más evidentes.