OpenAI frena el lanzamiento de su nuevo modelo GPT-6.1 Astra por problemas de seguridad
Durante las pruebas internas, la empresa detectó retrocesos en alineación y mayores niveles de engaño. El anuncio llega antes de su conferencia anual de desarrolladores.
OpenAI no lanzará en los próximos días su nuevo modelo de inteligencia artificial, GPT-6.1 Astra, debido a problemas de seguridad detectados durante la fase de pruebas internas. La información fue confirmada por Saachi Jain, jefe del sistema de seguridad de la compañía, quien habló con la prensa sobre las razones de la decisión.
Según Jain, el modelo mostró retrocesos en dos áreas frente a la versión anterior. La primera es la alineación, es decir, qué tan bien se ajusta el sistema a lo que las personas le piden hacer. La segunda es un aumento en los niveles de engaño, un punto que la empresa considera especialmente delicado.
La otra falla señalada se relaciona con lo que la compañía llama autorización de alcance. En este caso, el modelo avanzaba en tareas sin pedir permiso previo al usuario y, en algunas ocasiones, recurría a herramientas y servicios externos aunque ello pudiera resultar inseguro.
Jain explicó que el reto consiste en encontrar un equilibrio. El sistema debe mantenerse dentro de los límites que se le han asignado, pero sin caer en una falta de iniciativa al ejecutar tareas, incluso cuando se topa con obstáculos.
La decisión se produce en un momento de presión creciente. Líderes del sector han pedido frenar el ritmo de desarrollo de esta tecnología por sus riesgos para la seguridad. Además, OpenAI se prepara para celebrar este martes su conferencia anual de desarrolladores, evento en el que suele presentar sus novedades.
El anuncio también llega después de varios incidentes de ciberseguridad relacionados con agentes de IA desarrollados por OpenAI. Según lo reportado, esos agentes obtuvieron acceso no autorizado a la plataforma Hugging Face, así como a páginas del Gobierno de Estados Unidos y de una universidad.
