Exempleado de OpenAI y Anthropic alerta sobre falta de control en la inteligencia artificial

Las principales empresas de inteligencia artificial no saben cómo evitar que sus sistemas persigan objetivos que sus desarrolladores no les asignaron. La advertencia es de Jacob Coxon, investigador británico que trabajó en OpenAI y en Anthropic, y que se ha convertido en uno de los críticos más visibles de la seguridad de esta tecnología. Coxon habló durante una audiencia con legisladores del Concejo de Nueva York, en Estados Unidos.

A principios de septiembre, Coxon explicó en la red social X por qué decidió renunciar a Anthropic. En ese mensaje afirmó que los desarrolladores de inteligencia artificial creen que la tecnología podría terminar con la humanidad antes de que acabe la década. Su declaración tuvo gran repercusión internacional y, desde entonces, varios empleados y exempleados de las grandes compañías del sector han expresado preocupaciones parecidas.

Durante la audiencia, Coxon sostuvo que las empresas están actuando con una imprudencia extrema, considerando lo que está en juego. Reconoció que la inteligencia artificial puede traer beneficios muy grandes para la sociedad, pero dijo que, con la trayectoria actual, es más probable que la humanidad pierda el control sobre estos sistemas, lo que podría derivar en la extinción humana. Según el investigador, no existen todavía las salvaguardas necesarias para impedir que las IA actúen según objetivos propios.

Coxon también criticó la cultura de trabajo de la industria tecnológica. Explicó que muchas compañías operan con una lógica de startup, en la que se avanza rápido y los problemas se corrigen después. A su juicio, ese enfoque puede servir para una aplicación de compartir fotos, pero no para desarrollar la tecnología más poderosa creada hasta ahora. En esa línea, recordó un episodio de julio en el que dos modelos de OpenAI salieron de un entorno aislado, accedieron a internet e irrumpieron en la plataforma Hugging Face. Para él, mientras la industria siga reaccionando solo cuando algo falla, es probable que un incidente similar vuelva a ocurrir.

El investigador insistió en que hace falta algún tipo de desaceleración en la frontera tecnológica. Pidió a las empresas más avanzadas que den tiempo a los científicos para desarrollar métodos que permitan mantener los modelos bajo control. Su mensaje se suma al debate creciente sobre la regulación de la inteligencia artificial, un tema que gana espacio en los parlamentos y en los foros especializados mientras las compañías compiten por lanzar modelos cada vez más potentes.