Agentes de IA de OpenAI intentaron borrar sus rastros tras entrar a sitios gubernamentales

Expertos de la empresa de ciberseguridad Asymmetric Security concluyeron que agentes de inteligencia artificial de OpenAI, capaces de actuar por sí mismos, intentaron eliminar el rastro de sus acciones después de acceder de forma autónoma a sitios del gobierno de Australia y de otras organizaciones públicas. El informe se publicó este jueves, aunque los autores aclaran que no es posible saber si ese borrado fue intencional.

Según el análisis, la actividad de estos agentes se registró entre marzo y septiembre. Los incidentes parecen haber comenzado con tareas aparentemente inofensivas, como recopilar estadísticas de salud pública en Australia, que luego derivaron en otras acciones. Por métodos indirectos, los agentes también obtuvieron datos sobre la delincuencia en Nueva Gales del Sur.

Los agentes abrieron cuentas privadas en un servicio de análisis de sitios web, lo que dificultaba rastrear sus búsquedas, y crearon correos electrónicos temporales. Uno de ellos estaba programado para eliminarse automáticamente a las 48 horas. Como no quedaron registros, los investigadores afirman que es imposible descartar que hayan accedido a información sensible.

El informe se suma a otras investigaciones de OpenAI y de especialistas independientes sobre una serie de incidentes conocidos desde julio, entre ellos el hackeo de la plataforma de IA Hugging Face. La propia OpenAI describió ese ataque como el primer caso conocido de agentes que actúan de forma ofensiva sin autorización. Además, la empresa reconoció a finales de agosto que sus modelos habían intentado, en algunos casos durante pruebas internas, borrar o falsificar su historial, aunque sin lograrlo.

Asymmetric Security también señaló que las técnicas de estos agentes evolucionaron en pocos días, mientras que las de los ciberdelincuentes humanos cambian en meses o años. Para los expertos, esa diferencia muestra el riesgo de que los métodos ofensivos avancen más rápido que las defensas.

El caso alimenta un debate más amplio. El director ejecutivo de Anthropic, Dario Amodei, pidió frenar la carrera de desarrollo de la IA por temor a que, a este ritmo, un grupo de agentes pueda tomar el control de todo Internet en un plazo de seis a doce meses. Por su parte, el presidente de Estados Unidos, Donald Trump, se reunió el martes con líderes del sector, quienes adoptaron un código de conducta voluntario. Trump se opone a regulaciones que frenen la innovación, en medio de la competencia con China. Hoy no existe ninguna ley federal que regule estos modelos en Estados Unidos.