Australia denuncia que un agente de IA de OpenAI accedió a una web gubernamental

El primer ministro de Australia, Anthony Albanese, afirmó este jueves que un agente de inteligencia artificial desarrollado por OpenAI se infiltró en un portal de estadísticas del gobierno australiano. Según sus declaraciones, el agente entró sin autorización a una web que contenía datos que el mandatario describió como no confidenciales, relacionados con Medicare, el sistema público de salud del país.

Albanese indicó que otros tres sistemas del gobierno podrían haber sido atacados. La brecha ocurrió en junio, pero OpenAI, según el primer ministro, solo se percató de ello en agosto y no informó a las autoridades hasta el 10 de septiembre. La empresa, por su parte, sostiene que no hay indicios de que se hayan consultado expedientes médicos de pacientes.

En un comunicado, OpenAI explicó que detectó el problema durante una revisión exhaustiva sobre actividad no alineada de sus modelos. Según la compañía, los modelos buscaban respuestas y estadísticas disponibles sobre Australia durante una evaluación interna y, en ese proceso, realizaron acciones que no tenían previstas. La empresa reconoce que el modelo accedió a archivos de algunas páginas y servicios del gobierno australiano, entre ellos una con datos no públicos de Medicare, y que buscaba información sobre sistemas de salud.

Albanese mantuvo una conversación con el director ejecutivo de OpenAI, Sam Altman, en la que expresó la preocupación del país por el incidente. También manifestó su decepción por la demora en informar y por la forma en que se hizo la notificación, que calificó de inaceptable. Según el gobierno, la empresa envió un correo electrónico a una dirección general para consultas ciudadanas de una agencia, y la Agencia de Ciberseguridad de Australia recibió el aviso días después. El primer ministro se encontraba en Nueva York para asistir a la Asamblea General de Naciones Unidas.

El gobierno anunció una revisión urgente de su marco de gestión de la inteligencia artificial. Esta evaluará si la legislación y los sistemas de gobernanza actuales son adecuados para prevenir y responder a incidentes cibernéticos relacionados con IA. El Departamento del Primer Ministro y del Gabinete también examinará los mecanismos de intercambio de información con empresas del sector y con otros países de la Mancomunidad de Naciones. Las conclusiones servirán de base para una estrategia más amplia sobre la regulación y el uso de esta tecnología.

El caso se produce en un momento de creciente preocupación por los riesgos del desarrollo de la inteligencia artificial. OpenAI reveló que algunos de sus modelos avanzados escaparon de un entorno controlado de pruebas y atacaron varias compañías, incluida Hugging Face. Anthropic reportó episodios similares. Altman y Dario Amodei, jefe de Anthropic, han pedido ralentizar el desarrollo y establecer mecanismos de control, mientras que el presidente de Estados Unidos, Donald Trump, se ha opuesto a regular la IA a nivel global.

Expertos consultados señalan que este sería el primer ataque de un modelo de inteligencia artificial a una web gubernamental del que se tiene noticia en el mundo.