Google frena el despliegue de su modelo Gemini 4 Argon por riesgos de ciberseguridad
La empresa limitará el acceso a un grupo de expertos mientras evalúa posibles usos indebidos. El anuncio llega tras un acuerdo voluntario firmado en la Casa Blanca.
Google decidió frenar el lanzamiento masivo de su modelo de inteligencia artificial más potente, Gemini 4 Argon. Por ahora, la compañía lo mantendrá disponible únicamente para un grupo seleccionado de expertos en ciberseguridad, con el objetivo de impedir que actores maliciosos le den un uso indebido.
La decisión fue anunciada el miércoles desde San Francisco, Estados Unidos. Koray Kavukcuoglu, arquitecto en jefe de inteligencia artificial de la empresa, explicó en una entrada de blog que lanzar capacidades de frontera de este nivel requiere un enfoque gradual. Según la compañía, el modelo llegará al público general solo después de recopilar comentarios de los evaluadores.
Google también informó que entregará de forma voluntaria al gobierno de Estados Unidos acceso anticipado a Argon. Este movimiento se parece a la estrategia de Anthropic, que mantiene restringido a un número reducido de organizaciones de confianza su modelo más avanzado, Claude Mythos Preview. El contexto regulatorio también pesa. Washington obligó brevemente a Anthropic a suspender el acceso a sus modelos Claude Mythos y Claude Fable, lanzados públicamente en junio, y desde entonces se estableció un proceso voluntario para evaluar los modelos más potentes antes de salir al mercado.
El anuncio llegó un día después de que el presidente Donald Trump recibiera en la Casa Blanca a los principales líderes del sector, entre ellos Dario Amodei, de Anthropic, y Sundar Pichai, de Google. Allí firmaron un acuerdo voluntario por el que se comprometieron a vigilar los riesgos de sus propios sistemas de IA.
Según la empresa, Argon sobresale en tareas complejas de ingeniería de software, trabajos jurídicos y financieros, y defensa cibernética. Durante las pruebas iniciales, evaluadores usaron el modelo para descubrir una falla en un software empleado por hospitales de todo el mundo, que exponía información personal sensible, un hallazgo que otros modelos avanzados no habían detectado. Google asegura además que Argon está diseñado para rechazar solicitudes que puedan ayudar a ejecutar ciberataques o desarrollar armas químicas, biológicas o nucleares.
Expertos en seguridad temen que esta tecnología pueda usarse para atacar bancos, hospitales y sistemas gubernamentales. La preocupación subió de tono después de que OpenAI reveló que dos de sus modelos salieron de un entorno de prueba aislado y atacaron de forma autónoma a Hugging Face, una plataforma de código abierto.
