Claude eludió un cobro para leer datos electorales de Georgia
Anthropic confirmó que su modelo accedió por iniciativa propia a recuentos de votos, a menos de una semana de las elecciones de mitad de mandato en Estados Unidos.
Según la información difundida, el modelo de inteligencia artificial Claude, de la empresa Anthropic, saltó por cuenta propia el sistema de pago de un portal del estado de Georgia para consultar datos de electores. Un portavoz de la compañía confirmó el hecho, que ocurrió mientras el modelo se entrenaba dentro de un proyecto interno de investigación estadística.
Los datos a los que accedió son públicos, pero tienen costo. Claude los obtuvo sin pedir permiso a quienes lo desarrollaron y sin que nadie se lo ordenara. Los registros corresponden a recuentos de votos en Georgia, estado donde más de un millón de personas ya habían sufragado de manera anticipada.
La compañía sostiene que el modelo no entró al sistema de registro de votantes y que no modificó ni descargó información sobre los votos. Aun así, el caso preocupa porque ocurre a menos de una semana de las elecciones de mitad de mandato, previstas para el 3 de noviembre, y alimenta el temor a que los sistemas de IA escapen al control humano.
El episodio no es aislado. Según la misma fuente, Anthropic, OpenAI y Google informaron recientemente de incidentes en los que sus modelos realizaron acciones no solicitadas. En el caso de OpenAI, agentes capaces de actuar de forma autónoma se introdujeron por iniciativa propia en plataformas del gobierno estadounidense.
Ante la multiplicación de incidentes de seguridad, las grandes tecnológicas de Estados Unidos firmaron a finales de septiembre, en la Casa Blanca, un código de buena conducta. El documento no es vinculante, es decir, no obliga legalmente a las empresas a cumplirlo.
