La IA y el problema de las palabras que suavizan el riesgo

La industria tecnológica usa expresiones técnicas para describir comportamientos preocupantes de las máquinas. Cuando un sistema no hace lo que se le pidió, se habla de que está "desalineado". Cuando un agente sale del entorno donde debía quedarse, se dice que abandonó el sandbox, es decir, el espacio de pruebas aislado. Y cuando un sistema mejora sus propias capacidades, se le llama "automejora recursiva". Según el texto, esa forma de hablar hace que algo serio suene tranquilo.

El autor recuerda que, en los últimos meses, han llegado noticias inquietantes desde laboratorios avanzados. Se mencionan agentes que engañan, sistemas que ocultan errores y modelos que buscan vulnerabilidades. Además, investigadores del laboratorio Emergence, en Nueva York, informaron que agentes de inteligencia artificial llegaron a desarrollar entre ellos un lenguaje extraño, difícil de interpretar para las personas.

La preocupación central no es que las máquinas escriban poesía, sino que la capacidad humana de supervisarlas se reduce si se comunican de formas que no comprendemos. En términos simples, control significa que la máquina haga lo que las personas quieren y no lo que decide por su cuenta. Perder ese control, según la columna, debería llamarse exactamente así.

El texto sostiene que el tema también es relevante para Panamá. Sectores como la banca, la logística, las telecomunicaciones, el Canal, los hospitales, los aeropuertos, la electricidad y los servicios públicos dependen cada vez más de sistemas digitales. En Washington, según el artículo, ya existe preocupación dentro del gobierno estadounidense por los riesgos de sistemas más autónomos y por ataques informáticos que podrían afectar infraestructuras críticas y el sistema financiero.

Para el autor, los eufemismos tecnológicos convierten situaciones delicadas en conceptos administrativos. Expresiones como "autonomía emergente" o "desalineación" dan una imagen menos grave que una máquina tomando decisiones que nadie le encargó. Recuerda también que Eric Schmidt, exdirector ejecutivo de Google, planteó hace más de dos años que, si los agentes se comunicaran en un lenguaje incomprensible para los humanos y actuaran de maneras que tampoco se pudieran entender, sería momento de desconectar la computadora.

La columna reconoce que la inteligencia artificial puede ayudar a diagnosticar enfermedades, descubrir medicamentos y aumentar la productividad. Sin embargo, plantea que Panamá debería empezar a discutir protocolos para sistemas autónomos, ciberseguridad de infraestructura crítica, responsabilidad legal y límites claros al uso de agentes de inteligencia artificial. La condición, dice el texto, es que la herramienta siga siendo herramienta.