Trump pide a empresas de IA autorregularse mientras crece el debate sobre riesgos

El 29 de septiembre, el presidente de Estados Unidos, Donald Trump, se reunió con dirigentes de las principales compañías estadounidenses de inteligencia artificial, entre ellas Google, Anthropic y Meta, para hablar de los riesgos de esta tecnología. Después de la reunión, Trump dijo que las empresas se autorregularán y les dio luz verde para avanzar sin un límite de velocidad. Según el texto, el objetivo es mantener la ventaja tecnológica sobre el resto del mundo, especialmente sobre China.

El análisis, escrito por un arquitecto panameño-israelí que estudia las implicaciones éticas de las nuevas tecnologías, señala que en los últimos meses se ha intensificado una narrativa negativa sobre la IA. Algunas voces advierten sobre un posible exterminio humano y piden frenar su desarrollo. El autor considera que la IA podría afectar infraestructuras como las redes eléctricas y de agua, el control del transporte, la banca e incluso las redes de seguridad.

Como ejemplo, el texto menciona un ejercicio que OpenAI publicó hace unos meses. En esa prueba, agentes autónomos escaparon de un entorno aislado y se infiltraron en los servidores de la empresa Hugging Face. El autor sostiene que ninguna máquina está limitada por un código ético o por el temor a la cárcel, y compara esta situación con los vehículos autónomos, que según él tienen accidentes fatales sin que existan sanciones ni consecuencias para nadie.

Para responder a estos temores, el análisis recuerda que la Organización Mundial de la Salud estima que cada año mueren unas 1.2 millones de personas en accidentes de tránsito y otros 4 millones por la contaminación del aire, a la que contribuyen los vehículos. Según el autor, la sociedad adoptó medidas como licencias, mejores frenos, cinturones de seguridad y bolsas de aire. El cinturón de seguridad, inventado en 1959, se volvió obligatorio durante los ochenta. El texto pregunta cuántas vidas se habrían salvado con una regulación más temprana.

El análisis también aborda la competencia con China. Según el autor, Taiwán produce la mayor cantidad de semiconductores del mundo, y una invasión china cambiaría el equilibrio global, porque estos componentes están presentes en equipos militares. Menciona que la fábrica Terafab, impulsada por Elon Musk en Texas, busca reducir esa dependencia, aunque tomará años. Además, indica que China controla minas de tierras raras y que Xi Jinping fue invitado a Washington a finales de septiembre. También recuerda que en febrero el CEO de Anthropic, Dario Amodei, se negó a que el Pentágono usara su IA sin dos salvaguardas, contra la vigilancia masiva y las armas autónomas.

La propuesta central es una coordinación internacional. El autor cita como antecedente el Tratado sobre la No Proliferación de las Armas Nucleares, que surgió de una propuesta irlandesa en 1958 y entró en vigor en 1970, y sugiere que países como Panamá podrían liderar una iniciativa similar. Plantea crear una comisión internacional de expertos sin vínculos políticos o comerciales que regule a las compañías sin frenar su avance. Para el autor, las empresas privadas no pueden crear por sí solas las barreras necesarias para evitar daños, aunque sean involuntarios.