Meredith Whittaker advierte que el mayor riesgo de la IA es su uso negligente

Meredith Whittaker, directora de la Fundación Signal, considera que las advertencias sobre una inteligencia artificial que se vuelva contra la humanidad carecen de base científica. Para ella, el peligro inmediato está en el uso descuidado de una tecnología que ya se emplea en decisiones delicadas.

Como ejemplo, cita un supuesto incidente reportado por medios estadounidenses. Según ese relato, un chatbot usado por la inteligencia de Estados Unidos habría inventado información sobre un barco chino que transportaba material nuclear, lo que habría llevado a Washington a preparar una respuesta militar. Whittaker afirma que el país estuvo cerca de entrar en guerra con China y sostiene que un sistema que produce datos falsos no merece el calificativo de superinteligente.

Signal tiene entre 40 y 70 millones de usuarios, una cifra muy inferior a la de WhatsApp, que cuenta con miles de millones. La aplicación se distingue por su defensa de la privacidad, ya que oculta quién envía cada mensaje desde sus propios servidores, lo que limita los datos disponibles para terceros.

Whittaker, que estudió literatura, llegó a Google en 2006 como empleada temporal sin título en informática. En 2017 se dio a conocer al criticar el Proyecto Maven, un contrato secreto con el Departamento de Defensa para usar inteligencia artificial en la localización de objetivos con drones. Al año siguiente ayudó a organizar una huelga en la que unos 20.000 empleados protestaron contra la gestión de la empresa, entre otros asuntos por la introducción apresurada de nuevas tecnologías.

La exdirectiva vincula ese programa con un ataque estadounidense contra una escuela en Irán este año, en Minab. Según su versión, el sistema se apoyó en información de inteligencia obsoleta que señalaba al centro educativo como objetivo militar. La empresa Palantir negó que su software tuviera responsabilidad en la tragedia y aseguró que no controla los datos subyacentes. El ejército estadounidense aún no ha publicado las conclusiones de su investigación, aunque el secretario de Defensa, Pete Hegseth, afirmó que nunca atacaría objetivos civiles.

El debate también incluye el cifrado de extremo a extremo. Varios gobiernos, entre ellos el británico, piden más acceso a las conversaciones para proteger a mujeres y niños. Whittaker sostiene que los menores podrían eludir esas medidas y que el enfoque oficial supondría un control sin precedentes. Advierte que Signal dejaría un mercado antes que debilitar su cifrado. La aplicación está bloqueada total o parcialmente en Rusia, China e Irán. Mientras tanto, organizaciones de protección infantil denuncian abusos en plataformas cifradas, y grupos de mujeres del Sur Global la usan como herramienta de protección frente a la vigilancia y los ciberataques.