Juntas directivas deben definir ya el uso de la inteligencia artificial

El 21 de septiembre, en la sede del Banco Interamericano de Desarrollo, la subcomisión encargada de implementar la Estrategia Nacional de Inteligencia Artificial de Panamá celebró su segunda sesión. Allí se presentó la metodología para elaborar el plan de implementación, se habló de conformar mesas de trabajo y se expuso el Proyecto de Ley 588 sobre gobernanza adaptativa de la inteligencia artificial.

Mientras el país define sus reglas, una consultora en filantropía y desarrollo institucional plantea en una columna que la pregunta más urgente es para las propias organizaciones: si están decidiendo cómo usar esta tecnología. Según su argumento, esa decisión ya se toma de manera informal. Citando un sondeo de SocialTIC entre organizaciones civiles latinoamericanas, señala que la IA generativa ya se usa en el sector, sobre todo para redactar textos, aunque pocas veces la promueven o acompañan las propias entidades.

La autora describe escenas cotidianas: una coordinadora que pide ayuda a un asistente para una propuesta, un contador que sube una hoja de cálculo para que la resuma y, posiblemente, una lista de beneficiarias con nombres y cédulas pegada en un chat. En ninguno de esos casos hubo aprobación, prohibición ni consulta.

El fenómeno no se limita a la región. Según un estudio de 346 organizaciones sin fines de lucro en Estados Unidos, 92% ya usa inteligencia artificial, pero casi la mitad no tiene política al respecto y solo 7% reporta una mejora importante en lo que logra su equipo. Un estudio regional del BID Lab, NTT DATA y la Universidad de los Andes concluye que la adopción avanza más rápido que la capacidad de gobernarla.

Para la columnista, la responsabilidad recae en la junta directiva, porque la IA afecta tres aspectos que estas juntas deben proteger: los datos de quienes reciben el servicio, la confianza de los donantes y la misión. Propone definir qué información nunca debe entrar en herramientas externas, recordando que Panamá cuenta con una ley de protección de datos personales desde 2019. También sugiere comunicar a los donantes cuándo y cómo se usa la tecnología, como hace la organización argentina Chequeado, y establecer para qué se empleará y quién responde por el resultado, ya que un texto no revisado por una persona pone en riesgo la credibilidad.

La autora advierte, además, sobre depender de plataformas que no controlan y cuyas condiciones o precios pueden cambiar sin aviso. Al comentar la nota oficial sobre la sesión, observa que menciona al BID, a la Asamblea Nacional, a la Unión Internacional de Telecomunicaciones y a los miembros de la subcomisión, pero no a la sociedad civil. Por eso recomienda que las organizaciones que atienden a poblaciones vulnerables pidan un espacio en las mesas de trabajo que se conforman.