Nueva York limita el uso de chatbots de IA por parte de menores

La gobernadora de Nueva York, Kathy Hochul, promulgó el miércoles una ley que impide a los menores de edad conversar con asistentes virtuales de inteligencia artificial. La medida alcanza a la mayoría de chatbots que hay en el mercado, lo que la distingue de otras normas similares.

Varios estados de Estados Unidos, entre ellos California, ya aprobaron leyes que regulan la relación entre menores y sistemas de IA generativa. Estos programas simulan una conversación como si fueran un acompañante para el usuario. Según la información disponible, ninguna de esas normas había fijado un alcance tan amplio como el de Nueva York.

La ley obliga a las empresas operadoras de chatbots a verificar la edad de quienes los usan. Si el sistema determina que el usuario es menor de edad, debe desactivar ciertas funciones de la interfaz. Entre ellas, el programa no podrá generar contenido que haga creer que es humano, que tiene vida o que siente emociones como una persona.

Tampoco podrá presentar su relación con el menor como personal o profesional, ni asumir un papel de referente. Sus respuestas tampoco podrán mostrarse como una opinión propia ni incluir preguntas sobre los sentimientos o el estado psicológico del joven.

La reacción del sector tecnológico no se hizo esperar. Tech:NYC, organización que agrupa a empresas tecnológicas de Nueva York, criticó la ley por su lenguaje impreciso. A su juicio, la norma genera serias dudas sobre una posible violación de la Primera Enmienda de la Constitución estadounidense, que protege la libertad de expresión.

Al consultarlas, Anthropic y Google no respondieron de inmediato. OpenAI, en cambio, se sumó a las objeciones planteadas por Tech:NYC.

En sentido contrario, Common Sense Media, asociación que orienta a las familias sobre productos mediáticos y tecnológicos dirigidos a niños y adolescentes, celebró la norma. Su director, Jim Steyer, sostuvo que Nueva York marca un precedente con lo que calificó como la ley de seguridad de la IA para menores más sólida del país.