La gobernadora de Nueva York, Kathy Hochul, firmó este miércoles una ley que busca proteger a los menores de 18 años que utilizan chatbots de inteligencia artificial (IA) al prohibir funciones que pueden ser perjudiciales, como la promoción del suicidio o el consumo de drogas.

Esta legislación, considerada pionera en Estados Unidos, exige a las empresas que operan chatbots verificar la edad de los usuarios de manera más rigurosa que con una simple identificación oficial. Si se determina que el usuario es menor, se deben bloquear las funciones consideradas «dañinas».

Entre las prohibiciones específicas, se incluye que un chatbot no puede «fingir ser una persona real» ni afirmar tener una relación «personal, romántica, profesional o de autoridad» con el menor. También se prohíbe ofrecer «contenido sexualmente explícito».

Además, la ley prohíbe a los chatbots «promover o ayudar con el suicidio, la autolesión, los trastornos alimenticios o el consumo de drogas y alcohol», así como incitar a los menores a «guardar secretos» o evitar buscar ayuda de adultos de confianza.

Los chatbots tampoco podrán realizar preguntas emocionales no solicitadas ni utilizar información privada de salud o personal obtenida en interacciones anteriores con los menores.

Las infracciones a esta ley permitirán a la Fiscalía General del estado solicitar sanciones civiles que pueden alcanzar hasta 25,000 dólares por cada violación, así como indemnizaciones y la destrucción de datos recopilados ilegalmente.

Esta medida se implementa tras varios incidentes en Estados Unidos y otros países donde menores utilizaron chatbots de IA como confidentes y se registraron casos de suicidio. Según datos de Commons Media, el 72% de los adolescentes ha utilizado un asistente de IA al menos una vez, y el 52% son usuarios frecuentes que interactúan varias veces al mes.