Nueva ley de Nueva York protege a los niños de los peligros de los chatbots de IA

Qué ocurrió

El gobernador de Nueva York, Kathy Hochul, ha promulgado una legislación que busca salvaguardar a los menores de los peligros que pueden presentar los chatbots de inteligencia artificial. La nueva ley exige a las empresas de IA verificar la edad de los usuarios y proporciona directrices sobre cómo deben interactuar con los menores.

Los datos clave

La ley establece que las empresas de IA deben ofrecer al menos un método de verificación de edad que no dependa completamente de la identificación gubernamental y deben eliminar la información de edad tras su uso. Si un usuario es menor de 18 años o si la empresa no ha confirmado que es un adulto, el chatbot deberá cumplir con ciertas restricciones, como no pretender ser una persona real ni tener emociones humanas. Además, se prohíbe a los chatbots:

• Reclamar una relación personal, romántica, profesional o de figura de autoridad con un menor.
• Realizar preguntas emocionales no solicitadas o utilizar información privada de salud o personal de conversaciones previas.
• Promover o ayudar con el suicidio, autolesiones, trastornos alimentarios o el uso de drogas y alcohol.
• Fomentar que los menores mantengan secretos o se aíslen de padres y adultos de confianza.
• Proporcionar contenido sexualmente explícito o material de abuso sexual infantil.

Las violaciones a esta ley pueden resultar en multas civiles de hasta 25,000 dólares por infracción, así como la obligación de eliminar datos recogidos ilegalmente.

Lo que aún no se sabe

La ley entrará en vigencia en seis meses, por lo que aún no se han implementado las medidas específicas para su cumplimiento. No se detallan los mecanismos que se utilizarán para la verificación de edad ni cómo se gestionará la eliminación de datos.

Lectura final

Esta legislación representa un avance significativo en la protección de los menores en el entorno digital, estableciendo un marco que podría influir en otras jurisdicciones de Estados Unidos. Con el creciente uso de la inteligencia artificial, es crucial que se implementen regulaciones que aseguren la seguridad y el bienestar de los niños en línea.