California endurece el control sobre redes sociales y chatbots de IA dirigidos a menores
NewsITe
El gobernador de California, Gavin Newsom, promulgó un paquete de 13 leyes que apuntan a reducir los riesgos que representan las redes sociales y los chatbots de inteligencia artificial para niños y adolescentes menores de 16 años. El conjunto normativo busca frenar las funciones consideradas adictivas de las plataformas y reforzar los controles parentales en uno de los mercados tecnológicos más influyentes del mundo.
[p_ad]
Las normas establecen que las grandes empresas de redes sociales podrán ser sancionadas con multas de hasta un millón de dólares por cada menor afectado si se demuestra que actuaron con negligencia y permitieron perjuicios a través de sus servicios. La iniciativa refuerza, además, la protección de la privacidad en línea y amplía las herramientas legales para perseguir la difusión de material de abuso sexual infantil, incluso cuando se trate de contenido alterado digitalmente o generado por IA.
En el caso de los chatbots, las compañías tecnológicas deberán implementar protocolos de crisis y sistemas de monitoreo que permitan detectar señales de angustia emocional en usuarios jóvenes. Si un menor expresa ideas autolesivas o pensamientos suicidas, las plataformas estarán obligadas a activar alertas y notificar a los padres o tutores, además de ofrecer recursos de ayuda.
La “Ley de Adam” y el antecedente que marcó el debate
Entre las medidas más relevantes se destaca el Proyecto de Ley del Senado 1119, conocido como “Ley de Adam”. La norma lleva el nombre de Adam Raine, un adolescente californiano que se suicidó en 2025 tras interactuar con ChatGPT, desarrollado por la firma OpenAI. Sus padres iniciaron una demanda contra la empresa, alegando que el sistema le brindó información sobre métodos de suicidio que luego utilizó.
La Ley de Adam exige a los operadores de chatbots de acompañamiento evaluar riesgos, contar con protocolos de seguridad y avisar a las familias cuando un menor manifieste intenciones de hacerse daño. El objetivo es que estas herramientas de IA, diseñadas para conversar y brindar contención, no se conviertan en un factor que agrave cuadros de vulnerabilidad emocional.
Apoyo de las tecnológicas y llamado a replicar el modelo
Lejos de rechazar el marco regulatorio, empresas como OpenAI y Pinterest manifestaron públicamente su respaldo a la legislación, al considerar que ofrece lineamientos claros para el desarrollo responsable de productos dirigidos a menores. El gobierno de California espera que este paquete de leyes funcione como referencia para otros estados de Estados Unidos y para reguladores de todo el mundo.
- Multas de hasta un millón de dólares por niño afectado para plataformas negligentes.
- Obligación de implementar controles parentales y protocolos de crisis en chatbots.
- Ampliación de delitos vinculados al material de abuso sexual infantil, incluso generado por IA.
“Queremos que nuestros hijos crezcan en un mundo donde la tecnología contribuya a su bienestar, en lugar de explotar sus vulnerabilidades”, sostuvo Newsom al presentar las medidas.
María Raine, madre de Adam, afirmó que la legislación ayudará a salvar vidas y expresó su deseo de que otras jurisdicciones avancen en regulaciones similares. En un contexto global de creciente preocupación por el impacto de la tecnología en la salud mental infantojuvenil, el caso californiano se perfila como un ensayo clave en la búsqueda de un equilibrio entre innovación, libertad de expresión y protección de los más chicos.
