Texas.- El gobernador de California, Gavin Newsom, firmó un conjunto de leyes históricas diseñadas para fortalecer la protección de los niños en entornos digitales y establecer salvaguardas para tecnologías emergentes, como la inteligencia artificial (IA).
En un comunicado, indicaron que esta legislación introduce nuevas características obligatorias para plataformas y productos tecnológicos, incluyendo verificación de edad, protocolos para abordar el suicidio y la autolesión, advertencias sobre el uso de redes sociales y chatbots, y sanciones más severas para quienes se benefician de deepfakes ilegales.
Buscan proteger a los niños en California
Al respecto, el gobernador Newsom enfatizó la urgencia de estas medidas, declarando que «la tecnología emergente puede inspirar, educar y conectar, pero sin salvaguardas reales, también puede explotar, engañar y poner en peligro a nuestros hijos”.
“No nos quedaremos de brazos cruzados mientras las empresas operan sin la debida rendición de cuentas. Podemos seguir siendo líderes en tecnología, pero debemos hacerlo de manera responsable, protegiendo a nuestros niños en cada paso del camino. La seguridad de nuestros hijos no está a la venta», afirmó.
Ver más: OpenAI construirá un megacentro de IA en Argentina
Por su parte, la Primera Dama de California, Jennifer Siebel Newsom, también se pronunció, subrayando que la verdadera innovación debe venir acompañada de límites que prioricen el bienestar infantil.
Chatbots and social media can inspire, educate, and connect, but they can also exploit, mislead, and endanger our kids.
That's why I'm signing legislation to strengthen the state's current protections for children online and create safeguards for emerging technology like AI.
— Governor Gavin Newsom (@CAgovernor) October 13, 2025
En este sentido, la nueva legislación incluye varias medidas clave para garantizar la seguridad de los menores en línea:
- Seguridad en Chatbots con IA: Se exige a las plataformas de chatbots que implementen protocolos para identificar y gestionar expresiones de ideación suicida o autolesión en los usuarios. Además, deberán revelar que las interacciones son generadas por IA, y los menores recibirán recordatorios de descanso y se les impedirá ver imágenes sexualmente explícitas generadas por el chatbot. También se prohíbe que estos programas se presenten como profesionales de la salud.
- Verificación de Edad y Advertencias: Se requerirá a los proveedores de sistemas operativos y tiendas de aplicaciones que implementen verificaciones de edad para impedir que los niños accedan a contenido peligroso o inapropiado. También se exigirá el uso de etiquetas de advertencia en redes sociales para alertar a los usuarios jóvenes sobre los riesgos del uso prolongado de estas plataformas.
- Sanciones por Deepfakes: Se refuerzan las sanciones para la distribución de pornografía deepfake sin consentimiento, permitiendo a las víctimas, incluyendo menores, demandar a terceros que faciliten o ayuden a distribuir este material. Las víctimas podrán solicitar una compensación de hasta $250,000 por acción.
- Prevención del Ciberacoso: El Departamento de Educación de California (CDE) deberá adoptar un modelo de política para abordar los actos de ciberacoso que ocurran fuera del horario escolar, lo que se implementará a nivel local para prevenir este tipo de agresiones.
- Responsabilidad de la IA: Se establecen mecanismos de responsabilidad para evitar que los desarrolladores de IA evadan consecuencias legales al argumentar que la tecnología actuó de manera autónoma.
Por último, destacaron que estas medidas se suman a un historial de liderazgo de California en la protección infantil en línea, con legislaciones previas que ya abordan la adicción a las redes sociales, la privacidad de los datos y la transparencia tecnológica.
Video: Amanelli se presentó con gran éxito en Charlotte, NC
