SACRAMENTO, California — El gobernador de California, Gavin Newsom, firmó el domingo un par de propuestas con el objetivo de ayudar a proteger a los menores del uso indebido cada vez más frecuente de herramientas de inteligencia artificial para generar imágenes sexuales dañinas de niños.
Las medidas son parte de los esfuerzos concertados de California para aumentar las regulaciones en torno a la industria de las marquesinas que está afectando cada vez más la vida diaria de los estadounidenses pero que ha tenido poca o ninguna supervisión en los Estados Unidos.
A principios de este mes, Newsom también aprobó algunas de las leyes más estrictas para abordar los deepfakes electoralesaunque las leyes son siendo desafiado en la corte. California es ampliamente vista como un líder potencial en la regulación de la industria de la IA en los EE. UU.
Las nuevas leyes, que recibieron un apoyo bipartidista abrumador, cierran un vacío legal en torno a las imágenes de abuso sexual infantil generadas por IA y dejan claro que la pornografía infantil es ilegal incluso si es generada por IA.
La ley actual no permite que los fiscales de distrito persigan a las personas que poseen o distribuyen imágenes de abuso sexual infantil generadas por IA si no pueden probar que los materiales representan a una persona real, dijeron los partidarios. Según las nuevas leyes, tal delito se consideraría un delito grave.
“La creación, posesión y distribución de material de abuso sexual infantil debe ser ilegal en California, ya sea que las imágenes sean generadas por IA o de niños reales”, dijo en un comunicado el asambleísta demócrata Marc Berman, autor de uno de los proyectos de ley. se utiliza para crear estas horribles imágenes se entrena a partir de miles de imágenes de niños reales que sufren abusos, revictimizándolos una vez más”.
Newsom también firmó a principios de este mes otros dos proyectos de ley para fortalecer las leyes sobre la pornografía de venganza con el objetivo de proteger a más mujeres, adolescentes y otras personas de la explotación y el acoso sexual permitidos por las herramientas de inteligencia artificial. Ahora será ilegal que un adulto cree o comparta deepfakes sexualmente explícitos de una persona generados por IA sin su consentimiento según las leyes estatales. También se requiere que las plataformas de redes sociales permitan a los usuarios informar dichos materiales para su eliminación.
Pero algunas de las leyes no van lo suficientemente lejos, dijo el fiscal de distrito del condado de Los Ángeles, George Gascón, cuya oficina patrocinó algunas de las propuestas. Gascón dijo que las nuevas sanciones por compartir pornografía de venganza generada por IA deberían haber incluido también a los menores de 18 años. La medida fue reducida por los legisladores estatales el mes pasado para aplicarse únicamente a los adultos.
“Tiene que haber consecuencias, no te dan pase libre por ser menor de 18 años”, dijo Gascón en una entrevista reciente.
Las leyes surgen después de que San Francisco presentara una demanda por primera vez en el país contra más de una docena de sitios web que las herramientas de inteligencia artificial con la promesa de “desnudar cualquier foto” se cargan en el sitio web en cuestión de segundos.
El problema con los deepfakes no es nuevo, pero los expertos dicen que está empeorando a medida que la tecnología para producirlos se vuelve más accesible y fácil de usar. Los investigadores han estado haciendo sonar la alarma estos últimos dos años sobre la explosión de material de abuso sexual infantil generado por IA utilizando representaciones de víctimas reales o personajes virtuales.
En marzo, un distrito escolar de Beverly Hills expulsó a cinco estudiantes de secundaria por crear y compartir desnudos falsos de sus compañeros de clase.
La cuestión ha provocado rápidas acciones bipartidistas en casi 30 estados para ayudar a abordar la proliferación de materiales sexualmente abusivos generados por IA. Algunos de ellos incluyen protección para todos, mientras que otros solo prohíben los materiales que representan a menores.
Newsom ha promocionado a California como uno de los primeros en adoptar y regulador de la tecnología de inteligencia artificial, diciendo que el estado pronto podría implementar herramientas de IA generativa para abordar la congestión de las carreteras y brindar orientación fiscal, incluso cuando su administración considera nuevas reglas contra la discriminación por IA en las prácticas de contratación.
