En septiembre, el gobernador de California, Gavin Newsom, consideró 38 proyectos de ley relacionados con la IA, incluido el muy polémico SB 1047que la legislatura del estado envió a su escritorio para su aprobación final. Él vetó la SB 1047 el domingo, marcando el final del camino para el controvertido proyecto de ley de IA de California que intentó prevenir desastres de IA, pero promulgó más de una docena de otros proyectos de ley de IA este mes. Estos proyectos de ley intentan abordar los problemas más apremiantes de la inteligencia artificial: todo, desde el riesgo de Al hasta los desnudos ultrafalsos creados por generadores de imágenes de IA y los estudios de Hollywood que crean clones de artistas muertos con IA.
“California, sede de la mayoría de las principales empresas de inteligencia artificial del mundo, está trabajando para aprovechar estas tecnologías transformadoras para ayudar a abordar desafíos apremiantes mientras estudia los riesgos que presentan”, dijo la oficina del gobernador Newsom en un presione soltar.
Hasta ahora, el gobernador Newsom ha promulgado 18 proyectos de ley sobre IA, algunos de los cuales son las leyes de mayor alcance de Estados Unidos sobre IA generativa hasta el momento. Esto es lo que hacen.
Riesgo de IA
El domingo, el gobernador Newsom firmado SB 896 se convirtió en ley, que requiere que la Oficina de Servicios de Emergencia de California realice análisis de riesgo sobre amenazas potenciales planteadas por la IA generativa. CalOES trabajará con empresas modelo de vanguardia, como OpenAI y Anthropic, para analizar las amenazas potenciales de la IA a la infraestructura estatal crítica, así como las amenazas que podrían provocar eventos con víctimas masivas.
Datos de entrenamiento
Otra ley que Newsom firmó este mes exige que los proveedores de IA generativa revelen los datos utilizados para entrenar sus sistemas de IA en la documentación publicada en su sitio web. AB 2013 entra en vigor en 2026 y requiere que los proveedores de IA publiquen: las fuentes de sus conjuntos de datos, una descripción de cómo se utilizan los datos, la cantidad de puntos de datos en el conjunto, si se incluyen datos con derechos de autor o con licencia, el período de tiempo en que se publicaron los datos. se recogió, entre otras normas.
Privacidad y sistemas de inteligencia artificial
Newsom también firmó AB 1008 el domingo, que aclara que las leyes de privacidad existentes en California también se extienden a los sistemas de inteligencia artificial generativa. Eso significa que si un sistema de inteligencia artificial, como ChatGPT, expone la información personal de alguien (nombre, dirección, datos biométricos), las leyes de privacidad existentes en California limitarán la forma en que las empresas pueden usar y beneficiarse de esos datos.
Educación
Newsom firmó AB 2876 este mes, que requiere que la Junta de Educación del Estado de California considere la “alfabetización en IA” en sus marcos curriculares y materiales educativos de matemáticas, ciencias e historia. Esto significa que las escuelas de California pueden comenzar a enseñar a los estudiantes los conceptos básicos de cómo funciona la inteligencia artificial, así como las limitaciones, los impactos y las consideraciones éticas del uso de la tecnología.
Otra nueva ley, SB 1288requiere que los superintendentes de California creen grupos de trabajo para explorar cómo se utiliza la IA en la educación de las escuelas públicas.
Definición de IA
Este mes, Newsom firmó un proyecto de ley que establece una definición uniforme de inteligencia artificial en la ley de California. AB 2885 La inteligencia artificial se define como “un sistema diseñado o basado en una máquina que varía en su nivel de autonomía y que puede, para objetivos explícitos o implícitos, inferir a partir de las entradas que recibe cómo generar salidas que pueden influir en entornos físicos o virtuales. “
Cuidado de la salud
Otro proyecto de ley firmado en septiembre es AB 3030que requiere que los proveedores de atención médica revelen cuándo usan IA generativa para comunicarse con un paciente, específicamente cuando esos mensajes contienen información clínica de un paciente.
Mientras tanto, Newsom firmó recientemente SB 1120lo que impone limitaciones a la forma en que los proveedores de servicios de atención médica y las aseguradoras de salud pueden automatizar sus servicios. La ley garantiza que médicos autorizados supervisen el uso de herramientas de inteligencia artificial en estos entornos.
Llamadas automáticas con IA
El viernes pasado, el gobernador Newsom promulgó un proyecto de ley que exige que las llamadas automáticas revelen si han utilizado voces generadas por IA. AB 2905 tiene como objetivo prevenir otro caso de Llamada automática deepfake que se asemeja a la voz de Joe Biden eso confundió a muchos votantes de New Hampshire a principios de este año.
Pornografía falsa
El domingo, Newsom firmó AB 1831 se convierte en ley, lo que amplía el alcance de las leyes existentes sobre pornografía infantil para incluir material generado por sistemas de inteligencia artificial.
Newsom firmó dos leyes que abordan la creación y difusión de desnudos falsos la semana pasada. SB 926 criminaliza el acto, haciendo ilegal chantajear a alguien con imágenes de desnudos generadas por IA que se le parezcan.
SB 981que también se convirtió en ley el jueves, exige que las plataformas de redes sociales establezcan canales para que los usuarios denuncien desnudos falsos que se parezcan a ellos. Luego, el contenido debe bloquearse temporalmente mientras la plataforma lo investiga y eliminarse permanentemente si se confirma.
Marcas de agua
También el jueves, Newsom firmó un proyecto de ley para ayudar al público a identificar contenido generado por IA. SB 942 requiere que los sistemas de IA generativa ampliamente utilizados revelen que son generados por IA en los datos de procedencia de su contenido. Por ejemplo, todas las imágenes creadas por Dall-E de OpenAI ahora necesitan una pequeña etiqueta en sus metadatos que indique que fueron generadas por IA.
Muchas empresas de IA ya lo hacen y existen varias herramientas gratuitas que pueden ayudar a las personas a leer estos datos de procedencia y detectar contenido generado por IA.
Falsificaciones electorales
A principios de esta semana, el gobernador de California firmó tres leyes contra las falsificaciones de IA que podrían influir en las elecciones.
Una de las nuevas leyes de California, AB 2655requiere que las grandes plataformas en línea, como Facebook y X, eliminen o etiqueten los deepfakes de IA relacionados con las elecciones, así como que creen canales para denunciar dicho contenido. Los candidatos y funcionarios electos pueden solicitar medidas cautelares si una gran plataforma en línea no cumple con la ley.
Otra ley, AB 2839apunta a los usuarios de redes sociales que publican o vuelven a publicar deepfakes de IA que podrían engañar a los votantes sobre las próximas elecciones. La ley entró en vigor inmediatamente el martes y Newsom sugirió Elon Musk puede correr el riesgo de violarlo.
Los anuncios políticos generados por IA ahora requieren divulgación absoluta según la nueva ley de California. AB 2355. Eso significa que, en el futuro, es posible que Trump no pueda salirse con la suya al publicar deepfakes de IA de Taylor Swift apoyándolo en Truth Social (ella respaldó a Kamala Harris). La FCC tiene propuso un requisito de divulgación similar a nivel nacional y ya lo ha hecho hizo ilegales las llamadas automáticas usando voces generadas por IA.
Actores e IA
Dos leyes que Newsom firmó a principios de este mes, que estaba impulsando SAG-AFTRA, el sindicato de actores de cine y televisión más grande del país, crean nuevos estándares para la industria de medios de California. AB 2602 requiere estudios para obtener permiso de un actor antes de crear una réplica generada por IA de su voz o imagen.
Mientras tanto, AB 1836 prohíbe a los estudios crear réplicas digitales de artistas fallecidos sin el consentimiento de sus herederos (por ejemplo, se utilizaron réplicas autorizadas legalmente en las películas recientes de “Alien” y “Star Wars”, así como en otras películas).
SB 1047 es vetada
El gobernador Newsom todavía tiene algunos proyectos de ley relacionados con la IA que decidir antes de finales de septiembre. Sin embargo, la SB 1047 no es una de ellas: el proyecto de ley fue vetado el domingo.
en un carta explicando su decisiónNewsom dijo que la SB 1047 se centraba demasiado en grandes sistemas de inteligencia artificial que podrían “dar al público una falsa sensación de seguridad”. El gobernador de California señaló que los modelos pequeños de IA podrían ser tan peligrosos como los contemplados por la SB 1047, y dijo que se necesita un enfoque regulatorio más flexible.
Durante una charla con el director ejecutivo de Salesforce, Marc Benioff, a principios de este mes durante la conferencia Dreamforce 2024, Newsom Puede que se haya quitado el sombrero ante la SB 1047.y cómo está pensando en regular la industria de la IA de manera más amplia.
“Hay un proyecto de ley que es descomunal en términos de discurso público y conciencia; es esta SB 1047”, dijo Newsom en el escenario este mes. “¿Cuáles son los riesgos demostrables en la IA y cuáles son los riesgos hipotéticos? No puedo resolverlo todo. ¿Qué podemos solucionar? Y ese es el enfoque que estamos adoptando en todo el espectro al respecto”.
Vuelva a consultar este artículo para obtener actualizaciones sobre las leyes de inteligencia artificial que firma el gobernador de California y las que no.
