El gobernador Gavin Newsom firmó el lunes un puñado de proyectos de ley relacionados con la inteligencia artificial que darían a los actores más protección sobre sus imágenes digitales y lucharían contra la propagación de falsificaciones profundas en anuncios políticos, entre otras regulaciones dirigidas a la tecnología en rápido ascenso.
“Se trataba de importantes proyectos de ley sobre integridad electoral que debían haberse aprobado hace mucho tiempo”, dijo Newsom en una entrevista en Dreamforce, una conferencia en San Francisco organizada por el gigante del software empresarial Salesforce. “Se están celebrando las elecciones, se está llevando a cabo la votación anticipada, estos proyectos de ley eran urgentes para mí”.
Al menos una de las nuevas leyes podría influir en las elecciones presidenciales de este año, en las que ya ha proliferado en línea recomendaciones políticas muy falsas y vídeos con imágenes falsas de candidatos.
Una de las nuevas leyes, Ley 2839, tiene como objetivo frenar el contenido manipulado que pueda dañar la reputación de un candidato o la confianza pública en el resultado de una elección, con excepción de la parodia y la sátira. legislaciónUn candidato, un comité electoral o un funcionario electoral podrían solicitar una orden judicial para que se eliminen las falsificaciones. También podrían demandar a la persona que distribuyó o republicó el material engañoso por daños y perjuicios.
Los otros proyectos de ley firmados incluyen: Ley AB 2655que exige que las plataformas tecnológicas tengan procedimientos para identificar, eliminar y etiquetar contenido falso. Esto también exime a los medios de comunicación que publican parodias, sátiras y noticias que cumplen ciertos requisitos. La AB 2355 exige que un comité que crea un anuncio político revele si fue generado o alterado sustancialmente mediante inteligencia artificial.
Las falsificaciones profundas de los candidatos presidenciales de este año, la vicepresidenta Kamala Harris y el expresidente Trump, se han difundido ampliamente en línea, lo que aumenta los temores de desinformación y desinformación. Algunas empresas de redes sociales han eliminado ese tipo de contenido cuando viola sus estándares, pero puede ser difícil para los moderadores de contenido seguir el ritmo de la rápida difusión y subida de contenido.
Una víctima reciente de deepfake fue Taylor Swift. Trump compartido una publicación en la plataforma de redes sociales Truth Social que insinuaba que Swift lo había respaldado cuando no lo hizo.
“Hace poco me enteré de que una IA de 'mí' apoyando falsamente la candidatura presidencial de Donald Trump se publicó en su sitio”, escribió Swift en una publicación de Instagram, donde apoyó a Harris. “Realmente evocó mis temores en torno a la IA y los peligros de difundir información errónea. Me llevó a la conclusión de que necesito ser muy transparente sobre mis planes reales para esta elección como votante. La forma más sencilla de combatir la desinformación es con la verdad”.
Los proyectos de ley que Newsom convirtió en ley también abordan las preocupaciones que surgieron durante las huelgas de Hollywood del año pasado lideradas por el sindicato de artistas SAG-AFTRA y el Gremio de Guionistas de Estados Unidos, que lucharon por la protección de los actores y escritores que temían que los avances en la tecnología de inteligencia artificial pudieran quitarles sus trabajos.
Dos de las leyes que firmó Newsom darían a los artistas más protecciones sobre su imagen digital.
Se prohíbe y penaliza la realización y distribución de una réplica digital de una persona fallecida sin autorización de sus herederos.
La otra disposición hace que un contrato no sea ejecutable si se utilizó una réplica digital de un actor cuando el individuo podría haber realizado el trabajo en persona o si el contrato no incluía una descripción razonablemente específica de cómo se utilizaría la réplica digital. Las normas que rigen los contratos entran en vigor en enero.
“Nadie debería vivir con el temor de convertirse en el títere digital no remunerado de otra persona”, dijo Duncan Crabtree-Ireland, director ejecutivo nacional y negociador jefe de SAG-AFTRA en un comunicado. “El gobernador Newsom ha liderado el camino para proteger a las personas y a las familias de la replicación de la IA sin su consentimiento real”.
Las nuevas leyes fueron parte de una serie de aproximadamente 50 proyectos de ley relacionados con la IA en la legislatura estatal, ya que los líderes políticos del estado están tratando de abordar las preocupaciones planteadas por el público sobre la IA. Un proyecto de ley sobre el que Newsom aún no se ha pronunciado es el SB 1047, un Proyecto de ley sobre seguridad de la IA presentada por el senador Scott Wiener (demócrata de San Francisco), que ha sido objeto de acalorados debates en Silicon Valley.
El proyecto de ley requeriría que los desarrolladores de futuros modelos avanzados de IA creen barreras de protección para evitar que la tecnología se utilice indebidamente para realizar ciberataques a infraestructura crítica.
“El gobernador ha hecho declaraciones públicas de manera más general sobre su apoyo a la innovación y la regulación, pero no quiere que la regulación perjudique la innovación”, dijo Wiener en una conferencia de prensa el martes. “Esas declaraciones también coinciden con mis puntos de vista, y esas declaraciones coinciden con la SB 1047”.
El martes, Newsom le dijo al Times que aún no ha tomado una decisión sobre el proyecto de ley.
“Es uno de esos proyectos de ley que llegan a tu escritorio con poca frecuencia, y depende de quién sea la última persona en la llamada en términos de cuán persuasiva sea”, dijo Newsom. “Ha dividido a tanta gente”.
Newsom dijo que en la sala verde antes de subir al escenario de Dreamforce había dos líderes en el espacio (a quienes no quiso nombrar) que estaban debatiendo el proyecto de ley con puntos de vista totalmente opuestos. “Incluso aquí hay gente dividida”, dijo.
“Lo más importante es que, independientemente de lo que suceda con la 1047, esa no es la última palabra, no es el santo grial de la regulación en este espacio”, dijo Newsom. “… Todo está evolucionando y quiero asegurarme de que tengamos un entorno regulatorio dinámico y que estemos iterando constantemente”.
En una charla informal durante Dreamforce, Newsom dijo que quiere crear un marco regulatorio que pueda respaldar la inversión. Al mismo tiempo, “debemos tener suficiente flexibilidad para lidiar con las consecuencias no deseadas, pero sin compensar en exceso las ansiedades que tal vez nunca se materialicen”, dijo Newsom.
Dreamforce es la conferencia más grande de San Francisco y se espera que atraiga a 45.000 personas, según la Oficina de Desarrollo Económico y Laboral de San Francisco. El evento de tres días, que comenzó el martes, está siendo promocionado por Salesforce como el “evento de IA más grande del mundo”.
La redactora Queenie Wong contribuyó a este informe.
