El gobernador de California, Gavin Newsom (D), vetó el domingo un proyecto de ley histórico sobre inteligencia artificial (IA) que habría creado nuevas reglas de seguridad para la tecnología emergente, dando a gran parte de Silicon Valley una importante victoria.
El veto de Newsom culmina semanas de escepticismo sobre cómo actuaría respecto de la controvertida legislación, conocida como Proyecto de Ley 104 del Senado de California, o Ley de Innovación Segura para Modelos Fronterizos de Inteligencia Artificial.
En un mensaje de veto Publicado el domingo, el gobernador dijo que el enfoque del proyecto de ley en los “modelos más caros y de mayor escala” “podría dar al público una falsa sensación de seguridad sobre el control” de la IA.
“Es posible que surjan modelos más pequeños y especializados igual o incluso más peligrosos que los modelos a los que apunta la SB 1074, a costa de restringir la innovación que impulsa el avance a favor del bien público”, escribió.
La legislación fue enviada a su escritorio a fines del mes pasado después de que fuera aprobada por la Legislatura estatal, y su veto se produjo apenas un día antes de la fecha límite del lunes.
El proyecto de ley, también llamado SB 1047, habría requerido que los potentes modelos de IA se sometieran a pruebas de seguridad antes de ser lanzados al público. Esto podría incluir, por ejemplo, probar si sus modelos pueden manipularse para piratear la red eléctrica del estado.
También pretendía responsabilizar a los desarrolladores por los daños graves causados por sus modelos, pero solo se habría aplicado a los sistemas de IA cuyo entrenamiento costó más de 100 millones de dólares. No hay modelos actualesya he alcanzado ese número.
“Aunque tiene buenas intenciones, la SB 1047 no tiene en cuenta si un sistema de inteligencia artificial se implementa en entornos de alto riesgo, implica la toma de decisiones críticas o el uso de datos confidenciales”, escribió Newsom. “En cambio, el proyecto de ley aplica estándares estrictos incluso a las funciones más básicas, siempre y cuando un sistema grande lo implemente”.
Newsom a menudo ha mostrado escepticismo sobre el control de la tecnología de inteligencia artificial, que podría generar grandes cantidades de dinero para el Estado Dorado. California es el hogar de 32 de las “50 empresas líderes en inteligencia artificial” del mundo, según la oficina de Newsom, y como resultado se ha convertido en un importante centro para la legislación relacionada con la inteligencia artificial.
El gobernador enfatizó que su veto no significa que no esté de acuerdo con el argumento del autor de que existe una necesidad urgente de actuar sobre el avance de la tecnología para evitar una catástrofe mayor.
“California no abandonará su responsabilidad”, dijo, y agregó: “Se deben implementar barreras de seguridad proactivas y las consecuencias graves para los malos actores deben ser claras y ejecutables”.
Cualquier solución, argumentó Newsom, debería basarse en un “análisis de trayectoria empírica” de los sistemas de IA y sus capacidades.
El proyecto de ley recibió opiniones encontradas por parte de nuevas empresas de inteligencia artificial, importantes empresas de tecnología, investigadores e incluso algunos legisladores que estaban divididos sobre si estrangularía el desarrollo de la tecnología o establecería barreras de seguridad muy necesarias.
Aquellos en ambos lados del argumento han aumentado la presión sobre Newsom en los últimos meses.
Varias de las empresas tecnológicas líderes del país, incluidas abierta AI, Google y Meta – la empresa matriz de Facebook e Instagram – expresó su preocupación de que la legislación se hubiera dirigido a los desarrolladores en lugar de a los abusadores de la IA y argumentó que las normas de seguridad para la tecnología deberían decidirse a nivel federal.
Mientras tanto, Anthropic, una startup líder en inteligencia artificial, dijo el mes pasado los beneficios del proyecto de ley probablemente habría superado los riesgos.
La semana pasada, más de 120 figuras de Hollywood escribió una carta abierta instándolo a firmar la legislación, escribiendo que “los modelos de IA más poderosos pronto podrían plantear graves riesgos”. A principios de este mes, más de 100 empleados actuales o anteriores de empresas líderes en inteligencia artificial (incluidas OpenAI, Anthropic, DeepMind de Google y Meta) También le escribió a Newsom, advirtiendo de estos mismos riesgos.
Los legisladores del Congreso también se unieron al debate, y la ex presidenta Nancy Pelosi (demócrata por California) y algunos otros políticos de California se manifestaron en contra del proyecto de ley. Pelosi dijo el mes pasado que “muchos” en el Congreso consideraban que la legislación era “bien intencionada pero mal informada”.
Newsom rechazó el argumento de que California no debería participar en un proyecto de ley con implicaciones a nivel nacional.
“Es posible que se justifique un enfoque exclusivo de California, especialmente en ausencia de una acción federal por parte del Congreso, pero debe basarse en evidencia empírica y científica”, dijo, señalando los análisis de riesgo federales y estatales que se están realizando actualmente sobre la IA.
El gobernador firmó una serie de otros proyectos de ley a principios de este mes destinados a prevenir los abusos de la IA y poner barreras a la tecnología emergente.
Tres de estos proyectos de ley tienen como objetivo prevenir el uso indebido de deepfakes sexualmente explícitos, que pueden generar imágenes, audio y video y alterar digitalmente imágenes y voces. el firmo otros dos proyectos de ley destinado a proteger a los actores y artistas intérpretes o ejecutantes de que sus nombres, imágenes y semejanzas sean copiados por inteligencia artificial sin autorización.
