- El gobernador de California, Gavin Newsom, vetó el domingo un proyecto de ley de seguridad de la inteligencia artificial.
- El proyecto de ley tenía como objetivo crear medidas de seguridad para las empresas que gastan 100 millones de dólares en formación en IA.
- Newsom citó preocupaciones sobre la sofocación de la innovación, ya que California domina el desarrollo de la IA.
Gobernador de California Gavin Newsom vetó un proyecto de ley de seguridad de la inteligencia artificial el domingo, una victoria para los pesos pesados de la IA como OpenAI y las grandes empresas tecnológicas que presionaron en su contra.
El proyecto de ley, SB 1047, fue presentado a principios de este año por el senador Scott Weiner y aprobado por la Asamblea del Estado de California mes pasado. Su objetivo era forzar el desarrollo de medidas de seguridad en empresas que gastan 100 millones de dólares o más en entrenar modelos de IA para que su tecnología no pueda usarse para dañar a la sociedad, una definición vaga que, según el proyecto de ley, podría incluir la creación de armas peligrosas o la realización de ataques cibernéticos.
“Este veto es un revés para todos los que creen en la supervisión de las corporaciones masivas”, dijo el senador Wiener en un comunicado el domingo.
Hace unas dos semanas, Newsom dijo que estaba preocupado por el impacto del proyecto de ley. potencial “efecto escalofriante” sobre el desarrollo de la IA. Dijo que no quería que California perdiera su dominio sobre el espacio de la IA.
“El proyecto de ley aplica estándares estrictos incluso a las funciones más básicas, siempre que lo implemente un sistema grande”, dijo el gobernador en un comunicado el domingo. “No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología”.
El proyecto de ley ahora anulado también habría requerido que las empresas que operan en California informar cualquier incidente de seguridad derivados de sus productos de IA al gobierno. Habría protegido a los denunciantes de la empresa y habría permitido a terceros probar la seguridad de los modelos. El proyecto de ley decía que, si fuera necesario, los desarrolladores deberían poder promulgar un cierre total de sus herramientas de IA.
El debate en California refleja el desafío que enfrentan los gobiernos caminando por la delgada línea entre permitir que las empresas de tecnología innoven y al mismo tiempo protegerse contra nuevos riesgos potenciales. Es posible que Newsom también quiera indicar que el estado está abierto a los negocios. después de una serie de salidas de empresas de alto perfil, incluidas Chevron, Tesla, Oracle, Charles Schwab y CBRE.
En un comunicado anunciando el veto, la oficina de Newsom también señaló que el el gobernador firmó 17 proyectos de ley durante el último mes en relación con la IA generativa, que combate los deepfakes y la desinformación y tiene como objetivo proteger a los niños y a los empleados.
Alivio a los oponentes
El veto de Newsom supondrá un alivio para muchos en Silicon Valley que habían criticado el proyecto de ley, diciendo que perjudicaría la innovación.
El vicepresidente de políticas de Meta, Rob Sherman, elogió a Newsom por rechazar el proyecto de ley. en un X publicación El domingo, dijo que el proyecto de ley habría “dañado el crecimiento empresarial y la creación de empleo, y roto la larga tradición del estado de fomentar el desarrollo de código abierto”.
Marc Andreessen, socio general de la firma de capital riesgo Andreessen Horowitz, también aplaudió la decisión de Newsom. en un declaración En X, dijo que el veto favorecía el crecimiento y la libertad de California por encima del “seguridadismo, el doomismo y el declive”.
Jason Kwon, Director de estrategia de OpenAIadvirtió en una carta de agosto al senador Wiener que el proyecto de ley podría sofocar el progreso y expulsar a las empresas de California.
El fabricante de ChatGPT se unió al gigante tecnológico Meta para presionar contra el proyecto de ley. Meta dijo que el proyecto de ley podría desalentar el movimiento de código abierto al exponer a los desarrolladores a importantes responsabilidades legales.
Andreessen Horowitz también citó preocupaciones de innovación similares y pagado por una campaña de petición contra el proyecto de ley.
Sin duda, no todas las grandes empresas tecnológicas se opusieron al proyecto de ley.
Elon Musk, quien fundó la empresa de inteligencia artificial xAI el año pasado, dijo el mes pasado que aunque era “Es una decisión difícil y molestará a algunas personas”. pensó: “California probablemente debería aprobar el proyecto de ley de seguridad de la IA SB 1047”.
El CEO de Anthropic, Dario Amodei, parecía cambiar de lado en medio del debate. En agosto, dijo que los “beneficios probablemente superen los costos” del proyecto de ley. Sin embargo, añadió que “no estamos seguros de ello y todavía hay algunos aspectos del proyecto de ley que nos parecen preocupantes o ambiguos”.
Varios ex empleados de OpenAI También apoyó el proyecto de ley de seguridad y dijo que la oposición de OpenAI al proyecto de ley era decepcionante.
“Nos unimos a OpenAI porque queríamos garantizar la seguridad de los increíblemente poderosos sistemas de IA que la compañía está desarrollando”, escribieron en la carta los ex investigadores de OpenAI, William Saunders y Daniel Kokotajlo. “Pero renunciamos a OpenAI porque perdimos la confianza en que desarrollaría sus sistemas de IA de forma segura, honesta y responsable”.
