El proyecto de ley, SB 1047, fue presentado hace siete meses por el senador Scott Weiner y aprobado por la asamblea estatal el miércoles.
Ahora está en manos del gobernador Gavin Newsom, que tiene hasta el 30 de septiembre para decidir si la convierte en ley o la veta. No ha manifestado públicamente su postura.
El proyecto de ley pretende forzar el desarrollo de medidas de seguridad en las empresas que gastan 100 millones de dólares o más en entrenar modelos de IA para que su tecnología no pueda usarse para dañar a la sociedad, como crear armas peligrosas o realizar ciberataques.
Las medidas incluyen obligar a las empresas que operan en California a Reportar cualquier incidente de seguridad Al gobierno, proteger a los denunciantes y permitir que terceros prueben la seguridad de sus modelos. Si fuera necesario, también presionarían a las empresas para que promulgar un cierre total.
Selección de equipos
El proyecto de ley ha trazado una línea a través de Silicon Valley, y algunas de las figuras más importantes del sector tecnológico han tomado partido.
Jason Kwon, Director de estrategia de OpenAIadvirtió en una carta al senador Wiener el miércoles que el proyecto de ley podría sofocar el progreso y expulsar a las empresas de California.
El creador de ChatGPT se unió a Meta, un grupo de peso pesado, en su campaña contra el proyecto de ley. Meta dijo que el proyecto de ley podría desalentar el movimiento de código abierto al exponer a los desarrolladores a importantes responsabilidades legales.
Ex empleados de OpenAI Dijo que la oposición de la compañía al proyecto de ley era decepcionante, pero estaba en línea con su trayectoria reciente.
“Nos unimos a OpenAI porque queríamos garantizar la seguridad de los increíblemente potentes sistemas de IA que la empresa está desarrollando”, escribieron en la carta los ex investigadores de OpenAI, William Saunders y Daniel Kokotajlo. “Pero renunciamos a OpenAI porque perdimos la confianza en que desarrollaría sus sistemas de IA de forma segura, honesta y responsable”.
Elon Musk también apoyó el proyecto de ley.
En una publicación en las redes sociales del lunes, Almizclequien fundó la empresa de inteligencia artificial xAI el año pasado y tiene una rivalidad de larga data con Altman de OpenAI, dijo que aunque era “Es una decisión difícil que molestará a algunas personas”. Él piensa que “California probablemente debería aprobar el proyecto de ley de seguridad de IA SB 1047”.
“Durante más de 20 años, he sido un defensor de la regulación de la IA, al igual que regulamos cualquier producto o tecnología que sea un riesgo potencial para el público”. Musk escribió en X.
Anthropic, respaldada por Amazon, parecía tener cambió de bando en medio del debate, luego de que se modificara el proyecto de ley.
En un carta En un comunicado enviado la semana pasada al gobernador de California, Gavin Newsom, el director ejecutivo de Anthropic, Dario Amodei, dijo que los “beneficios del proyecto de ley probablemente superen los costos”. Sin embargo, agregó que “no estamos seguros de esto y todavía hay algunos aspectos del proyecto de ley que nos parecen preocupantes o ambiguos”.
Amodei dijo que el proyecto de ley ahora “nos parece estar a medio camino entre nuestra versión sugerida y el proyecto de ley original”.
