doEl gobernador de California, Gavin Newsom, vetó lo que se habría convertido en una de las políticas más completas sobre la seguridad de la inteligencia artificial en EE. UU.
El proyecto de ley habría sido uno de los primeros en responsabilizar a los desarrolladores de IA por cualquier daño grave causado por sus tecnologías. Esto generó feroces críticas de algunos demócratas prominentes y de importantes empresas tecnológicas, incluido el creador de ChatGPT, OpenAI, y la firma de capital de riesgo Andreessen Horowitz, quienes advirtieron que podría paralizar la innovación en el estado.
Newsom describió la legislación como “bien intencionada”, pero dijo en un comunicado que habría aplicado “estándares estrictos incluso a las funciones más básicas”. La regulación debería basarse en “evidencia empírica y ciencia”, dijo, señalando su propia orden ejecutiva sobre IA y otros proyectos de ley que ha firmado que regulan la tecnología en torno a riesgos conocidos como deepfakes.
El debate en torno al proyecto de ley SB 1047 de California destaca el desafío que enfrentan los legisladores de todo el mundo para controlar los riesgos de la IA y al mismo tiempo apoyar la tecnología emergente. Los formuladores de políticas estadounidenses aún no han aprobado ninguna legislación integral sobre esta tecnología desde que el lanzamiento de ChatGPT hace dos años desató un auge global de la IA generativa.
El senador demócrata de California Scott Wiener, quien presentó el proyecto de ley, calificó el veto de Newsom como un “revés para todos los que creen en la supervisión de corporaciones masivas”. En una declaración publicada en X, Wiener dijo: “Como resultado, todos estamos menos seguros”.
'Cuidado razonable'
La SB 1047 habría ordenado que las empresas que desarrollan potentes modelos de IA tuvieran un cuidado razonable para garantizar que sus tecnologías no causaran “daños graves”, como víctimas masivas o daños a la propiedad por más de 500 millones de dólares. Las empresas habrían tenido que tomar precauciones específicas, incluido mantener un interruptor de apagado que pudiera apagar su tecnología. Los modelos de IA también habrían estado sujetos a pruebas de terceros para garantizar que minimizaran los riesgos graves.
El proyecto de ley también habría creado protecciones para los empleados de empresas de inteligencia artificial que quieran denunciar irregularidades. compartir preocupaciones de seguridad. Las empresas que no cumplieran con el proyecto de ley podrían haber sido demandadas por el fiscal general de California.
Los partidarios de la legislación dijeron que habría creado estándares legales de sentido común. Pero los inversores de capital de riesgo, los líderes de startups y empresas como AbiertoAI Advirtió que ralentizaría la innovación y expulsaría a las empresas de inteligencia artificial del estado.
“La revolución de la IA apenas está comenzando, y el estatus único de California como líder mundial en IA está alimentando el dinamismo económico del estado”, escribió Jason Kwon, director de estrategia de OpenAI, en una carta el mes pasado oponiéndose a la legislación. “La SB 1047 amenazaría ese crecimiento, ralentizaría el ritmo de la innovación y llevaría a los ingenieros y empresarios de clase mundial de California a abandonar el estado en busca de mayores oportunidades en otros lugares”.
Los legisladores se opusieron
Legisladores como la ex presidenta de la Cámara de Representantes, Nancy Pelosi, el representante Ro Khanna y el alcalde de San Francisco, London Breed, también expresaron su oposición, haciéndose eco de las preocupaciones de la industria tecnológica de que el proyecto de ley podría obstaculizar el liderazgo de California en innovación en IA. Newsom dijo recientemente que le preocupaba que el proyecto de ley pudiera tener un “efecto escalofriante”sobre el desarrollo de la IA.
El proyecto de ley había obtenido el respaldo de algunos nombres notables en tecnología a fines del mes pasado en los días previos a su aprobación por la legislatura de California. Elon Musk inesperadamente expresó su apoyo, a pesar de que dijo que es una “decisión difícil y que molestará a algunas personas”. Anthropic, rival de OpenAI, que tiene fama de estar orientado a la seguridad, dijo que los “beneficios del proyecto de ley probablemente superen sus costos”, aunque la compañía dijo que algunos aspectos seguían siendo “preocupantes o ambiguos para nosotros”.
Wiener había defendido el proyecto de ley, enfatizando que sus disposiciones sólo se aplican a empresas que gastan más de 100 millones de dólares en entrenar modelos grandes o 10 millones de dólares en ajustar modelos, límites que eximirían a la mayoría de las empresas emergentes más pequeñas. El legislador también señaló que históricamente el Congreso ha sido lento a la hora de regular la tecnología en sí.
Al anunciar su veto, Newsom dijo que consultará con expertos externos, incluido el académico y empresario de inteligencia artificial Fei-Fei Li, para “desarrollar barreras viables” sobre la tecnología y continuar trabajando con la legislatura estatal sobre el tema.
El gobernador también firmó el domingo un proyecto de ley, SB 896, que regula cómo las agencias estatales utilizan la IA.
