SACRAMENTO, California.– SACRAMENTO, California (AP) — Esfuerzos en California El miércoles se aprobó una importante votación para establecer medidas de seguridad pioneras en el país para los sistemas de inteligencia artificial más grandes del mundo, lo que podría allanar el camino para regulaciones estadounidenses sobre la tecnología que evoluciona a gran velocidad.
La propuesta, que tiene como objetivo reducir los riesgos potenciales creados por la IA, requeriría que las empresas prueben sus modelos y revelen públicamente sus protocolos de seguridad para evitar que los modelos sean manipulados para, por ejemplo, destruir la red eléctrica del estado o ayudar a construir armas químicas, escenarios que, según los expertos, podrían ser posibles en el futuro con avances tan rápidos en la industria.
El proyecto de ley se encuentra entre cientos de proyectos que los legisladores están votando durante su última semana de sesión. El gobernador Gavin Newsom tiene hasta fines de septiembre para decidir si los convierte en ley, los veta o permite que se conviertan en ley sin su firma.
La medida fue aprobada apenas el miércoles en la Asamblea y requiere una votación final del Senado antes de llegar al escritorio del gobernador.
Los partidarios afirmaron que el proyecto de ley establecería algunas de las primeras normas de seguridad muy necesarias para los modelos de IA a gran escala en Estados Unidos. El proyecto de ley se dirige a los sistemas que requieren más de 100 millones de dólares en datos para su entrenamiento. Ningún modelo de IA actual ha alcanzado ese umbral.
“Es hora de que las grandes empresas tecnológicas se rijan por algún tipo de regla, no muchas, pero algo así”, dijo el miércoles el asambleísta republicano Devon Mathis en apoyo del proyecto de ley. “Lo último que necesitamos es que se estropee la red eléctrica y los sistemas de agua”.
La propuesta, redactada por el senador demócrata Scott Wiener, enfrentó una feroz oposición de las empresas de capital de riesgo y las compañías tecnológicas, entre ellas OpenAI, Google y Meta, la empresa matriz de Facebook e Instagram. Afirman que las normas de seguridad deberían ser establecidas por el gobierno federal y que la legislación de California apunta a los desarrolladores en lugar de apuntar a quienes usan y explotan los sistemas de inteligencia artificial para causar daño.
Un grupo de varios miembros de la Cámara de Representantes de California también se opuso al proyecto de ley, y la expresidenta de la Cámara de Representantes Nancy Pelosi lo calificó como ” bien intencionado pero mal informado.”
La Cámara del Progreso, un grupo industrial de tendencia izquierdista financiado por Silicon Valley, dijo que el proyecto de ley está “basado en fantasías de ciencia ficción sobre cómo podría ser la IA”.
“Este proyecto de ley tiene más en común con Blade Runner o Terminator que con el mundo real”, dijo Todd O'Boyle, director de Políticas Tecnológicas, en una declaración después de la votación del miércoles. “No deberíamos paralizar al principal sector económico de California por un escenario teórico”.
La legislación cuenta con el apoyo de Anthropic, una startup de inteligencia artificial respaldada por Amazon y Google, después de que Wiener ajustara el proyecto de ley a principios de este mes para incluir algunas de las sugerencias de la empresa. El proyecto de ley actual eliminó la disposición sobre la pena de perjurio, limitó el poder del fiscal general del estado para demandar a los infractores y redujo las responsabilidades de una nueva agencia reguladora de la inteligencia artificial. El propietario de la plataforma de redes sociales X, Elon Musk, también dio su apoyo a la propuesta esta semana.
Anthropic dijo en una carta a Newsom que el proyecto de ley es crucial para prevenir el uso indebido catastrófico de poderosos sistemas de inteligencia artificial y que “sus beneficios probablemente superan sus costos”.
Wiener dijo que su legislación adoptó un enfoque “suave”.
“La innovación y la seguridad pueden ir de la mano, y California está liderando el camino”, dijo Weiner en una declaración después de la votación.
También criticó a principios de esta semana a los críticos por descartar los riesgos catastróficos potenciales de los modelos de IA poderosos como poco realistas: “Si realmente creen que los riesgos son falsos, entonces el proyecto de ley no debería presentar ningún problema”.
La propuesta de Wiener se encuentra entre Docenas de proyectos de ley sobre inteligencia artificial Los legisladores de California propusieron este año generar confianza pública, luchar contra la discriminación algorítmica y prohibir las falsificaciones que involucran elecciones o pornografía. En un momento en que la inteligencia artificial afecta cada vez más la vida cotidiana de los estadounidenses, los legisladores estatales han tratado de lograr un equilibrio entre controlar la tecnología y sus riesgos potenciales sin sofocar la floreciente industria local.
California, sede de 35 de las 50 principales empresas de IA del mundo, ha sido una de las primeras en adoptar tecnologías de IA y pronto podría… Implementar herramientas de IA generativa para abordar la congestión vehicular y la seguridad vial, entre otras cosas.
Newsom, quien se negó a opinar sobre la medida a principios de este verano, había advertido contra la excesiva regulación de la IA.
