Una de las únicas oficinas del gobierno de Estados Unidos dedicadas a evaluar la seguridad de la IA está en peligro de ser desmantelada si el Congreso no decide autorizarla.
El Instituto de Seguridad de IA de EE. UU. (AISI), un organismo del gobierno federal que estudia los riesgos en los sistemas de IA, se creó en noviembre de 2023 como parte del plan del presidente Joe Biden. Orden ejecutiva de IA. El AISI opera dentro del NIST, una agencia del Departamento de Comercio que desarrolla guías para el despliegue de diversas categorías de tecnologías.
Pero si bien el AISI tiene un presupuesto, un director y un equipo de investigación asociación con su homólogo en el Reino Unido, el Instituto de Seguridad de la IA del Reino Unido, podría liquidarse con una simple derogación de la orden ejecutiva de Biden.
“Si otro presidente asumiera el cargo y derogara la Orden Ejecutiva de IA, desmantelaría el AISI”, dijo a TechCrunch Chris MacKenzie, director senior de comunicaciones de Americans for Responsible Innovation, un grupo de presión de IA. “Y (Donald) Trump ha prometido derogar la Orden Ejecutiva de AI. Por lo tanto, que el Congreso autorice formalmente el Instituto de Seguridad de la IA garantizaría su existencia continua independientemente de quién esté en la Casa Blanca”.
Más allá de asegurar el futuro de la AISI, autorizar la oficina también podría conducir a una financiación más estable y a largo plazo para su iniciativa por parte del Congreso. El AISI tiene actualmente un presupuesto de alrededor de 10 millones de dólares, una cantidad relativamente pequeña considerando la concentración de los principales laboratorios de IA en Silicon Valley.
“Los asignadores en el Congreso tienden a dar mayor prioridad presupuestaria a las entidades autorizadas formalmente por el Congreso”, dijo MacKenzie, “con el entendimiento de que esas entidades tienen una amplia aceptación y están aquí para el largo plazo, en lugar de solo una sola administración”. prioridad.”
en un carta Hoy, una coalición de más de 60 empresas, organizaciones sin fines de lucro y universidades pidió al Congreso que promulgue una legislación que codifique el AISI antes de fin de año. Entre los firmantes se encuentran OpenAI y Anthropic, los cuales tienen acuerdos firmados con el AISI para colaborar en la investigación, prueba y evaluación de la IA.
El Senado y la Cámara han presentado proyectos de ley bipartidistas para autorizar las actividades del AISI. Pero las propuestas han enfrentado cierta oposición de legisladores conservadores, incluido el senador Ted Cruz (republicano por Texas), quien pidió que la versión del Senado del proyecto de ley AISI retire los programas de diversidad.
Es cierto que el AISI es una organización relativamente débil desde el punto de vista de la aplicación de la ley. Sus estándares son voluntarios. Pero los think tanks y las coaliciones industriales (así como gigantes tecnológicos como Microsoft, Google, Amazon e IBM, todos los cuales firmaron la carta antes mencionada) ven el AISI como la vía más prometedora para establecer puntos de referencia de IA que puedan formar la base de políticas futuras.
También existe preocupación entre algunos grupos de interés de que permitir que el AISI se retire podría correr el riesgo de ceder el liderazgo de la IA a naciones extranjeras. Durante una IA cumbre En Seúl, en mayo de 2024, los líderes internacionales acordaron formar una red de Institutos de Seguridad de IA compuesta por agencias de Japón, Francia, Alemania, Italia, Singapur, Corea del Sur, Australia, Canadá y la Unión Europea, además del Reino Unido y Estados Unidos.
“A medida que otros gobiernos avanzan rápidamente, los miembros del Congreso pueden garantizar que EE. UU. no se quede atrás en la carrera mundial de la IA autorizando permanentemente el Instituto de Seguridad de la IA y brindando certeza sobre su papel fundamental en el avance de la innovación y la adopción de la IA en los EE. UU.”, Jason Oxman, presidente y director ejecutivo del Consejo de la Industria de Tecnología de la Información, una asociación comercial de la industria de TI, en un comunicado. “Instamos al Congreso a que preste atención al llamado de hoy a la acción de la industria, la sociedad civil y el mundo académico para aprobar la legislación bipartidista necesaria antes de fin de año”.
¡TechCrunch tiene un boletín informativo centrado en la IA! Regístrate aquí para recibirlo en tu bandeja de entrada todos los miércoles.
