La administración Biden está proponiendo un requisito de presentación de informes para los principales desarrolladores de inteligencia artificial (IA) y proveedores de la nube para permitir que el gobierno federal evalúe las capacidades de seguridad y defensa de su tecnología, anunció el Departamento de Comercio.
El departamento dijo el lunes que regla propuesta Desde su Oficina de Industria y Seguridad se exigiría a los clústeres de modelos de IA y computación de “frontera” que proporcionaran informes detallados sobre sus actividades de desarrollo y medidas de ciberseguridad.
La regla también solicitará los resultados de los desarrolladores. equipo rojo — el proceso de prueba de fallas y vulnerabilidades en un sistema de IA. La oficina dijo que incluiría “pruebas de capacidades peligrosas como la capacidad de ayudar en ataques cibernéticos o reducir las barreras de entrada para que los no expertos desarrollen armas químicas, biológicas, radiológicas o nucleares”.
La propuesta surge en medio de un esfuerzo más amplio del gobierno federal por comprender mejor las capacidades y los riesgos de la IA a medida que se desarrolla la tecnología. La secretaria de Comercio, Gina Raimondo, señaló en una declaración que la IA está “progresando rápidamente” con “tremendas promesas y riesgos”.
“La información recopilada a través del requisito de informe propuesto será vital para garantizar que estas tecnologías cumplan con estándares estrictos de seguridad y confiabilidad, puedan resistir ciberataques y tengan un riesgo limitado de uso indebido por parte de adversarios extranjeros o actores no estatales”, dijo la oficina de seguridad del Departamento de Comercio en un comunicado.
Esto es consecuencia de una encuesta piloto entre desarrolladores de IA realizada a principios de este año, afirmó la oficina.
La conversación sobre las barreras de protección de la IA ha permeado todo el gobierno, incluido el Congreso, donde los legisladores han celebrado varias audiencias y reuniones con expertos para comprender los riesgos y beneficios de la tecnología.
El año pasado, el presidente Biden emitió una declaración generalOrden ejecutiva sobre IASeguridad, riesgos y preservación de la privacidad de los datos. Instituto de Seguridad de la IAFue lanzadodentro del Departamento de Comercio como parte de esta orden.
El mes pasado, las empresas líderes de inteligencia artificial OpenAI y Anthropic han firmado acuerdos con el gobierno de EE. UU. para que sus modelos de IA se utilicen para investigación, pruebas y evaluación.
