Inteligencia artificial está preparada para brindar enormes beneficios a la sociedad. Pero, como muchos han dicho, señalótambién podría traer Nuevos horrores sin precedentesComo tecnología de uso general, las mismas herramientas que harán avanzar los descubrimientos científicos también podrían utilizarse para desarrollar armas cibernéticas, químicas o biológicas. Gobernar la IA requerirá compartir ampliamente sus beneficios y, al mismo tiempo, mantener la IA más poderosa fuera del alcance de actores maliciosos. La buena noticia es que existe Ya es una plantilla sobre cómo hacer precisamente eso.
En el siglo XX, las naciones crearon instituciones internacionales para permitir la difusión de la energía nuclear con fines pacíficos, pero frenaron la proliferación de armas nucleares controlando el acceso a las materias primas (a saber, el uranio y el plutonio aptos para la fabricación de armas) que las sustentan. El riesgo se ha gestionado a través de instituciones internacionales, como la Tratado de No Proliferación Nuclear y Organismo Internacional de Energía AtómicaEn la actualidad, 32 naciones operan plantas de energía nuclear, que en conjunto proporcionan el 10% de la electricidad mundial, y sólo nueve países poseer armas nucleares
Hoy en día, los países pueden hacer algo similar con la IA: pueden regularla desde cero controlando el acceso a los chips altamente especializados que se necesitan para entrenar a los modelos de IA más avanzados del mundo. Líderes empresariales e incluso el Secretario General de la ONU, António Guterres, han llamado por un marco de gobernanza internacional para la IA similar al de la tecnología nuclear.
Los sistemas de IA más avanzados se entrenan en decenas de miles de chips informáticos altamente especializados. Estos chips se almacenan en centros de datos gigantescos donde procesan datos durante meses para entrenar los modelos de IA más capaces. Estos chips avanzados son difíciles de producir, la cadena de suministro está muy controlada y se necesitan grandes cantidades de ellos para entrenar los modelos de IA.
Los gobiernos pueden establecer un régimen regulatorio donde solo los proveedores de computación autorizados puedan adquirir grandes cantidades de chips avanzados en sus centros de datos, y solo las empresas de IA autorizadas y confiables puedan acceder a la potencia computacional necesaria para entrenar a los modelos de IA más capaces (y más peligrosos).
Puede parecer una tarea difícil, pero sólo se necesitan un puñado de países para poner en marcha este régimen de gobernanza. Los chips informáticos especializados que se utilizan para entrenar a los modelos de IA más avanzados son Sólo fabricado en TaiwánDependen de tecnología crítica de tres países: Japón, los Países Bajos y los EE. UU. En algunos casos, una sola empresa tiene el monopolio de elementos clave de la cadena de suministro de producción de chips. La empresa holandesa AML-Asociación de Agentes de la Luz es el único productor mundial de máquinas de litografía ultravioleta extrema que se utilizan para fabricar los chips más vanguardistas.
Leer más: Las 100 personas más influyentes en IA en 2024
Los gobiernos ya están tomando medidas para regular estos chips de alta tecnología. Estados Unidos, Japóny el Países Bajos han colocado controles de exportación en sus equipos de fabricación de chips, restringiendo su venta a China. Y el gobierno de EE.UU. ha prohibido la venta de los chips más avanzados, fabricados con tecnología estadounidense, a China. El gobierno de Estados Unidos también ha propuesto requisitos para que los proveedores de computación en la nube sepan quiénes son sus clientes extranjeros e informen cuando un cliente extranjero está entrenando un gran modelo de IA que podría usarse para ciberataques. Y el gobierno de EE. UU. Empecé a debatir—pero aún no se han puesto en práctica— restricciones a los modelos de IA entrenados más potentes y a la amplitud con la que pueden compartirse. Si bien algunas de estas restricciones tienen que ver con la competencia geopolítica con China, las mismas herramientas se pueden utilizar para controlar los chips y evitar que las naciones adversarias, los terroristas o los delincuentes utilicen los sistemas de IA más potentes.
Estados Unidos puede trabajar con otras naciones para construir sobre esta base y establecer una estructura que gobierne el hardware informático durante todo el ciclo de vida de un modelo de IA: equipos de fabricación de chips, chips, centros de datos, modelos de IA de entrenamiento y los modelos entrenados que son el resultado de este ciclo de producción.
Japón, los Países Bajos y los Estados Unidos pueden ayudar a liderar la creación de un marco de gobernanza global que permita que estos chips altamente especializados solo se vendan a países que hayan establecido regímenes regulatorios para regular el hardware informático. Esto incluiría rastrear los chips y llevar un registro de ellos, saber quién los usa y garantizar que el entrenamiento y la implementación de la IA sean seguros.
Pero la gobernanza global del hardware informático puede hacer más que simplemente mantener la IA fuera del alcance de actores maliciosos: puede empoderar a los innovadores de todo el mundo al cerrar la brecha entre Los que tienen y los que no tienen informáticaDebido a que los requisitos computacionales para entrenar los modelos de IA más avanzados son tan intensos, la industria se está encaminando hacia un oligopolio. Ese tipo de concentración de poder no es buena para la sociedad ni para las empresas.
Algunas empresas de IA han comenzado a su vez lanzando públicamente sus modelosEsto es excelente para la innovación científica y ayuda a nivelar el campo de juego con las grandes empresas tecnológicas. Pero una vez que el modelo de IA sea de código abierto, cualquiera podrá modificarlo. Las barreras de protección se pueden eliminar rápidamente.
Afortunadamente, el gobierno de Estados Unidos ha comenzado a realizar pruebas piloto. recursos nacionales de computación en la nube como un bien público para académicos, pequeñas empresas y empresas emergentes. Se podría acceder a modelos de IA potentes a través de la nube nacional, lo que permitiría a investigadores y empresas de confianza utilizarlos sin tener que publicarlos en Internet para que todos puedan usarlos de forma abusiva.
Los países podrían incluso unirse para crear un recurso internacional de cooperación científica global en materia de IA. Hoy, 23 naciones participan en el CERN, el laboratorio internacional de física que opera el acelerador de partículas más avanzado del mundo. Haz lo mismo con la IAcreando un recurso informático global para que los científicos colaboren en la seguridad de la IA y empoderando a los científicos de todo el mundo.
El potencial de la IA es enorme, pero para aprovechar sus beneficios, la sociedad también tendrá que gestionar sus riesgos. Al controlar los insumos físicos que utiliza, las naciones pueden gobernarla de manera segura y sentar las bases para un futuro seguro y próspero. Es más fácil de lo que muchos creen.
