Las principales empresas de inteligencia artificial (IA) OpenAI y Anthropic han firmado acuerdos con el gobierno de Estados Unidos para que sus modelos de IA se utilicen para investigación, pruebas y evaluación, anunció el jueves el Instituto Nacional de Estándares y Tecnología (NIST).
Como resultado del acuerdo, el Instituto de Seguridad de IA de EE. UU. tendrá acceso a los principales modelos nuevos de la compañía antes y después de su lanzamiento público. El NIST dijo en un comunicado.
El acuerdo busca aumentar la investigación sobre las capacidades y los riesgos de la IA, así como las mejores formas de prevenir el riesgo. El instituto también tiene la intención de brindar retroalimentación a OpenAI y Anthropic sobre posibles mejoras de seguridad, según el NIST.
“La seguridad es esencial para impulsar la innovación tecnológica revolucionaria. Con estos acuerdos en marcha, esperamos comenzar nuestras colaboraciones técnicas con Anthropic y OpenAI para avanzar en la ciencia de la seguridad de la IA”, afirmó Elizabeth Kelly, directora del Instituto de Seguridad de la IA de Estados Unidos, en un comunicado. “Estos acuerdos son solo el comienzo, pero son un hito importante a medida que trabajamos para ayudar a gestionar de manera responsable el futuro de la IA”.
El acuerdo llega en un momento en que las empresas de IA se enfrentan a un escrutinio cada vez mayor por parte del gobierno y los legisladores sobre la seguridad de sus modelos.
El Instituto de Seguridad de la IA Fue lanzado dentro del Departamento de Comercio el año pasado como parte de la amplia iniciativa del presidente Biden Orden ejecutiva sobre IA seguridad, riesgos y preservación de la privacidad de los datos. Antes de sirviendo como líder Del instituto, Kelly se desempeñó como asesor económico de Biden.
OpenAI, el creador de ChatGPT, es También una parte del Consorcio del Instituto de Seguridad de la IA, que está bajo el paraguas del Instituto de Seguridad de la IA. Otras empresas tecnológicas del consorcio incluyen a Microsoft, Google de Alphabet, Apple y las plataformas Meta. Algunas agencias gubernamentales e instituciones académicas también forman parte del grupo.
