Google tiene liberado un trío de nuevos modelos de IA generativa “abiertos” a los que llama “más seguros”, “más pequeños” y “más transparentes” que la mayoría: una afirmación audaz, sin duda.
Son adiciones a Google Gemma 2 Familia de modelos generativos que debutó en mayo. Los nuevos modelos, Gemma 2 2B, ShieldGemma y Gemma Scope, están diseñados para aplicaciones y casos de uso ligeramente diferentes, pero comparten una orientación hacia la seguridad.
La serie de modelos Gemma de Google se diferencia de sus modelos Gemini en que Google no pone a disposición el código fuente de Gemini, que es utilizado por los propios productos de Google y también está disponible para los desarrolladores. En cambio, Gemma es el esfuerzo de Google por fomentar la buena voluntad dentro de la comunidad de desarrolladores, de forma similar a Meta está intentando hacer algo con Llama.
Gemma 2 2B es un modelo liviano para generar texto de análisis que puede ejecutarse en una variedad de hardware, incluidos portátiles y dispositivos periféricos. Tiene licencia para ciertas aplicaciones comerciales y de investigación y se puede descargar de fuentes como la biblioteca de modelos de IA Vertex de Google, la plataforma de ciencia de datos Kaggle y el kit de herramientas AI Studio de Google.
En cuanto a ShieldGemma, se trata de una colección de “clasificadores de seguridad” que intentan detectar toxicidad como el discurso de odio, el acoso y el contenido sexual explícito. ShieldGemma, que se basa en Gemma 2, se puede utilizar para filtrar mensajes a un modelo generativo, así como el contenido que genera el modelo.
Por último, Gemma Scope permite a los desarrolladores “acercar” puntos específicos dentro de un modelo de Gemma 2 y hacer que su funcionamiento interno sea más interpretable. Así es como Google lo describe en una publicación de blog: “(Gemma Scope está formado por) redes neuronales especializadas que nos ayudan a descomprimir la información densa y compleja procesada por Gemma 2, expandiéndola en una forma que es más fácil de analizar y comprender. Al estudiar estas vistas ampliadas, los investigadores pueden obtener información valiosa sobre cómo Gemma 2 identifica patrones, procesa información y, en última instancia, hace predicciones”.
El lanzamiento de los nuevos modelos Gemma 2 se produce poco después de que el Departamento de Comercio de Estados Unidos respaldara los modelos de IA abiertos en un informe preliminar. Los modelos abiertos amplían la disponibilidad de la IA generativa para empresas más pequeñas, investigadores, organizaciones sin fines de lucro y desarrolladores individuales, según el informe, al tiempo que destaca la necesidad de contar con capacidades para monitorear dichos modelos en busca de riesgos potenciales.
