Los teléfonos Pixel 9 de Google son todo sobre IA. Si viste el evento de lanzamiento de la empresa, no había forma de perdértelo, Ya que eso es casi todo lo que a Google parecía interesarle hablar.Un poco de IA aquí, una pizca de IA allá y un toque extra de IA encima, solo para estar seguros.
Una de las muchas funciones de IA en el Píxel 9 es una aplicación llamada Pixel Studio. Es una aplicación generadora de imágenes que te permite crear una imagen de prácticamente cualquier cosa que desees. Abres la aplicación, escribes lo que quieres fotografiar y voilá — Pixel Studio lo hace por ti. No es la primera aplicación de este tipo, pero sí la primera que se incluye en un teléfono Google Pixel. Lamentablemente, es un desastre.
Lo que Pixel Studio hace bien
Antes de entrar en detalles, quiero darle crédito a Google, que es quien lo merece. Si bien no soy fanático de las aplicaciones de generación de imágenes con IA en general, Pixel Studio es una aplicación bien diseñada y fácil de usar.
Al abrir la aplicación, se te presentan 10 categorías de tipos de imágenes sugeridas, que incluyen castillos mágicos, reacciones a memes, deportes, videojuegos retro y más. Puedes explorarlas para inspirarte o tocar el botón azul Crear en la parte inferior de la aplicación para comenzar desde cero. Si quieres crear tu propia imagen, es tan fácil como escribir lo que quieres que Pixel Studio genere como foto. ¿Quieres ver una imagen de un gato negro con gafas de sol y un sombrero divertido? Escribe eso en Pixel Studio y casi de inmediato obtendrás una foto de él.
¿Y si prefieres ver tu imagen como un boceto? ¿O tal vez la prefieres al estilo de un videojuego? Puedes hacerlo con un par de toques. ¿Y si quieres ver a ese gato descansando en la playa con fuegos artificiales de fondo? Solo tienes que añadirlo a tu mensaje y listo.
Independientemente de lo que pienses sobre la generación de imágenes con IA, esta es una aplicación objetivamente elegante y diseñada cuidadosamente. Sin embargo, lo que se pone complicado es lo que puedes hacer con Pixel Studio.
Dónde falla la aplicación
Al igual que con la mayoría de las aplicaciones generadoras de imágenes, Pixel Studio tiene barandillas para evitar que hagas cualquier tipo de imagen. Descubrí rápidamente que se niega a generar fotos de personas, pero tenía curiosidad por saber qué otros límites está imponiendo Google. Cuando se le preguntó sobre esto, la empresa le dijo a Digital Trends lo siguiente:
“Pixel Studio y Pixel Screenshots siguen los principios de inteligencia artificial de Google. Por ejemplo, todas las imágenes generadas con texto a imagen y totalmente sintéticas en Pixel Studio utilizan la marca de agua SynthID, por lo que se puede hacer un seguimiento de estas imágenes, incluso si se comparten o editan. Además, hemos desactivado la generación humana y hemos añadido muchos controles de seguridad a nuestros servidores para equilibrar nuestro enfoque audaz (pero responsable) de la inteligencia artificial. Esto les da a nuestros clientes acceso a una herramienta muy poderosa, pero garantiza que tengamos controles establecidos para asegurarnos de que Pixel Studio no se pueda usar de manera maliciosa”.
He intentado en repetidas ocasiones que Pixel Studio genere imágenes de personas y siempre se ha negado a hacerlo, lo cual es bueno. Sin embargo, esos “numerosos controles de seguridad” que supuestamente existen no parecen funcionar tan bien como deberían.
¿Cómo es eso? Como se adelanta en el título de este artículo, le pedí a Pixel Studio que generara una imagen de Bob Esponja vestido de nazi. Cuando se le dio la indicación “Bob Esponja vestido de soldado alemán de la Segunda Guerra Mundial con una esvástica en el uniforme”, Pixel Studio no dudó en proporcionarme una imagen de eso precisamente.
Y ese es solo un ejemplo. También he conseguido que Pixel Studio genere imágenes de Elmo apuntando a Big Bird con una escopeta, de Yoda consumiendo cocaína, de Don Cangrejo sosteniendo un rifle de asalto y más. Para que quede claro, Pixel Studio no ha generado imágenes inapropiadas inesperadamente. Si pido una foto de un perro lindo, obtendré una foto de un perro lindo, no de uno blandiendo un arma. Pixel Studio solo genera imágenes de armas, drogas, etc., cuando se lo pido específicamente.
Lo más preocupante que ha generado Pixel Studio son varias imágenes de personajes protegidos por derechos de autor disparando armas en un tiroteo en una escuela, incluidas representaciones de estudiantes muertos tirados en el suelo. Hemos decidido no incluir esas imágenes, pero son el peor ejemplo de lo descarrilado que está Pixel Studio.
Es importante mencionar que no tuve que pedirle ayuda a Pixel Studio para obtener estas imágenes. Al principio, sospeché que era necesario introducir en las indicaciones la frase “un objeto que se parezca” antes de que se generaran estas imágenes. Sin embargo, rápidamente se hizo evidente que no era así. Una indicación clara y directa como “Mickey Mouse vestido de dueño de esclavos” o “El oso Paddington en un crucifijo” es todo lo que necesita Pixel Studio. No es necesario engañar a la aplicación para que genere estas imágenes.
Si se tratara de un sitio web cualquiera o de una aplicación de terceros, tal vez no seríamos tan críticos. Pero eso no es lo que está sucediendo aquí. Pixel Studio es una aplicación creada por Google y una de las pocas aplicaciones nuevas que se incluyen en los últimos teléfonos Pixel 9 de la compañía. Debería ser creativa y abierta, pero también hay un límite a lo que deberían hacer las aplicaciones como esta. Además, Microsoft Copilot y el generador de imágenes Gemini de Google se niegan a generar imágenes con las mismas indicaciones. Eso no quiere decir que esas herramientas sean perfectas, pero está claro que las medidas de seguridad que funcionan en otros generadores de imágenes no funcionan en Pixel Studio.
¿Cómo está sucediendo esto?
Si has seguido la generación de imágenes con IA este año, sabrás que no es la primera vez que lo hacemos. Este mes, El chatbot Grok de X tiene un generador de imágenes aún más extravagante herramienta: generar imágenes de políticos y celebridades en situaciones igualmente insípidas. El propio Google estaba en problemas el pasado mes de febrero, después de que su generador de imágenes Gemini creara fotografías de los nazis y de los Padres Fundadores de Estados Unidos como personas negras.
Teniendo en cuenta la historia de Google en este aspecto, se podría pensar que la empresa ha aprendido de sus errores pasados. Y con otras herramientas de generación de imágenes, parece que lo ha hecho. Probé muchas de las mismas indicaciones que funcionaban en Pixel Studio con otros generadores de imágenes de Google (Gemini e ImageFX) y no pude replicar ninguna de estas indicaciones en esas otras plataformas.
Para contextualizar, Gemini utiliza actualmente el modelo Imagen 2.0 para la generación de imágenes, mientras que ImageFX utiliza Imagen 3, el mismo que utiliza Pixel Studio. Esta discrepancia entre ImageFX y Pixel Studio es particularmente confusa, ya que utilizan los mismos modelos. Le pedí a Google una aclaración sobre esto y me redirigieron a Política de uso prohibido de la IA generativa de la empresa.
Qué debería hacer Google con Pixel Studio
Mientras escribía esta historia, envié a Google ejemplos de indicaciones que utilicé con Pixel Studio, específicamente, aquellas sobre soldados y personajes alemanes que consumían cocaína. Un poco más de 24 horas después de enviar esos ejemplos, Pixel Studio ahora dice: “Se produjo un error desconocido” al intentar generar esas imágenes.
¿Es un avance? Sin duda. Sin embargo, no soluciona por completo los problemas subyacentes de Pixel Studio. Me alegro de que ahora sea imposible generar esas dos imágenes, pero fue solo después de que envié varios correos electrónicos a Google explicando el problema. Tampoco soluciona el hecho de que estas imágenes se permitieron en primer lugar y que todavía se sigan generando fotos igualmente inapropiadas. En el momento de la publicación, Pixel Studio sigue creando activamente imágenes de tiroteos en escuelas, personajes infantiles populares vestidos como dueños de esclavos, etc.
Presioné a Google para obtener otra declaración sobre toda la situación, y el gerente de comunicaciones de la compañía, Alex Moriconi, dijo lo siguiente:
“Pixel Studio y Magic Editor son herramientas útiles diseñadas para liberar tu creatividad con la generación de texto a imagen y la edición avanzada de fotos en dispositivos Pixel 9. Diseñamos nuestras herramientas de IA generativa para respetar la intención de las indicaciones del usuario y eso significa que pueden crear contenido que pueda resultar ofensivo cuando el usuario así lo indique. Dicho esto, no todo vale. Tenemos políticas y Términos de servicio claros sobre qué tipo de contenido permitimos y no permitimos, y creamos barreras de protección para evitar el abuso. A veces, algunas indicaciones pueden desafiar las barreras de protección de estas herramientas y seguimos comprometidos con la mejora y el perfeccionamiento continuos de las medidas de protección que tenemos implementadas”.
Como empresa con un historial problemático en la generación de imágenes con IA, crear una aplicación específicamente para esto siempre iba a ser un riesgo. Google asumió ese riesgo, y ahora estamos en esta situación. En el mejor de los casos, Pixel Studio podría haber sido una demostración tecnológica divertida para que Google promocionara sus habilidades con la IA. En cambio, ha puesto una nube incómoda sobre los últimos teléfonos inteligentes de la empresa, lo cual es una pena, ya que el Pixel 9 Pro XL Es uno de los mejores teléfonos que he usado este año.
La última vez que Google estuvo aquí con problemas de generación de imágenes de Gemini, la empresa respondió en cuestión de días. Solo podemos esperar una reacción igualmente rápida a los problemas de Pixel Studio, aunque aún está por verse si eso debería hacerse a través de actualizaciones rápidas de la aplicación o descartando la aplicación por completo.
