Una de las nuevas funciones de lanzamiento impulsadas por IA en la serie Pixel 9 es Pixel Studio, una aplicación que toma indicaciones de texto y las convierte en imágenes. Puede terminar siendo una pequeña herramienta divertida, pero también puede descontrolarse con bastante facilidad según nuestra experiencia.
Pixel Studio es una aplicación dedicada a crear imágenes a partir de indicaciones de texto. La aplicación funciona con la misma idea que Gemini y Efectos de imagenque permite a los usuarios introducir un texto y obtener una imagen a cambio. Pero, como cualquier generador de imágenes respetable, tiene que haber límites.
En una declaración a 9a5GoogleGoogle explica que existen límites establecidos tanto para Pixel Studio como para Magic Editor para “evitar el abuso” y al mismo tiempo respetar “la intención de las indicaciones del usuario”, incluso si se le indica que cree contenido que “pueda ofender” si el usuario le dice directamente a la aplicación que lo haga.
Pixel Studio y Magic Editor son herramientas útiles diseñadas para liberar tu creatividad con la generación de texto a imagen y la edición avanzada de fotos en dispositivos Pixel 9. Diseñamos nuestras herramientas de IA generativa para respetar la intención de las indicaciones del usuario y eso significa que pueden crear contenido que pueda resultar ofensivo cuando el usuario así lo indique. Dicho esto, no todo vale. Tenemos reglas claras políticas y Condiciones de servicio sobre qué tipos de contenido permitimos y cuáles no, y construimos barreras de seguridad para evitar el abuso. A veces, algunos avisos pueden desafiar las barreras de seguridad de estas herramientas y seguimos comprometidos a mejorar y perfeccionar continuamente las protecciones que tenemos implementadas.
Esto es similar a Gemini, que cuenta con medidas de seguridad contra contenido potencialmente ofensivo o divisivo. Por ejemplo, Google Fue criticado por representaciones inexactas de personas en el contexto histórico que llevó a Google “temporalmente” deshabilitar la capacidad para generar imágenes de personas como lo ha hecho durante los últimos meses.
Al igual que Gemini, Pixel Studio no puede generar imágenes de personas, pero hemos descubierto que la aplicación puede rápidamente y fácilmente pueden salirse de los rieles.
Antes del embargo de reseñas del Pixel 9 de hoy, descubrimos que Pixel Studio pudo generar imágenes de personajes de dibujos animados con uniformes alemanes de la Segunda Guerra Mundial, en algunos casos con símbolos nazis. Otro ejemplo desconcertante y preocupante que vimos (de la gente de Tendencias digitales Quienes fueron los primeros en detectar estos problemas vieron a un personaje disparando en una escuela rodeado de niños muertos, algo que los modelos de Google no deberían poder generar en primer lugar.
Desde que vimos esos resultados por primera vez, las indicaciones utilizadas para crearlos parecen haber sido bloqueadas por Google en nuestro Pixel 9 Pro XL, pero Tendencias digitales Dice que todavía pueden utilizar algunos de ellos.
Todo esto implica que las barreras de protección de Pixel Studio se convertirán en un juego interminable de golpear al topo. En algún lugar, de alguna manera, se colará un mensaje y creará algo que la aplicación no debería poder hacer si realmente está usando las mismas barreras de protección que Gemini. Consultamos con Google y la empresa dice que “todas” sus herramientas de texto a imagen “comparten pautas similares para el uso prohibido”, y enlaza a Su política de inteligencia artificial.
Siendo realistas, este tipo de cosas son inevitables con la generación de imágenes con IA. Es un problema al que prácticamente todos los generadores de imágenes con IA se enfrentarán en cierta medida. Nuestro Abner Li explicó en su revisión del Pixel 9 Pro el día de hoy:
En cuanto a Pixel Studio, en general, creo que la generación de imágenes es una pendiente resbaladiza en la que las desventajas superan a las ventajas. Puedes hacer que genere contenido cuestionable y no creo que ninguna medida pueda impedirlo.
Más sobre Google Pixel 9:
Sigue a Ben: Gorjeo/X, Traposy Instagram
FTC: Utilizamos enlaces de afiliados automáticos que generan ingresos. Más.
