Apple finalmente reveló su versión de nuestro futuro de IA generativa y esa visión es de bastante largo alcance. Inteligencia de Apple (La marca Apple para la IA) se extiende a todas las plataformas de Apple (iPhone, iPad, y Mac OS) con una profunda integración con las aplicaciones nativas de la empresa y de terceros, al mismo tiempo que incorpora la nueva fuerza más poderosa de la IA, ChatGPT.
Apple Intelligence, tal como lo factura Apple, puede hacerlo todo: leer tus correos electrónicos, potenciar Siri, rastrear tus fotos con texto o audio y mucha (quiero decir mucha) generación de imágenes. La mayor parte era de esperar, pero es la generación de imágenes lo que resulta especialmente sorprendente. Generar imágenes a partir de un mensaje de texto no es sólo un territorio nuevo para la IA, es un cambio drástico para una empresa cuya reputación es incluso más valiosa que los teléfonos, tabletas y computadoras que vende.
Y en ese sentido, es el experimento de IA más arriesgado de Apple hasta el momento.
Un problema de imagen
Cuando digo que Apple se está inclinando hacia la generación de imágenes, me refiero a que la empresa está propensión en ello. Están los Genmojis, que, si no lo sabes por el nombre, son los nuevos emojis generados por IA de Apple. Hay una nueva Función similar al Borrador Mágico llamada Limpieza que puede eliminar elementos que distraigan (como fotobombarderos) de las fotos. Está Image Wand, que convierte tus bocetos en algo más fotorrealista, y luego está Image Playground, que silenciosamente impulsa todo e incluso creadores de imágenes de terceros.
Estas no son características nuevas en el mundo de la IA generativa de ninguna manera, pero para Apple bien podrían ser tecnología extraña. Extraña en el sentido de que la generación de imágenes es a la vez avanzada y extraña, pero también extraña en el sentido de que existe, en muchos sentidos, fuera de los límites del control de Apple.
La generación de imágenes definitivamente no está curada. Ocurre en lo que es esencialmente una caja negra, lo que significa que el acto mismo de introducir la IA generativa es inherentemente también un acto de dejar ir: un cambio radical en la filosofía. En lugar de decir: “Aquí, usa estos emojis”, dice Apple, “Le proporcionamos pegamento y cartulina, Haz lo tuyo.”
Y si llevamos ese cambio un paso más allá, también significa que Apple tiene que tomar una decisión. ¿Hasta qué punto puede ampliar las capacidades de tecnologías como la generación de imágenes antes de que esas capacidades empiecen a poner en peligro su reputación?
Por ahora, el experimento es relativamente pequeño. Apple está utilizando la generación de imágenes por “diversión”, lo que (desafortunadamente) implica hacer caricaturas vergonzosas y caricaturescas de personas en su lista de contactos y otros casos de uso similares. Pero si llevamos esa tecnología a su conclusión lógica, las cosas empezarán a ponerse un poco complicadas. ¿Qué sucede cuando la generación de imágenes fotorrealistas entra en la ecuación? Claro, es fácil para Apple descartarlo ahora mismo, pero ¿qué pasa si eso se convierte en algo más que una simple idea? ¿Qué pasaría si, a través de la adopción masiva o la presión de otros fabricantes de teléfonos, se convirtiera en una expectativa una generación de imágenes más realista, como el tipo de resultados que podría obtener con Midjourney o DALL-E?
¿Apple apuesta por tecnologías temperamentales como la generación de imágenes o intenta mantener la IA a raya?
Una lata entera de gusanos AI
La IA generativa es una lata de gusanos si alguna vez la hubo y no es exclusiva de las imágenes. Como he informado anteriormente, a pesar de las medidas de seguridad establecidas para evitar que los chatbots como ChatGPT le brinden información desagradable o potencialmente dañina, la gente ha encontrado constantemente formas de “hipnotizar” a la IA para que haga exactamente lo que OpenAI no quiere. Así es la vida para ti: dile a alguien que no puede hacer algo y encontrará una manera de demostrar que estás equivocado.
Y si la generación de texto es mala, la generación de imágenes (al menos ópticamente) es peor. Los problemas con la IA que produce imágenes racistas y sexistas están bien documentados e incluso han impulsado a empresas como Google a suspender temporalmente pausar la tecnología como Gemini. Algunas de esas quejas (Mirándote, Elon Musk) son producto de la politización, pero algunas de ellas están más que justificadas.
Los problemas con la IA que produce imágenes tanto racistas como sexistas han sido bien documentados…
Eso es todo para decir que este es la realidad en la que se encuentra Apple con herramientas como Image Playground. No estoy diciendo que Apple no pueda moderar con éxito la forma en que la gente usa su nuevo conjunto de herramientas de IA generativa, pero si la historia sirve de indicación, esa tarea no será fácil.
Los problemas creados por las imágenes generativas también se extienden a otros lugares de Apple Intelligence. La privacidad, por ejemplo, será una preocupación importante ya que Apple está transfiriendo algunas de sus funciones de Apple Intelligence al ChatGPT de OpenAI. Apple ya está tratando de adelantarse a cualquier posible problema de privacidad o la seriedad con la que se toma la sensibilidad de sus datos personales a través de un descargo de responsabilidad que aparece cada vez que utiliza los servicios de OpenAI. Según Apple:
“A los usuarios de Apple se les pregunta antes de enviar cualquier pregunta a ChatGPT, junto con cualquier documento o foto, y luego Siri presenta la respuesta directamente”.
Si todo eso suena muy poco propio de Apple, bueno, más o menos lo es. Pero este es el mundo en el que se encuentra Apple o, para ser más precisos, el mundo en el que se ve presionada. Históricamente, Apple ha sido más lenta a la hora de adoptar nuevas tecnologías, por llamativas que sean, pero en el caso de la IA, Los informes parecen sugerir que Apple, al igual que Google, fue tomada por sorpresa por la explosión de grandes modelos lingüísticos y todo lo que podrían permitir.
Lo mismo ocurre con la presión de todos lados: de los competidores; de los accionistas; Incluso de sus propios clientes: Apple Intelligence está aquí para demostrar que tiene algo que ofrecer en la conversación sobre IA. Y cuando Apple habla, todos tendemos a escuchar; solo esperemos que sus líneas estén bien ensayadas.
