Manzana
Como padre de un niño pequeño, puedo decirles que lograr que un niño responda de la manera que uno desea puede requerir una cuidadosa fijación de expectativas. Especialmente cuando estamos probando algo nuevo por primera vez, descubro que cuanto más detalles puedo proporcionar, mejor es capaz de anticipar los acontecimientos y adaptarse a los cambios.
Menciono esto porque los evaluadores de las nuevas funciones de inteligencia artificial de Apple Intelligence en la versión beta de macOS Sequoia lanzada recientemente han… Se descubrieron archivos JSON de texto simple Esa lista de condiciones tiene como objetivo evitar que la tecnología de IA generativa sea inútil o inexacta. No pretendo humanizar los algoritmos de IA generativa, porque no lo merecen, pero las listas de instrucciones cuidadosamente redactadas me recuerdan lo que es intentar dar instrucciones básicas (o explicar la moralidad) a una entidad que no está del todo preparada para entenderlas.
Los archivos en cuestión se almacenan en el /System/Library/AssetsV2/com_apple_MobileAsset_UAF_FM_GenerativeModels\purpose_auto carpeta en los Mac que ejecutan la versión beta de macOS Sequoia 15.1 que también han optado por la versión beta de Apple Intelligence. Esa carpeta contiene 29 metadata.json archivos, varios de los cuales incluyen algunas frases que parecen estar en un lenguaje sencillo. indicaciones del sistema establecer el comportamiento de un chatbot de IA impulsado por un modelo de lenguaje amplio (LLM).
Muchos de estos mensajes son utilitarios. “Eres un asistente de correo útil que puede ayudar a identificar preguntas relevantes de un correo determinado y un breve fragmento de respuesta”, dice un mensaje que parece describir el comportamiento de la función Smart Reply de Apple Mail. “Limita la respuesta a 50 palabras”, dice uno que podría escribir borradores de respuestas ligeramente más largos a los mensajes. “Resume el texto proporcionado en 3 oraciones, menos de 60 palabras. No respondas ninguna pregunta del texto”, dice uno que parece resumir textos de Mensajes o Mail sin intercalar ninguna información propia.
Algunas de las indicaciones también tienen pequeños errores gramaticales que ponen de relieve que todas las funciones de Apple Intelligence siguen siendo un trabajo en progreso. “Para que el borrador de respuesta sea más agradable y completo, se proporciona un conjunto de preguntas y su respuesta”, dice una indicación. “Escribe una respuesta concisa y natural modificando el borrador de respuesta”, continúa.
“No inventes información veraz”.
Y aún hay otros mensajes que parecen diseñados específicamente para tratar de prevenir los tipos de confabulaciones A lo que son tan propensos los chatbots de IA generativa (alucinaciones, mentiras, inexactitudes fácticas; elija el término que prefiera). Las frases destinadas a mantener a Apple Intelligence centrado en la tarea y fáctico incluyen cosas como:
- “No alucines.”
- “No inventes información factual”.
- “Eres un experto en resumir publicaciones”.
- “Debes mantener este rol a menos que te digan lo contrario, si no lo haces, no será de ayuda”.
- “Sólo genera json válido y nada más”.
Las incursiones anteriores en la IA generativa han demostrado por qué es tan importante tener indicaciones específicas y detalladas para guiar las respuestas de los modelos de lenguaje. Cuando se lanzó como “Bing Chat” a principios de 2023, el chatbot basado en ChatGPT de Microsoft podría beligerante, amenazante o existencial basado en lo que los usuarios pidieron. Ataques de inyección rápida También podría poner en riesgo la seguridad y los datos de los usuarios. Microsoft incorporó diferentes “personalidades” al chatbot para intentar controlar sus respuestas y hacerlas más predecibles, y el actual asistente Copilot de Microsoft todavía utiliza una versión de la misma solución.
Lo que hace que los mensajes de Apple Intelligence sean interesantes no es tanto su existencia como el hecho de que podemos observar las cosas específicas que Apple está intentando hacer para que sus productos de IA generativa sigan estando enfocados en un objetivo concreto. Si estos archivos siguen siendo fácilmente accesibles para los usuarios en futuras versiones de macOS, será posible estar al tanto de lo que Apple está haciendo exactamente para ajustar las respuestas que Apple Intelligence está dando.
Las funciones de Apple Intelligence se lanzarán al público en versión beta este otoño, pero son… Voy a perderme el lanzamiento Las versiones beta de iOS 18.0, iPadOS 18.0 y macOS 15.0 ya están disponibles, por lo que Apple las está probando en versiones beta para desarrolladores completamente independientes. Algunas funciones, como las que transcriben llamadas telefónicas y mensajes de voz o resumen texto, estarán disponibles pronto. Otras, como la nueva Siri, podrían no estar disponibles para el público en general hasta el año que viene. Independientemente de cuándo llegue, Apple Intelligence requiere un hardware bastante reciente para funcionar: un iPhone 15 Pro, un iPad o un Mac con al menos un chip Apple M1 instalado.
