¿Cuál es la forma más popular de crear una IA generativa confiable? RAG

Las organizaciones de todos los tamaños y de todos los sectores se apresuran a aprovechar los beneficios de IA generativadesde aumentar la eficiencia operativa hasta reinventar sus negocios. Pero a medida que comienzan a adoptar esta tecnología transformadora, se enfrentan a un desafío común: ofrecer resultados precisos.

Es un problema crítico: los sesgos y otras imprecisiones reducen la confianza. Y para las aplicaciones de IA generativa, la confianza lo es todo.

¿La solución? Personalizar modelos de lenguaje extensos (LLM), la tecnología de IA clave que impulsa todo, desde chatbots de nivel básico hasta iniciativas de IA de nivel empresarial.

Por sí solos, los LLM pueden proporcionar resultados inexactos o demasiado generales como para resultar útiles. Para generar confianza entre los clientes y otros usuarios de aplicaciones de IA generativa, las empresas deben garantizar respuestas precisas, actualizadas y personalizadas. Y eso significa personalizar sus LLM.

Pero personalizar un LLM puede ser una tarea compleja, que demanda mucho tiempo y recursos. Requiere experiencia y no todas las organizaciones cuentan con científicos de datos e ingenieros de lenguaje de máquina en su plantilla. Sin embargo, cada vez más organizaciones están optando por una técnica de personalización probada y rentable que aumenta la precisión y la relevancia, al tiempo que aprovecha al máximo un recurso del que la mayoría de las organizaciones ya disponen en abundancia: los datos.

Cómo RAG impulsa la precisión

La generación aumentada de recuperación (RAG, por sus siglas en inglés) está surgiendo como una técnica de personalización preferida por las empresas para crear rápidamente aplicaciones de IA generativa precisas y confiables. RAG es un enfoque rápido y fácil de usar que ayuda a reducir las imprecisiones (o “alucinaciones”) y aumenta la relevancia de las respuestas. Es más rentable y requiere menos experiencia que técnicas tan laboriosas como el ajuste fino y la capacitación previa continua de los LLM.

Para los desarrolladores de aplicaciones de IA generativa, RAG ofrece una forma eficiente de crear aplicaciones de IA generativa confiables. Para los clientes, empleados y otros usuarios de estas aplicaciones, RAG significa respuestas más precisas, relevantes y completas que generan confianza con respuestas que pueden citar fuentes para lograr transparencia.

Los resultados de la IA generativa son tan buenos como sus datos, por lo que elegir fuentes creíbles es vital para mejorar las respuestas. RAG mejora los LLM recuperando y aplicando datos e información de los almacenes de datos de la organización, así como de fuentes externas confiables de información veraz para ofrecer resultados más precisos. Incluso con un modelo entrenado con datos antiguos, RAG puede actualizarlo con acceso a información actual casi en tiempo real.

RAG en acción

Empresa de reparto de comida Puerta Dash aplica RAG a su solución de IA generativa para mejorar el autoservicio y mejorar la experiencia de sus contratistas independientes (“Dashers”) que envían un gran volumen de solicitudes de asistencia.

DoorDash colabora con Amazon Web Services (AWS) para complementar su centro de llamadas tradicional con una solución de centro de contacto de autoservicio operada por voz. Para el núcleo de su solución de IA generativa, DoorDash utiliza los modelos Claude de Anthropic y Amazon Bedrock, un servicio de AWS que ayuda a las organizaciones a crear y escalar aplicaciones de IA generativa de forma rápida y sencilla.

Al utilizar RAG para personalizar el modelo Claude 3 Haiku, Bedrock permite a DoorDash acceder a una base de conocimiento profunda y diversa de fuentes de la empresa para brindar respuestas relevantes y precisas a los Dashers, lo que reduce el tiempo de respuesta promedio a 2,5 segundos o menos. El centro de contacto generativo impulsado por IA de DoorDash ahora recibe cientos de miles de llamadas todos los días.

El acceso a esta amplia base de datos a través de RAG fue la clave para generar confianza. “Hemos creado una solución que ofrece a los Dashers un acceso confiable a la información que necesitan, cuando la necesitan”, afirma Chaitanya Hari, responsable de productos del centro de contacto de DoorDash.

El poder de la personalización

La personalización puede mejorar significativamente la precisión y la relevancia de las respuestas, especialmente para casos de uso que necesitan aprovechar datos nuevos y en tiempo real.

RAG no es la única estrategia de personalización; el ajuste fino y otras técnicas pueden desempeñar papeles clave en la personalización de los LLM y la creación de aplicaciones de IA generativa. Pero a medida que RAG evolucione y sus capacidades se expandan, seguirá siendo una forma rápida y sencilla de comenzar a utilizar la IA generativa y garantizar respuestas mejores y más precisas, generando confianza entre empleados, socios y clientes.


Obtenga más información sobre IA generativa de AWS.

Fuente