Zoho Corporation ha anunciado que aprovechará la plataforma informática acelerada por IA de NVIDIA, incluida NVIDIA NeMo, como parte del software NVIDIA AI Enterprise, para crear e implementar grandes modelos de lenguaje (LLM) diseñados para uso empresarial.
Estos modelos se integrarán en las aplicaciones SaaS de Zoho, proporcionando capacidades de IA mejoradas a su base global de clientes de más de 700.000 en ManageEngine y Zoho.com.
Durante el año pasado, Zoho invirtió más de 10 millones de dólares en tecnología de inteligencia artificial y GPU de NVIDIA, y planea igualar esta inversión el próximo año.
“Muchos LLM en el mercado hoy en día están diseñados para uso del consumidor y ofrecen un valor limitado para las empresas”, dice Ramprakash Ramamoorthy, director de IA de Zoho Corporation. “En Zoho, nuestra misión es desarrollar LLM diseñados específicamente para una amplia gama de casos de uso empresarial. Ser propietarios de toda nuestra tecnología, con productos que abarcan diversas funciones comerciales, nos permite integrar el elemento esencial que hace que la IA sea verdaderamente efectiva: el contexto”.
El compromiso de Zoho con la privacidad y el cumplimiento ha guiado su enfoque para crear modelos de IA.
Desde el principio, Zoho diseña modelos teniendo en cuenta las normas de privacidad, evitando prácticas de retroadaptación. Los modelos tienen como objetivo proporcionar a las empresas un rápido retorno de la inversión mediante la utilización del software de inteligencia artificial y la computación acelerada de NVIDIA, que mejora el rendimiento y reduce la latencia.
IA multimodal y estrategia que prioriza la privacidad
Durante más de una década, Zoho ha estado desarrollando IA en su cartera de más de 100 productos en sus divisiones ManageEngine y Zoho.
Su enfoque de IA es multimodal y se centra en proporcionar inteligencia contextual para respaldar la toma de decisiones comerciales. Además de los LLM, Zoho está desarrollando modelos de lenguaje estrechos, pequeños y medianos, lo que permite a las empresas con distintas capacidades de datos beneficiarse de soluciones de IA personalizadas. Los LLM de Zoho no están capacitados en datos de clientes, lo que refuerza la privacidad como un pilar central de su estrategia de IA.
“La capacidad de elegir entre una variedad de tamaños de modelos de IA permite a las empresas adaptar sus soluciones de IA con precisión a sus necesidades, equilibrando el rendimiento con la rentabilidad”, afirma Vishal Dhupar, director general de NVIDIA para Asia Sur. “Con el software de IA y la plataforma informática acelerada de NVIDIA, Zoho está creando una amplia gama de modelos para ayudar a satisfacer las diversas necesidades de sus clientes empresariales”.
Rendimiento mejorado con tecnología NVIDIA
La asociación de Zoho con NVIDIA incluye el uso de las GPU NVIDIA Hopper y la plataforma NVIDIA NeMo para desarrollar IA generativa personalizada, que abarca LLM, IA multimodal, de visión y de voz.
La compañía también está probando NVIDIA TensorRT-LLM para optimizar sus LLM para la implementación, logrando ya un aumento del 60 % en el rendimiento y una reducción del 35 % en la latencia en comparación con los marcos anteriores. Zoho también está acelerando cargas de trabajo adicionales, como la conversión de voz a texto, en la infraestructura informática acelerada de NVIDIA.
Esta colaboración permite a Zoho ofrecer una gama de soluciones impulsadas por IA que están altamente optimizadas para aplicaciones empresariales, respaldando el compromiso de la empresa de ofrecer capacidades de IA sólidas y conscientes de la privacidad a sus clientes.
Este artículo, “Zoho se asocia con NVIDIA para crear modelos de lenguaje grandes personalizados para aplicaciones empresariales“fue publicado por primera vez en Tendencias de las pequeñas empresas
