Los riesgos de las botshit

Los chatbots (contenido inventado, inexacto y falso de los chatbots que los humanos usan acríticamente para realizar tareas) pueden representar riesgos importantes para su negocio en forma de daño a la reputación, decisiones incorrectas, responsabilidad legal, pérdidas económicas e incluso seguridad humana. Sin embargo, es poco probable que los chatbots desaparezcan. ¿Cómo puede gestionar estos riesgos y, al mismo tiempo, aprovechar los beneficios de las nuevas y prometedoras herramientas? Los autores sugieren plantearse dos preguntas clave basadas en su investigación: ¿Qué importancia tiene la veracidad de la respuesta del chatbot para una tarea? ¿Y qué tan difícil es verificar la veracidad de la respuesta del chatbot? Según sus respuestas a estas preguntas, puede identificar mejor los riesgos asociados con una tarea determinada y mitigarlos con éxito.

Fuente