Según una encuesta de BestColleges, Más de la mitad de los estudiantes usan IA para hacer trampaEstas cifras coinciden con un estudio de la Universidad de Stanford que encontró Entre el 60 y el 70 por ciento de los estudiantes hacen trampaSin embargo, la IA puede dejar pronto de ser la respuesta de los estudiantes perezosos a la hora de escribir trabajos. Un artículo del Wall Street Journal (WSJ) informa que “OpenAI tiene un método para escribir trabajos de manera fiable”. Detectar cuando alguien usa ChatGPT para escribir un ensayo o artículo de investigación” – con una precisión del 99,9%.
También: Cómo la IA miente, engaña y se humilla para triunfar (y qué debemos hacer al respecto)
Como ha señalado mi colega David Gewritz, Muchos programas ya prometen detectar texto escrito por IASin embargo, concluyó, “ciertamente no me sentiría cómodo amenazando el desempeño académico de un estudiante o acusándolo de hacer trampa en función de los resultados de estas herramientas”.
IA abierta no ha revelado en detalle cómo su nuevo método puede ser casi perfecto para identificar texto escrito por IA. Ciertamente no es porque pueda detectar alucinaciones de IA. No puede. Como dijo el cofundador de OpenAI, John Schulman, el año pasado: “Nuestra mayor preocupación era la veracidad porque la IA no es capaz de detectar alucinaciones”. A la modelo le gusta fabricar cosas.“
Eso nunca cambiará, según Mohamed Elgendy, cofundador y director ejecutivo de Kolenaun servicio de pruebas de aprendizaje automático, “El La tasa de alucinaciones disminuirápero nunca va a desaparecer, así como incluso las personas altamente educadas pueden difundir información falsa”.
En lugar de una forma mágica y profunda de detectar texto escrito por IA, parece que OpenAI está utilizando una forma mucho más simple de identificar texto escrito por IA: el servicio puede estar poniendo una marca de agua en sus resultados.
En una publicación de blog recientemente revisada, Comprender el origen de lo que vemos y escuchamos en líneaOpenAI revela que ha estado investigando el uso de clasificadores, marcas de agua y metadatos para detectar productos creados por IA. Aún no sabemos exactamente cómo funciona esta marca de agua.
También: Los mejores cursos gratuitos de IA (y si vale la pena adquirir certificados de IA)
Sabemos que OpenAI informa que “ha sido muy preciso e incluso eficaz contra la manipulación localizada, como la paráfrasis”. Sin embargo, la marca de agua es “menos robusta contra la manipulación globalizada”.
Eso significa que la función no funciona bien con texto traducido o algo tan simple como insertar caracteres especiales en el texto y luego eliminarlos. Y, por supuesto, no puede detectar obras de otro modelo de IA. Por ejemplo, si le proporcionas al detector de texto de IA de ChatAPT un documento creado por Google Géminis o PerplejidadProbablemente no podrá identificarlo como un documento creado por IA.
En resumen, con un poco más de esfuerzo, los estudiantes y escritores aún podrán hacer pasar el trabajo de un chatbot de IA como propio. Bueno, pueden intentarlo de todos modos. En mi experiencia con la IA, los resultados siguen siendo, en el mejor de los casos, de segunda categoría. Pero si eso es lo suficientemente bueno como para obtener una calificación aprobatoria, puede que sea todo lo que necesites.
Al menos un profesor autoproclamado en Reddit no está impresionado: “El problema es que puedes simplemente copiar y pegar el texto en otro programa, traducirlo a otro idioma y luego traducirlo de nuevo. Pero honestamente, la mayoría de los estudiantes no van a hacer eso, así que… Atrapará prácticamente a todo el mundo.“
También: Cómo el asistente de inteligencia artificial de Pearson puede ayudar a los docentes a ahorrar tiempo
Por supuesto, eso podría no molestar al director ejecutivo de OpenAI, Sam Altman, quien le dijo a The Harvard Gazette: “Hacer trampa en los deberes es obviamente malo. Pero lo que entendemos por trampa y cuáles son las reglas esperadas cambian con el tiempo”.
No lo sé. Hacer trampa es hacer trampa, pero no parece que esta nueva herramienta del arsenal de OpenAI vaya a ayudar mucho a evitarlo.
Curiosamente, mientras OpenAI todavía está debatiendo cuándo (o si) debería lanzar este nuevo servicio, la compañía pronto lanzará un DALL·E 3 clasificador de procedencia. Esto significa que, al final, casi todas las imágenes que creas con DALL-E se marcará como una creación de IA de DALL-E. OpenAI se basa en C2PA metadatos, un estándar de contenido digital, para marcar e identificar imágenes. Si eres un diseñador gráfico que ha dependido de DALL-E para crear gráficos “originales”, tal vez sea hora de volver a Photoshop.
