A raíz de un informe de El periodico de Wall Street que afirma que OpenAI ha estado desarrollando una herramienta que puede detectar ensayos escritos por ChatGPT con un alto grado de precisión, la compañía ha compartido un poco de información sobre su investigación sobre marcas de agua de texto y por qué no ha publicado su método de detección. El periodico de Wall StreetSegún el informe de la CIA, el debate sobre si la herramienta debería publicarse ha impedido que vea la luz, a pesar de estar “lista”. En una actualización publicada el domingo a un artículo de mayo entrada en el blogdescubierto por TecnologíaCrunchOpenAI afirmó: “Nuestros equipos han desarrollado un método de marca de agua de texto que seguimos considerando mientras investigamos alternativas”.
La empresa afirmó que la marca de agua es una de las múltiples soluciones, incluidos los clasificadores y los metadatos, que ha estudiado como parte de una “extensa investigación en el área de procedencia del texto”. Según OpenAI, “ha sido muy precisa” en algunas situaciones, pero no funciona tan bien cuando se enfrenta a ciertas formas de manipulación, “como usar sistemas de traducción, reformular con otro modelo generativo o pedirle al modelo que inserte un carácter especial entre cada palabra y luego eliminar ese carácter”. Y la marca de agua de texto podría “afectar desproporcionadamente a algunos grupos”, escribió OpenAI. “Por ejemplo, podría estigmatizar el uso de la IA como una herramienta de escritura útil para hablantes no nativos de inglés”.
Según la publicación del blog, OpenAI ha estado sopesando estos riesgos. La empresa también escribió que ha priorizado el lanzamiento de herramientas de autenticación para contenido audiovisual. En una declaración a TecnologíaCrunchUn portavoz de OpenAI dijo que la compañía está adoptando un “enfoque deliberado” sobre la procedencia del texto debido a “las complejidades involucradas y su probable impacto en el ecosistema más amplio más allá de OpenAI”.
