“Es sólo cuestión de presionar un botón.”
Marcador de agua
El creador de ChatGPT, OpenAI, ha desarrollado herramientas internas para marcar con agua y rastrear contenido generado por IA con una precisión del 99,9 por ciento. el Wall Street Journal informes — pero se niega a publicarlo.
Las herramientas eficaces para marcar el texto generado por IA podrían ser útiles en diversas situaciones, desde tomar medidas enérgicas contra los estudiantes que hacen trampa hasta clasificar la basura generada por IA que llena la web.
Por eso es tan sorprendente que OpenAI, como periódico WSJ Según los informes, ha estado aferrándose silenciosamente a herramientas que podrían hacer exactamente eso.
“Es sólo cuestión de presionar un botón”, dijo una fuente familiarizada con el proyecto. periódico WSJ.
Detector de bots
Por el periódico WSJOpenAI comenzó a discutir la necesidad de una herramienta de marca de agua funcional, o un software que incorpore un artefacto que indique que un fragmento de contenido fue generado por IA, tras el lanzamiento de ChatGPT en 2022. El software en cuestión se creó poco después y, según documentos internos, se sabe que funciona con un 99,9 por ciento de precisión cuando se aplica a “suficiente” texto creado por ChatGPT.
Pero OpenAI ha dudado sobre si debería lanzar la herramienta.
De acuerdo con la periódico WSJEn abril de 2023, una encuesta global realizada por OpenAI encontró un apoyo abrumador entre el público en general para implementar herramientas de marca de agua. Sin embargo, otra encuesta realizada el mismo mes entre los usuarios de OpenAI encontró que el 30 por ciento de su base de clientes dijo que dejaría de usar ChatGPT si comenzara a implementar marcas de agua y una empresa competidora no lo hiciera. periódico WSJ En otras palabras, esta última encuesta ha “tenido gran importancia” en posteriores discusiones sobre marcas de agua.
Un portavoz de OpenAI dijo a la periódico WSJ que la vacilación de la empresa se debe a una excesiva cautela.
“El método de marca de agua de texto que estamos desarrollando es técnicamente prometedor, pero tiene riesgos importantes que estamos sopesando mientras investigamos alternativas”, dijo el portavoz. “Creemos que el enfoque deliberado que hemos adoptado es necesario dadas las complejidades involucradas y su probable impacto en el ecosistema más amplio más allá de OpenAI”. del WSJ Se publicó el informe, TecnologíaCrunch observó que OpenAI Actualizó una publicación de blog publicada anteriormente sobre sus esfuerzos de marca de agua.)
Pero, aunque estamos tan a favor de la mitigación de riesgos de la IA como cualquier otro, esta es una línea tremendamente paradójica que ha tomado OpenAI. ChatGPT, que ahora es solo una de las muchas herramientas de IA de OpenAI, ha estado en manos públicas durante años. Es difícil ver qué podría ser tan riesgoso en la introducción de su software de marca de agua, más allá de la necesidad de OpenAI de crecer y mantener su base de usuarios, claro está.
Más información sobre OpenAI: El modo de voz GPT-4o de OpenAI dice que necesita respirar
