Unos meses después de que OpenAI lanzara ChatGPT en noviembre de 2022, el servicio comenzó a despegar en China, y los ciudadanos lo usaban para satirizar a figuras pro gubernamentales y para ayuda con la tareaDebido a que OpenAI restringió el acceso a los usuarios con sede en China, los desarrolladores locales crearon sitios espejo para facilitar el acceso al servicio. Pero el auge de ChatGPT en China duró poco. El gobierno chino bloqueó el dominio de ChatGPT el 2 de marzo de 2023, según una nueva investigación.
Históricamente, era difícil rastrear cuándo exactamente las autoridades chinas bloqueaban dominios específicos porque los investigadores tenían que elegir probar dominios individuales. Pero según una plataforma recién lanzada, GFWebque concedió Resto del mundo acceso exclusivo primer día, el mismo mes en que el gobierno chino bloqueó ChatGPT por primera vez, las autoridades también bloquearon docenas de chatbots alternativos y sitios web que utilizan la tecnología de ChatGPT. Resto del mundo También descubrimos que Hugging Face, la popular plataforma de aprendizaje automático, estaba bloqueada en China meses antes de que la compañía informara los problemas.
GFWeb ahora está disponible para el público de forma gratuita y prueba continuamente millones de sitios web tanto dentro como fuera de China para identificar exactamente cuándo ya no están disponibles para los usuarios en China. Detecta qué sitios están bloqueados aprovechando los comportamientos de filtrado únicos del Gran Cortafuegos. El servicio está financiado principalmente por la organización sin fines de lucro Fondo de Tecnología Abierta y recibió aportes de investigación de profesores de la Universidad de Columbia Británica, la Universidad de Toronto, la Universidad de Chicago y la Universidad Stony Brook.
“Este sistema no solo mejora nuestra capacidad de rastrear el momento y el alcance de los eventos de censura, sino que también ayuda a identificar patrones y cambios en las estrategias empleadas por el Gran Cortafuegos”, dijo a CNN Nguyen Phong Hoang, desarrollador de la plataforma y científico informático de la Universidad de Columbia Británica. Resto del mundo. “Espero que GFWeb permita a los investigadores, a los responsables de las políticas y al público en general obtener conocimientos más profundos sobre el cambiante panorama de la censura en China”.
Hasta ahora no estaba claro cuándo se bloqueó por primera vez Hugging Face en China. En octubre de 2023, la empresa reportado “Lamentables problemas de accesibilidad” en el país. De hecho, los datos de GFWeb sugieren que Huggingface.co fue bloqueado el 7 de mayo de 2023, meses antes de que la empresa identificara el problema.
Los datos de GFWeb permiten a los observadores detectar tendencias a largo plazo. Por ejemplo, muestran que las autoridades chinas están especialmente preocupadas por las herramientas de inteligencia artificial que se utilizan para la generación de contenido. Además de los sitios web que parecen utilizar la tecnología de ChatGPT, la mayoría de los sitios web de inteligencia artificial bloqueados incluyen herramientas que ayudan con la edición de videos e imágenes. Eso incluye servicios como OpenArt y VoiceDub.
Esto sugiere que el Partido Comunista Chino es “bastante sensible a las plataformas de generación de contenido que no están controladas por el régimen. Esa es la principal amenaza”, dijo a CNN Jeffrey Ding, profesor adjunto de Ciencias Políticas en la Universidad George Washington y un destacado experto en las capacidades tecnológicas de China. Resto del mundo.
“Bloquear los sitios de IA podría no impedir que los desarrolladores usen VPN (redes privadas virtuales) para acceder a esas herramientas, pero presenta fricción para que el ciudadano chino promedio use IA para generar contenido políticamente sensible, como un video burlándose de los líderes del PCCh o un pareado sobre la corrupción china”, dijo Ding.
Señaló un virus Vídeo manipulado por IA El año pasado, circuló en las redes sociales occidentales un video en el que se ve al presidente chino, Xi Jinping, diciendo cosas halagadoras sobre la sociedad estadounidense en un inglés fluido. El video contenía numerosas imprecisiones y Xi nunca ha pronunciado un discurso completo en inglés.
El contenido manipulado por inteligencia artificial que puede tergiversar la imagen de los líderes chinos es exactamente el tipo de contenido que Beijing no quiere ver en sus propias redes sociales, dijo Ding.
Resto del mundoEl análisis de la herramienta encontró una correlación entre los picos de actividad de censura y eventos significativos, como la aprobación de nuevas regulaciones de IA. Por ejemplo, cientos de sitios web de IA relacionados con la religión, incluidos Biblechat.ai y Church.ai, fueron bloqueados esta primavera, coincidiendo con un aumento en lanzamientos de aplicaciones de IA relacionadas con la espiritualidad.
“Este sistema no sólo mejora nuestra capacidad de rastrear el momento y el alcance de los eventos de censura, sino que también ayuda a identificar patrones y cambios en las estrategias empleadas por el Gran Cortafuegos”.
En enero de 2023, China se convirtió en uno de los primeros países del mundo en introducir reglas Gobernar la tecnología deepfake de IA y, en agosto de 2023, hacer cumplir la IA generativa integral reglamentosEstas fechas también corresponden a un mayor bloqueo de los dominios de IA.
Los datos sugieren que las autoridades están aplicando protocolos de censura preexistentes a la nueva tecnología de IA, según Jeremy Daum, investigador principal del Centro Paul Tsai China de la Facultad de Derecho de Yale.
“Los grandes nombres con más tráfico serán bloqueados. Más allá de eso, parece haber un período de descubrimiento, por lo que se ven lotes de sitios censurados”, dijo. Resto del mundo“El proceso siempre es misterioso, con cierta automatización en los niveles inferiores, pero cuando el bloqueo se produce en lotes, suele ser una decisión de los funcionarios de la CAC (Administración del Ciberespacio de China)”.
Chatbots de IA populares de empresas chinas que deben cumplir con normas de censura incluyen Ernie Bot de Baidu, Tongyi Qianwen de Alibaba y Doubao de ByteDance, así como una gama de empresas emergentes chinas.
Phong fue anteriormente el investigador principal de GFWatch, una gran estudio de nueve meses que proporcionó información sobre las conductas de bloqueo de dominios de China y allanó el camino para el diseño de GFWeb. Ha trabajado en estudios a menor escala sobre la censura de Internet en Turkmenistán y Partes del Medio Oriente.
Charlie Smith, que utiliza un seudónimo por razones de seguridad, es cofundador de GranFuego.orgque ofrece herramientas para analizar y eludir la censura china en Internet. Smith dijo que el trabajo de Phong abre posibilidades interesantes para los investigadores.
“Conocer la fecha exacta de la censura es útil por varias razones. Por ejemplo, podemos identificar si se bloquean sitios en torno a determinados eventos”, dijo. Resto del mundo“También ayuda a mostrar cómo las autoridades bloquean estos sitios. ¿Bloquean principalmente los lunes? ¿Trabajan los fines de semana? Podríamos identificar si las autoridades bloquean sitios web según un patrón”.
“El sistema GFWeb debería alentar a más personas a iniciar pruebas por sí mismas, lo que puede ampliar enormemente lo que sabemos sobre los controles de Internet de China”, dijo Smith.
