yoLa ira era palpable. Por segunda vez en apenas unos años, las mujeres surcoreanas salieron a las calles de Seúl para exigir el fin del abuso sexual. Cuando el país encabezó el movimiento #MeToo en Asia, el culpable fue Molca – cámaras espía que grababan a mujeres sin que ellas lo supieran. Ahora su furia se dirigía a una epidemia de pornografía deepfake.
Para Juhee Jin, una residente de 26 años de Seúl que defiende los derechos de las mujeres, la aparición de esta nueva amenaza, en la que las mujeres y las niñas vuelven a ser el blanco de los ataques, era tristemente previsible. “Esto debería haberse abordado hace mucho tiempo”, dice Jin, traductora. “Espero que las autoridades tomen precauciones y proporcionen la educación adecuada para que la gente pueda evitar que estos delitos ocurran”.
La agencia de policía nacional dijo esta semana que estaba investigando 513 casos de pornografía deepfake, en la que se superponen digitalmente los rostros de mujeres y niñas reales sobre un cuerpo sin su conocimiento o consentimiento. Eso representa un aumento del 70% en los casos en solo 40 días, dijo la agencia de noticias Yonhap, lo que subraya la lucha del país por controlar el uso de la tecnología digital para abusar sexualmente de mujeres y niñas.
Los informes recientes sobre el rápido aumento de la pornografía deepfake han provocado una nueva ronda de introspección en un país cuya Contribución positiva a la cultura pop mundial se está viendo manchada por su condición de capital mundial de los delitos sexuales digitales.
El número exacto de víctimas es difícil de verificar, pero si la tendencia actual continúa Corea del Sur Se espera que alcance un récord para finales de año. El número de casos denunciados de pornografía deepfake ha aumentado de forma constante en los últimos años, de 156 en 2021 a 180 en 2023.
Las víctimas son en su mayoría mujeres jóvenes y niñas, incluidas estudiantes, maestras y soldados. El año pasado, casi dos tercios de los detenidos eran adolescentes. Según los medios locales, los perpetradores también suelen ser menores de edad. Los adolescentes representaron el 79% de los detenidos en los primeros nueve meses de este año, según Yonhap.
La magnitud del problema ha sorprendido a muchos surcoreanos. Telegrama Se dice que una sala de chat conocida por crear y distribuir pornografía deepfake tenía 220.000 miembros y otra más de 400.000 usuarios. Algunas salas alentaban a los miembros a humillar o degradar a las mujeres mediante deepfakes.
Varios años después de que Corea del Sur fuera noticia internacional con su Molca El problema es que el gobierno está bajo presión para acabar con esta ola de delitos sexuales en línea. El 21 de septiembre se ha programado una gran protesta en Seúl.
La capital mundial de los deepfakes
Corea del Sur ostenta el nada envidiable título de país más atacado por la pornografía deepfake. Sus cantantes y actrices constituyen el 53% de las personas que aparecen en deepfakes en todo el mundo, según un informe de 2023 de Security Hero, una startup estadounidense centrada en la protección contra el robo de identidad.
La policía ha lanzado una Investigación sobre TelegramEl regulador de medios del país planea mantener conversaciones con los representantes de la aplicación de mensajería para discutir una respuesta conjunta al problema. El Ministerio de Educación ha creado un grupo de trabajo para investigar los incidentes en las escuelas, enseñar a los niños a proteger su imagen y apoyar a las víctimas.
John McGuire, profesor de filosofía en la Universidad de Hanyang, dijo que la educación en ética digital no era una solución realista a los problemas relacionados con la IA. “Corea del Sur acaba de surgir como un caso de prueba para este desafío”, dice. “Vamos a necesitar todas las herramientas a nuestra disposición para abordar los problemas presentes y futuros asociados con la tecnología de IA”.
Telegram, cuyo fundador fue arrestado el mes pasado como parte de una investigación francesa sobre abuso sexual infantil, se disculpó “Si hubiera habido un elemento de malentendido”, dijo, y agregó que había retirado decenas de videos, algunos a pedido del organismo de control de medios del país. El gobierno de Corea del Sur dijo que presionaría para que se aprobaran leyes más estrictas para que comprar o ver deepfakes de explotación sexual sea un delito.
Sin embargo, los activistas dicen que es poco probable que las medidas mitiguen el apetito por material sexualmente explícito alterado digitalmente. Los surcoreanos disfrutan de una de las velocidades promedio de Internet y de las tasas de uso de teléfonos inteligentes más rápidas del mundo, pero eso combinado con la popularidad de Telegram, los avances en inteligencia artificial y las leyes laxas han agravado el problema.
El primer ministro del país, Han Duck-soo, atribuyó el jueves la crisis al “desarrollo anormal” de las redes sociales y los avances en inteligencia artificial, más que a fallas del gobierno.
Sin embargo, las autoridades surcoreanas son conscientes de los peligros de la manipulación digital desde 2019, cuando el llamado caso de la “enésima habitación” reveló que mujeres, incluidas niñas menores de edad, habían sido obligadas a enviar videos sexualmente explícitos que circularon en línea.
La policía pidió a Telegram que ayudara con su investigación, pero, según se informa, ignoradoEl cabecilla fue condenado a más de 40 años de prisión, pero no se tomaron medidas contra Telegram en medio de preocupaciones por la censura.
“La violencia de género en línea es un problema creciente a nivel mundial, pero está especialmente extendida en Corea del Sur”, señaló Heather Barr, directora asociada de Human Rights Watch.
“Los jueces, fiscales, policías y legisladores de Corea del Sur, la gran mayoría de ellos hombres, no toman estos crímenes lo suficientemente en serio. Mujer “Los jóvenes que buscan ayuda policial a menudo son rechazados, retraumatizados e incluso ridiculizados. En las escuelas de Corea del Sur hay muy poca educación sexual para ayudar a los jóvenes a comprender lo incorrecta que es esta conducta”.
'El mundo que conocía se derrumbó por completo'
Mientras los políticos y las autoridades se esfuerzan por encontrar soluciones, hay un enojo palpable en línea, lo que ha provocado peticiones en el sitio web de la Asamblea Nacional pidiendo leyes más estrictas.
La crisis ha afectado el comportamiento en línea: hay informes que sugieren que muchos niños están eliminando fotos de las redes sociales o desactivando sus cuentas.
Una víctima adulta dijo que había sido un “trauma enorme” llevar a su agresor ante la justicia después de recibir una avalancha de mensajes de Telegram en 2021 que contenían imágenes deepfake que la mostraban siendo agredida sexualmente.
Su agresor era un compañero de estudios de la prestigiosa Universidad Nacional de Seúl con el que apenas había interactuado, pero al que consideraba amable. “Fue difícil aceptarlo”, dijo a la AFP la mujer, que pidió el anonimato.
“El mundo que creía conocer se derrumbó por completo”, dijo en una carta que planea presentar ante un tribunal a finales de este mes. “Nadie debería ser tratado como un objeto o utilizado como un medio para compensar los complejos de inferioridad de individuos como la acusada, simplemente porque son mujeres”.
El presidente de Corea del Sur, Yoon Suk Yeol, ha instado a la policía a erradicar el delito de deepfakeEn una reciente reunión del gabinete, dijo: “Algunas personas pueden desestimarlo como una simple broma, pero es claramente un acto criminal que explota la tecnología detrás del escudo del anonimato”.
Más de 80 grupos de derechos de las mujeres han criticado la respuesta oficial a los deepfakes, enmarcando la crisis como evidencia de una discriminación de género profundamente arraigada en una de las mayores potencias económicas y culturales de Asia.
“La causa fundamental es la discriminación estructural de género y la solución es la igualdad de género”, dijeron en un comunicado.
“Lo que hay que expulsar de los espacios online no es la autoexpresión femenina, sino la cultura masculina profundamente arraigada. Ni Telegram ni la denominada conducta de ‘humillación de conocidos’ son nuevas. Falsificación profunda “La tecnología simplemente se ha superpuesto, como si fuera algo nuevo, a la misoginia que fotografía, sintetiza, edita y procesa los cuerpos de las mujeres sin consentimiento y no las considera conciudadanas”.
Las discográficas de K-pop cuyas estrellas se encuentran entre las víctimas se han visto arrastradas al debate. JYP Entertainment ha descrito la pornografía deepfake como “una flagrante violación de la ley”.
El gran número de adolescentes entre los perpetradores y las víctimas significa que las repercusiones de los deepfakes se están sintiendo en las escuelas de Corea del Sur. Según el sindicato de la Federación Coreana de Maestros, incluso los estudiantes y profesores que no se han visto directamente afectados “están experimentando un miedo y una ansiedad extremos por la posibilidad de que se les utilice para cometer delitos sexuales o de que se distribuyan en línea sin su conocimiento”.
Agencias que contribuyeron a este informe
