Las aplicaciones Nudify son aplicaciones que permiten a los usuarios cargar fotos y aplicar herramientas para que los sujetos parezcan desnudos o semidesnudos. Con unas elecciones generales a la vuelta de la esquina, el abuso permitido a través de ellos se ha convertido en un tema central para los votantes jóvenes.
Con un eleccion general A la vuelta de la esquina, los derechos de las mujeres (particularmente en el ámbito en línea) han ocupado un lugar central para muchos votantes jóvenes. Y el tema principal que está en boca de todos es el de nudificar las aplicaciones. Una investigación reciente de 404 Medios reveló que Instagram se está beneficiando de los anuncios de aplicaciones que permiten a los usuarios crear deepfakes no consensuales, y más personas que nunca corren el riesgo de ser blanco de estas “aplicaciones de desnudez”. Sin embargo, una legislación integral sobre abuso basado en imágenes para abordar este peligro parece estar fuera de alcance en este momento. A continuación se muestra la opinión de SCREENSHOT sobre por qué el gobierno del Reino Unido necesita abordar este tema lo antes posible.
¿Qué son las aplicaciones de nudificación?
Las aplicaciones Nudify son aplicaciones o funciones dentro de las aplicaciones de edición de imágenes que permiten a los usuarios cargar fotos y aplicar herramientas para que los sujetos parezcan desnudos o semidesnudos. Esta manipulación puede implicar quitarse la ropa digitalmente o alterar la imagen para crear la ilusión de desnudez.
La existencia de estas aplicaciones causó un gran revuelo en marzo de 2024 cuando se descubrió que Instagram y Facebook estaban distribuyendo anuncios de Perky AI, una aplicación de desnudos que se comercializaba con desnudos de menores de edad generados por IA. Jenna Ortega.
Mientras los adolescentes y los niños usaban aplicaciones de inteligencia artificial para acosar sexualmente a sus compañeros de clase, Facebook e Instagram publicaron anuncios durante todo febrero para una aplicación que “desnudaba” las fotos de mujeres. Algunos de los anuncios “desnudaban” una foto de Jenna Ortega tomada cuando tenía apenas 16 años.https://t.co/G8G4nH554Q
– Kat Tenbarge (@kattenbarge) 5 de marzo de 2024
“Algunas de las aplicaciones más dañinas de las herramientas de inteligencia artificial no están ocultas en los rincones oscuros de Internet, sino que las empresas de redes sociales las promueven activamente entre los usuarios”, concluyó Emanuel Maiberg en su investigación para 404 Media.
Tras su informeApple y Google retiraron múltiples aplicaciones desnudas de IA no consensuadas de sus respectivas tiendas de aplicaciones.
📌 La creación y la introducción de aplicaciones de nudificación (disponibles en su teléfono ahora mismo a través de App Store y Google Play Store) han eliminado muchas de las barreras de entrada al abuso de deepfake.
– Chayn 💖🌈 (@ChaynHQ) 12 de junio de 2024
Por supuesto, Desnudos generados por IA no son un tema nuevo que requiera atención legislativa. En el pasado, celebridades prominentes como Taylor Swift, Bobbi Althoff, Jacob Elordi y Sidney Sweeney han sido atacados por jugadores nefastos en línea, con la intención de explotar su celebridad para distribuir contenido pornográfico sin su consentimiento.
En el Reino Unido, el Ministerio de Justicia (MoJ) ha anunciado planes para criminalizar la creación de imágenes falsas y sexualmente explícitas a través de la próxima legislación. En abril se anunció que habría cambios en el Proyecto de Ley de Justicia Penal, incluidos nuevos delitos por crear este tipo de contenido. Sin embargo, la enmienda fue criticada por centrarse en la intención de causar daño, en lugar del simple consentimiento.
¿Qué puede hacer el gobierno del Reino Unido para combatir las aplicaciones de nudificación?
Cuando el Primer Ministro Rishi Sunak disolvió el parlamento del Reino Unido el 24 de mayo de 2024, todos los esfuerzos para regular el contenido sintético sexualmente explícito en el Reino Unido se detuvieron. Por lo tanto, es esencial que el próximo gobierno se ocupe específicamente del abuso basado en imágenes y establezca limitaciones a las funciones permitidas para las aplicaciones de IA, así como a los anuncios apropiados de IA en las redes sociales.
Investigación de Héroes de la seguridad del hogar reveló un aumento del 550 por ciento en videos deepfake en línea en 2023 y con cada vez más cuentas de adolescentes sometidos a esta práctica, no es solo una necesidad sino un deber para el gobierno del Reino Unido proteger la seguridad de sus ciudadanos en línea.
A medida que las capacidades de la IA se aceleran rápidamente, los gobiernos se enfrentan a una multitud de nuevos peligros y a la necesidad de una regulación nueva y más sofisticada. Entonces, mientras continuamos haciendo campaña por los derechos de las mujeres, debemos estar atentos a cómo los nuevos avances en tecnología están afectando a los géneros marginados y qué tan bien los gobiernos se están poniendo al día con estos problemas.
