Después de un aumento asombroso en la cantidad de videos e imágenes pornográficas falsas subidas a Internet en los últimos años, Google anunció el miércoles Anunciado Nuevas medidas para ayudar a las víctimas y reducir la prominencia de los deepfakes en los principales resultados de búsqueda.
El motor de búsqueda también se comprometió a tomar medidas para desclasificar los sitios web que frecuentemente albergan videos falsos sexualmente explícitos no consensuales, también conocidos como deepfakes, lo que significa que pueden aparecer más abajo en los resultados de búsqueda. Los deepfakes son medios falsos engañosos que se crean cada vez más utilizando herramientas de inteligencia artificial.
Los deepfakes sexualmente explícitos no consensuados a menudo “cambian” la cara de una víctima por el cuerpo de una persona en un video pornográfico preexistente. Las herramientas de inteligencia artificial generativa también se han utilizado para crear imágenes sexualmente explícitas falsas pero realistas que representan a personas reales, o “desnudo” fotos reales para hacer que las víctimas parezcan desnudas. La práctica abrumadoramente Afecta a mujeres y niñas, tanto a figuras públicas como, cada vez más, a niñas en escuelas intermedias y secundarias alrededor del mundo.
En 2023, se publicaron en línea más deepfakes sexualmente explícitos no consensuados que en todos los años anteriores combinado. Google y otros motores de búsqueda tienen tráfico dirigido a sitios web que permiten a los creadores de deepfakes obtener ganancias, así como enlaces incluidos a videos deepfake y se muestran imágenes deepfake en Principales resultados de búsquedaLa plataforma también ha incluido enlaces a herramientas se utiliza para crear deepfakes sexualmente explícitos y no consensuados en los resultados principales.
En su anuncio El miércoles, Google dijo que intentará filtrar contenido explícito de búsquedas similares después de que las víctimas solicitaran con éxito la eliminación de imágenes falsas explícitas no consensuadas a través de un formulario en lineaActualmente, las víctimas tienen que marcar cada URL que contenga las imágenes.
Google también dijo que buscará y eliminará duplicados de imágenes deepfake sexualmente explícitas no consensuadas de los resultados de búsqueda después de que las imágenes sean marcadas y eliminadas con éxito.
“Estos esfuerzos están diseñados para darle a las personas mayor tranquilidad, especialmente si están preocupadas por la posibilidad de que aparezca contenido similar sobre ellas en el futuro”, afirma el anuncio de Google.
Google no busca de forma proactiva nuevos deepfakes para eliminar, y solo eliminará deepfakes si una víctima los denuncia con éxito.
Noticias de la NBC previamente reportado que cuando se desactivan las herramientas de búsqueda segura, los resultados de consultas como “deepfakes” y “desnudos falsos” mostrarían el material en los primeros resultados, por encima de los artículos de noticias relevantes sobre la creciente tendencia.
Ahora, Google dijo que su objetivo es clasificar los artículos de noticias relevantes por encima de los deepfakes, incluso cuando alguien busca el nombre de una persona y la palabra “deepfakes”.
“Con estos cambios, las personas podrán leer sobre el impacto que tienen los deepfakes en la sociedad, en lugar de ver páginas con imágenes falsas reales no consensuadas”, afirma el anuncio.
Google también dijo que degradará los sitios web que se han asociado con una gran cantidad de solicitudes de eliminación de deepfakes en los resultados de búsqueda. Uno de los sitios web más destacados para deepfakes sexualmente explícitos no consensuados, que ocupa un lugar destacado En algunos resultados de búsqueda de Google, se ha utilizado un variedad de tácticas para monetizar el material.
“Este enfoque ha funcionado bien para otros tipos de contenido dañino, y nuestras pruebas muestran que será una forma valiosa de reducir el contenido explícito falso en los resultados de búsqueda”, afirmó Google.
El anuncio se produce tras la presión ejercida por los legisladores para abordar el tema. En junio, el presidente del Comité Judicial del Senado, Dick Durbin, demócrata por Illinois, envió una carta al CEO de Google pidiendo detalles sobre cómo planea combatir los deepfakes. Legislación Federal La propuesta presentada por Durbin permitiría a las víctimas de deepfakes sexualmente explícitos no consensuales demandar a los perpetradores; fue aprobada por el Senado la semana pasada y está a la espera de una votación en la Cámara de Representantes.
