Hoy, Google Anunciado Nuevas medidas para combatir la rápida expansión de la enfermedad Deepfakes explícitos no consensuados generados por IA en sus resultados de búsqueda.
Debido a “un aumento preocupante en las imágenes y videos generados que retratan a personas en contextos sexualmente explícitos, distribuidos en la web sin su consentimiento”, Google dijo que consultó con “expertos y víctimas sobrevivientes” para realizar algunas “actualizaciones significativas” a su motor de búsqueda ampliamente utilizado para “proteger aún más a las personas”.
En concreto, Google facilitó a las víctimas de imágenes explícitas falsas (que, según los expertos, son en su gran mayoría mujeres) la posibilidad de denunciar y eliminar las deepfakes que aparecen en los resultados de búsqueda. Además, Google tomó medidas para rebajar la clasificación de las deepfakes explícitas “para evitar que este tipo de contenido aparezca en los primeros puestos de los resultados de búsqueda”, según afirmó el motor de búsqueda líder del mundo.
Las víctimas de pornografía deepfake tienen Anteriormente criticó a Google por no ser más proactivo en su lucha contra los deepfakes en los resultados de búsqueda. Mostrar imágenes y denunciar cada una de ellas es un “proceso que consume tiempo y energía” y una “batalla constante”, dijo Kaitlyn Siragusa, una jugadora de Twitch con una cuenta OnlyFans explícita que con frecuencia es el objetivo de los deepfakes. le dijo a Bloomberg el año pasado.
En respuesta, Google ha trabajado para “facilitar el proceso”, en parte “ayudando a las personas a abordar este problema a gran escala”. Ahora, cuando una víctima envía una solicitud de eliminación, “los sistemas de Google también intentarán filtrar todos los resultados explícitos de búsquedas similares sobre ellos”, dijo el blog de Google. Y una vez que un deepfake se “elimina con éxito”, Google “buscará y eliminará cualquier duplicado de esa imagen que encontremos”, dijo el blog.
El gigante tecnológico afirmó que los esfuerzos de Google para reducir la clasificación de contenido falso dañino también se han ampliado. Para ayudar a las personas que son el objetivo de los deepfakes, Google ahora “reducirá la clasificación de contenido falso explícito” en las búsquedas que incluyan nombres de personas. Según Google, esta medida por sí sola ha “reducido la exposición a resultados de imágenes explícitas en este tipo de consultas en más del 70 por ciento”.
Sin embargo, Google todavía parece resistirse a bajar la clasificación de las búsquedas generales que podrían llevar a las personas a contenido dañino. Una búsqueda rápida en Google confirma que las búsquedas generales con palabras clave como “deepfake de desnudos de celebridades” dirigen a los usuarios a destinos populares donde pueden buscar imágenes íntimas no consensuadas de celebridades o solicitar imágenes de personas menos famosas.
Para las víctimas, la conclusión es que los enlaces problemáticos seguirán apareciendo en los resultados de búsqueda de Google para cualquiera que esté dispuesto a seguir navegando o para cualquiera que busque intencionalmente “deepfakes”. La única medida que Google ha tomado recientemente para bajar la clasificación de los principales sitios de deepfakes como Fan-Topia o MrDeepFakes es una promesa de degradar “sitios que han recibido un alto volumen de eliminaciones por imágenes explícitas falsas”.
Actualmente no está claro qué considera Google un “gran volumen”, y Google rechazó la solicitud de Ars de comentar si estos sitios serían degradados en algún momento. En cambio, un portavoz de Google le dijo a Ars que “si recibimos un gran volumen de sitios eliminados con éxito de un sitio web específico según esta política, lo utilizaremos como una señal de clasificación y degradaremos el sitio en cuestión para las consultas en las que el sitio pueda aparecer”.
En la actualidad, según dijo el portavoz de Google, Google se centra en rebajar la clasificación de las “consultas que incluyen los nombres de personas”, que “tienen el mayor potencial de causar daño individual”. Pero en los próximos meses se rebajarán la clasificación de más consultas, dijo el portavoz de Google, y Google sigue abordando el “desafío técnico para los motores de búsqueda” de diferenciar entre “contenido explícito que es real y consensuado (como las escenas de desnudos de un actor)” y “contenido explícito falso (como los deepfakes que presentan a dicho actor)”, según el blog de Google.
“Este es un esfuerzo continuo y realizaremos mejoras adicionales en los próximos meses para abordar una gama más amplia de consultas”, dijo el portavoz de Google a Ars.
El trauma de los deepfakes “nunca termina”
En su blog, Google dijo que “estos esfuerzos están diseñados para darle a las personas mayor tranquilidad, especialmente si están preocupadas por la posibilidad de que aparezca contenido similar sobre ellos en el futuro”.
Pero muchas víctimas de deepfakes han afirmado que dedicar horas o incluso meses a eliminar contenido dañino no ofrece ninguna esperanza de que las imágenes no vuelvan a aparecer. Más recientemente, una víctima de deepfakes, Sabrina Javellana, le dijo al New York Times que incluso después de que su estado natal, Florida, aprobara una ley contra las deepfakes, eso no impidió que las imágenes falsas se difundieran en línea.
Ella ha renunciado a intentar que las imágenes sean eliminadas de cualquier parte y le dijo al Times: “Esto nunca termina. Simplemente tengo que aceptarlo”.
Según el representante estadounidense Joseph Morelle (demócrata por Nueva York), será necesaria una ley federal contra los deepfakes para disuadir a más actores maliciosos de acosar y aterrorizar a las mujeres con pornografía deepfake. Ha presentado una de esas leyes, la Ley de Prevención de Deepfakes de Imágenes Íntimas, que penalizaría la creación de deepfakes. Actualmente tiene 59 patrocinadores en la Cámara de Representantes y apoyo bipartidista en el Senado, dijo Morelle en un panel esta semana en el que se discutían los daños de los deepfakes, al que asistió Ars.
Morelle dijo que había hablado con víctimas de deepfakes, incluidos adolescentes, y decidió que “una prohibición nacional y un conjunto nacional de recursos penales y civiles tiene más sentido” para combatir el problema con “urgencia”.
“Un mosaico de diferentes jurisdicciones estatales y locales con diferentes reglas” sería “realmente difícil de seguir” tanto para las víctimas como para los perpetradores que intentan entender qué es legal, dijo Morelle, mientras que las leyes federales que imponen una responsabilidad y una sanción penal probablemente tendrían “el mayor impacto”.
Las víctimas, dijo Morelle, sufren todos los días daños mentales, físicos, emocionales y financieros, y como señaló una de las panelistas, Andrea Powell, no hay curación porque actualmente no hay justicia para los sobrevivientes durante un período de “aumento prolífico y catastrófico de este abuso”, advirtió Powell.
