Para abordar el flujo de imágenes “deepfake” explícitas, Google facilitará que las personas eliminen desnudos generados por IA de la Búsqueda, dijo la compañía en un comunicado. entrada en el blog El miércoles.
Las imágenes y los vídeos deepfake utilizan tecnología de inteligencia artificial para imponer el rostro de una persona en el cuerpo de otra. A veces, esto puede ser humorísticocomo imponer el rostro y la voz de Ron Swanson del programa Parks and Recreation sobre Wednesday Addams de The Addams Family. Otras veces, puede ser problemáticocomo cuando lo usó para retratar falsamente al presidente ucraniano Volodymyr Zelenskyy diciéndole a sus tropas que se rindan a las fuerzas rusas.
Cuando la tecnología llegó a Internet hace unos años, la gente empezó a usarla rápidamente para crear imágenes sexualmente explícitas de celebridades. La tecnología deepfake, que se ha vuelto más accesible, ha dado lugar a imágenes falsas explícitas basadas en personas comunes, no solo en figuras públicas. Estos cambios tienen como objetivo ayudar a eliminar esas imágenes.
Ahora bien, cuando alguien solicita la eliminación de deepfakes explícitos no consensuados de la BúsquedaGoogle afirma que sus sistemas intentarán filtrar todas las demás búsquedas explícitas sobre ellos en la Búsqueda. Y, cuando se le solicite al sistema que elimine una imagen explícita de la Búsqueda, Google intentará eliminar cualquier duplicado de esa imagen de los resultados de la Búsqueda. Cabe señalar que eliminar una deepfake explícita generada por IA de la Búsqueda no significa que se haya eliminado de Internet por completo.
Google se negó a responder a una solicitud de comentarios adicionales.
A medida que la tecnología de IA continúa democratizándose, alcanzando la atención generalizada con el lanzamiento de ChatGPT A finales de 2022, también han surgido problemas. Ha habido un aumento en desinformación y Delito cibernéticoLos sistemas de IA también requieren una gran cantidad de energía para funcionar. Lo cual es malo para el medio ambiente. Pero, en el aspecto visual, ha habido un aumento de desnudos falsos. En el pasado, estas imágenes falsas requerían tiempo y habilidades de Photoshop para crearlas, pero ahora, en segundos, es fácil crear imágenes explícitas, tanto basadas en personajes ficticios como en personas reales. Ya ha habido casos de desnudos falsos. Personas que generan material de abuso sexual infantil con IA o usar la tecnología para Crean desnudos deepfake de sus compañeros de clase.
Incluso cuando Wall Street Sigue recompensando a las empresas de IA con inversiones masivas (Parte de lo cual ahora se está moderando), los gobiernos de todo el mundo están luchando por regular La tecnología transformadora a medida que continúa evolucionando rápidamente.
Google también dice que está mejorando su sistema de clasificación para protegerse contra el contenido dañino. El contenido falso explícito se reducirá en la Búsqueda. Si busca el nombre de una persona, Google aumentará el contenido no explícito de alta calidad, como artículos de noticias, cuando esté disponible. Google dice que esta actualización reducirá la exposición a resultados explícitos en un 70%. La compañía reconoció el desafío de filtrar desnudos legítimos, como la escena de un actor en una película, frente a deepfakes ilegítimos de ese mismo actor. Google dice que lo hará observando si un sitio tiene muchas solicitudes de eliminación de imágenes explícitas falsas. Si es así, ese sitio se considerará de baja calidad.
Si desea eliminar un deepfake explícito generado por IA de la Búsqueda, siga este procedimiento enlace.
Tenga en cuenta que Google dice que una solicitud debe cumplir tres requisitos para ser aprobada para su eliminación:
- La persona debe ser identificable en las imágenes.
- Las imágenes en cuestión deben ser falsas y deben representar falsamente a la persona desnuda o en una situación sexual explícita.
- Las imágenes deben distribuirse sin el consentimiento de la persona.
Google dice que revisará todas las solicitudes, posiblemente solicitando más información si es necesario, y responderá a cada solicitud notificando a la persona las medidas tomadas o explicando por qué la solicitud no cumple con los requisitos de la empresa.
