Apple ha bloqueado el uso de Iniciar sesión con Apple por parte de algunos desarrolladores, luego de que un informe descubriera que herramientas de inicio de sesión populares han sido utilizadas por sitios web que brindan servicios dañinos de desmantelamiento de imágenes mediante inteligencia artificial.
Mientras Inteligencia de Apple y otros esfuerzos de IA generativa a menudo ofrecen formas legítimas y éticas de cambiar una imagen para los usuarios, algunos van en la dirección opuesta. El auge de los deepfakes ha dado lugar a una industria casera de sitios que permiten a los usuarios enviar fotografías y hacer que la IA retire digitalmente la ropa del sujeto.
Los sitios, conocidos como sitios de desnudez, pueden posibilitar el abuso y son un problema para las empresas tecnológicas. Cableado informes que la infraestructura de inicio de sesión de gigantes tecnológicos se está utilizando en los sitios, incluido Iniciar sesión con Apple.
De los 16 sitios vistos en el informe, Iniciar sesión con Apple Se utilizó en seis. La API de inicio de sesión de Google se utilizó en los 16, la de Discord en 13 y Patreon y Line en dos.
Desde que se les advirtió del problema, tanto Apple como Discord dijeron que habían eliminado el acceso a la API a los desarrolladores responsables. Google dijo que haría lo mismo en los casos en que se violaran sus términos, mientras que Patreon afirma que prohíbe a las cuentas permitir que se produzcan imágenes explícitas.
El uso de sistemas de autenticación proporciona una etiqueta visible de supuesta credibilidad a los sitios, a pesar de que la propiedad y el funcionamiento de los mismos son extremadamente opacos. Se conocen pocos detalles sobre los operadores de los sitios.
Si bien las acciones contra los sistemas de inicio de sesión de los sitios no los cerrarán, lo más probable es que estos sean objeto de más acciones en el futuro.
Muchos de los sitios promocionaban el uso de Mastercard y Visa como sistemas de pago, utilizando sus logotipos. En el caso de Mastercard, un portavoz dijo que las compras de “contenido deepfake no consentido no están permitidas en nuestra red” y que está preparada para tomar medidas adicionales.
