Varias empresas líderes de inteligencia artificial se comprometieron el jueves a eliminar las imágenes de desnudos de las fuentes de datos que utilizan para entrenar sus productos de inteligencia artificial y se comprometieron a adoptar otras medidas de seguridad para frenar la propagación de imágenes falsas de contenido sexual dañino.
WASHINGTON — Varias empresas líderes de inteligencia artificial se comprometieron el jueves a eliminar las imágenes de desnudos de las fuentes de datos que utilizan para entrenar sus productos de inteligencia artificial, y se comprometieron a tomar otras medidas de seguridad para frenar la propagación de imágenes falsas de contenido sexual dañino.
En un acuerdo negociado por la administración Biden, las empresas tecnológicas Adobe, Anthropic, Cohere, Microsoft y OpenAI dijeron que se comprometerían voluntariamente a eliminar las imágenes de desnudos de los conjuntos de datos de entrenamiento de IA “cuando sea apropiado y dependiendo del propósito del modelo”.
El anuncio de la Casa Blanca fue parte de una campaña más amplia contra abuso sexual de niños basado en imágenes, así como la creación de imágenes íntimas deepfake de adultos mediante inteligencia artificial sin su consentimiento.
Estas imágenes “se han disparado, apuntando desproporcionadamente a mujeres, niños y personas LGBTQI+, y emergiendo como uno de los usos nocivos de la IA de más rápido crecimiento hasta la fecha”, señaló un comunicado de la Oficina de Política Científica y Tecnológica de la Casa Blanca.
Common Crawl, un repositorio de datos que se extraen constantemente de Internet abierto y que es una fuente clave para entrenar a los chatbots de IA y a los generadores de imágenes, se unió a las empresas tecnológicas en parte del compromiso. Se comprometió de manera más amplia a obtener sus conjuntos de datos de manera responsable y a protegerlos de Abuso sexual basado en imágenes.
En otro compromiso, otro grupo de empresas (entre ellas Bumble, Discord, Match Group, Meta, Microsoft y TikTok) anunció el jueves un conjunto de principios voluntarios para prevenir el abuso sexual basado en imágenes. Los anuncios estuvieron relacionados con el 30º aniversario de la Ley de Violencia contra la Mujer.
