El Fondo Marshall Alemán ha lanzado una herramienta para rastrear falsificaciones profundas generadas por IA dirigidas a las elecciones que circulan en los EE. UU. y en todo el mundo.
la herramienta Llega en un año histórico para las elecciones. Más de la mitad del mundo ha celebrado o celebrará elecciones en 2024, un detalle que choca con un aumento de audio, vídeo e imágenes creados por IA que a menudo proporcionan narrativas e información falsas sobre los candidatos.
Estados Unidos ya ha visto una buena cantidad de contenido generado por IA dirigido a las elecciones, desde audios falsos que afirman ser el presidente Biden animando a los votantes de New Hampshire a saltarse las primarias hasta el expresidente Trump que publica imágenes falsas de Taylor Swift sugiriendo falsamente que la cantante lo respalda.
Apodado “Spitting Images”, el proyecto solo registra deepfakes que han ganado una tracción significativa o han sido desacreditados por periodistas.
Además de proporcionar una verificación de datos a los votantes, Lindsay Gorman, líder del proyecto, tiene la esperanza de que la herramienta también detecte tendencias que puedan ayudar a los responsables políticos a sopesar cómo regular el uso de la inteligencia artificial en las elecciones.
“Queríamos entender cómo se está implementando realmente (la IA) en el mundo real durante este histórico año electoral. Y para los formuladores de políticas que están pensando en una posible legislación o posibles barreras de seguridad sobre la inteligencia artificial, particularmente en torno a la IA política, ¿deberían tener requisitos de transparencia en lo que respecta a los políticos y las elecciones? ¿Dónde deberían centrar sus esfuerzos?” Dijo Gorman.
El rastreador, que extrae datos recopilados durante el último año, ha registrado 133 falsificaciones publicadas en 30 países diferentes.
Gorman dijo que han surgido claramente algunas tendencias, incluida la dependencia de falsificaciones de audio, que representaron casi el 70 por ciento de los casos rastreados.
“El hecho es que el estado actual de la tecnología no es tan convincente en lo que respecta a imágenes y vídeos, pero sí lo es en lo que respecta al audio. Es muy difícil saber cuándo algo ha sido generado por IA”, dijo.
El audio generado por IA ya jugó un papel en una elección importante en Eslovaquia, donde un audio falso mostró a uno de los candidatos, Michal Simecka, discutiendo el fraude electoral y planeando aumentar el precio de la cerveza si era elegido.
El audio falso surgió durante la moratoria de 48 horas sobre la campaña electoral en el país, lo que dificulta su desacreditación.
Es difícil saber qué impacto tuvo el audio falso, aunque Simecka finalmente perdió las elecciones.
Sin embargo, en algunos casos, la credibilidad de la IA puede no importar.
Elon Musk, propietario de la plataforma de redes sociales X, compartió una foto del vicepresidente Harris vistiendo uniforme comunista. Aunque la foto es claramente falsa, Musk lo compartió en respuesta a una publicación de Harris llamando dictador a Trump, escribiendo “¿Puedes creer que ella usa ese atuendo?”
En otra publicación de Musk, destacó el audio generado por IA de Harris que pretendía ser un anuncio de campaña en el que agradecía a Biden por mostrar su “senilidad” durante el debate y proclamar ser la “contratación de diversidad definitiva”.
Gorman dijo que si bien debe haber espacio para la sátira y la libertad de expresión, incluso los esfuerzos que son obviamente falsos desempeñan un papel en el discurso.
“Pintan esas ideas en la mente de los votantes, incluso si saben que, por supuesto, Kamala Harris no va a subir y decir que fue contratada por DEI”, dijo.
“Casi puedes cansar a la gente con los mismos mensajes una y otra vez. Creo que anuncios como este son una forma de seguir transmitiendo esos mensajes y de alguna manera plantar una semilla de duda, incluso si sabes que no es auténtica”.
También ha habido acusaciones formuladas por Trump de que imágenes reales están siendo manipuladas por IA, lo que sugiere que el tamaño de la multitud en un mitin inicial de Harris no era tan grande como parecía. Los periodistas y otros asistentes respondieron a la afirmación falsa compartiendo sus propias fotografías que mostraban multitudes numerosas.
El hecho de que Trump compartiera la foto de Swift generada por IA también pareció ser contraproducente, ya que la cantante citó desinformación sobre cómo planeaba votar cuando apoyó a Harris el mes pasado.
Estados Unidos La comunidad de inteligencia ya ha emitido advertencias.sobre el papel de la IA en las elecciones, particularmente porque está siendo utilizada y distribuida por adversarios extranjeros.
Un funcionario de la Oficina del Director de Inteligencia Nacional (ODNI) dijo el mes pasado que Rusia es el principal creador de dicho contenido, la mayor parte del cual tiene como objetivo impulsar cuestiones divisivas o crear narrativas falsas sobre figuras políticas estadounidenses.
Mientras tanto, Irán ha utilizado las herramientas principalmente para crear sitios web de noticias falsas, incluida la traducción de contenido al español para difundir desinformación.
El funcionario señaló que no todo el contenido falso compartido en las últimas semanas se creó utilizando inteligencia artificial, y señaló que un video falso hecho con una mujer que afirma haber sido golpeada por Harris en un atropello y fuga era un “video montado”.
