OpenAI ha visto continuos intentos por parte de ciberdelincuentes de utilizar sus modelos de inteligencia artificial (IA) para contenido falso destinado a interferir con las elecciones de este año, dijo el fabricante de ChatGPT en un nuevo informe.
De acuerdo a Informe de OpenAIpublicado el miércoles, el desarrollador de inteligencia artificial descubrió e interrumpió más de 20 operaciones este año que intentaban influir en las elecciones con la tecnología de la compañía, incluida su popular herramienta ChatGPT.
Estas redes engañosas intentaron utilizar los modelos de OpenAI para generar una variedad de contenido falso, parte del cual estaba destinado a ser compartido por personas falsas en las redes sociales, según el informe.
Los modelos de OpenAI también se utilizaron para crear artículos para sitios web, analizar y responder a publicaciones en redes sociales o depurar malware, dijo el gigante tecnológico.
Esta actividad fue detectada en parte por las propias herramientas de inteligencia artificial de OpenAI, que a menudo la detectaban en cuestión de minutos, según el informe.
Si bien los actores de amenazas pueden estar “experimentando” con modelos OpenAI, la compañía enfatizó que su alcance es limitado.
“Los actores de amenazas continúan evolucionando y experimentando con nuestros modelos, pero no hemos visto evidencia de que esto conduzca a avances significativos en su capacidad para crear malware sustancialmente nuevo o construir audiencias virales”, dice el informe.
También expuso varios ejemplos del mal uso que observó en los últimos meses.
A principios de julio, por ejemplo, la compañía dijo que prohibió varias cuentas ChatGPT en Ruanda después de descubrir que estaban siendo utilizadas para generar comentarios sobre las elecciones del país.
Y en agosto, OpenAI interrumpió una “operación encubierta de influencia iraní” que produjo comentarios en las redes sociales y artículos extensos sobre las elecciones estadounidenses, el conflicto en Medio Oriente, la política venezolana y la independencia de Escocia.
La mayoría de estas publicaciones recibieron poca participación y no hubo indicios de que fueran compartidas en sitios de redes sociales, señaló el informe.
Los temores sobre cómo podrían verse comprometidas las elecciones han aumentado en medio de una avalancha de informes recientes sobre los intentos de adversarios extranjeros de entrometerse en las elecciones presidenciales estadounidenses de noviembre.
El mes pasado, funcionarios federales de inteligencia advirtió a los adversarios extranjeros están utilizando la IA para mejorar los esfuerzos de discriminación en curso. Los países involucrados en este uso indebido incluyen a Rusia, Irán y China, dijeron los funcionarios.
microsoft también publicó un informe que encontró que las operaciones de influencia rusas erandetrás de un vídeo viralacusar falsamente al vicepresidente Harris de un atropello y fuga, mientras que el Departamento de JusticiaConfiscó más de 30 dominios web.utilizado por Rusia para campañas encubiertas.
Mientras tanto, la campaña del expresidente Trump fue pirateada en junio por Irán, que buscaba compartir información con la campaña del presidente Biden, según el FBI.
