Resulta especialmente preocupante que los modelos de IA generativa puedan hacer que a los agentes malintencionados les resulte mucho más fácil y económico crear y gestionar cuentas creíbles.
Campañas de influencia extranjerao operaciones de información, han sido generalizados en el Antes de las elecciones presidenciales de EE. UU. de 2024. Las campañas de influencia son esfuerzos a gran escala para cambiar la opinión pública, impulsar narrativas falsas o cambiar comportamientos entre una población objetivo. Rusia, Porcelana, Irán, Israely otras naciones han llevado a cabo estas campañas explotando robots sociales, personas influyentes, empresas de mediosy IA generativa.
