Investigadores de seguridad han descubierto una nueva e importante campaña de desinformación rusa que utiliza IA generativa (GenAI) para “plagiar y convertir en arma” contenido de las principales organizaciones de noticias, en un intento por influir en los votantes occidentales.
Apodada “CopyCop” por Recorded Future, la red utiliza GenAI impulsado por un modelo de lenguaje grande (LLM) para copiar contenido de los principales medios de comunicación y luego introducir sesgos políticos a medida que adapta ese contenido a audiencias específicas.
Entre los afectados se encuentran organizaciones de medios como Al-Jazeera, Fox News, la BBC, La Croix y TV5Monde. A veces, los sitios legítimos son falsificados y alojados en dominios alternativos como bbc-uk[.]news, mientras que en otras ocasiones, las historias se publican en sitios de noticias ficticios como London Crier y GB Geopolitics, afirma el informe de Recorded Future.
Las narrativas promovidas por CopyCop están diseñadas para apoyar los objetivos de influencia rusa al sembrar división sobre el conflicto entre Israel y Hamas, socavar el apoyo a Ucrania y criticar la política gubernamental.
Las historias vistas por Recorded Future incluyen afirmaciones de que el gobierno del Reino Unido ha criminalizado al Islam y que está planeando introducir una “zona de amortiguamiento” de los países de la OTAN alrededor de Ucrania. Otros intentan abrir una brecha entre los gobiernos del Reino Unido y Estados Unidos, afirma el informe.
Recorded Future dijo que está particularmente preocupado por la posibilidad de que contenido impulsado por GenAI como este influya en los votantes antes de las elecciones clave en el Reino Unido y Estados Unidos a finales de este año.
Si CopyCop tiene éxito, es probable que otras operaciones de influencia sigan en el futuro un modelo similar impulsado por GenAI, con profundas implicaciones para la democracia occidental y la confianza en los principales medios de comunicación, concluyó el informe.
Recorded Future enfatizó la creciente necesidad de mejorar la colaboración entre gobiernos, empresas de tecnología y la sociedad civil para combatir la proliferación de desinformación en línea.