Home Gobierno Europol advirtió que los deepfakes se usarán mucho en el crimen organizado

Europol advirtió que los deepfakes se usarán mucho en el crimen organizado

La tecnología Deepfake se utilizará ampliamente en el crimen organizado en los próximos años, según una nueva investigación de Europol.

Las falsificaciones profundas consisten en la aplicación de inteligencia artificial al audio y al consentimiento audiovisual “que muestra de forma convincente a personas diciendo o haciendo cosas que nunca hicieron, o crea personajes que nunca existieron en primer lugar”.

¿Enfrentarse a la realidad? Law enforcement and the challenge of deepfakes, el primer análisis publicado de la función de Observatorio del Laboratorio de Innovación de Europol, advertía que las fuerzas del orden tendrán que mejorar las habilidades y tecnologías a disposición de los agentes para seguir el ritmo del uso de deepfakes por parte de los delincuentes.

El análisis destacó cómo los deepfakes están utilizándose de forma nefasta en tres áreas clave: desinformación, pornografía no consentida y fraude de documentos. Prevé que estos ataques serán cada vez más realistas y peligrosos a medida que la tecnología mejore en los próximos años.

1) Desinformación: Europol dio varios ejemplos de cómo la información falsa podría difundirse utilizando deepfakes, lo que llevaría a consecuencias potencialmente devastadoras. Entre ellos, en el ámbito geopolítico, como la creación de una falsa alerta de emergencia que advierta de un ataque inminente. En febrero, antes del conflicto entre Rusia y Ucrania, Estados Unidos acusó al Kremlin de un complot de desinformación que serviría de pretexto para una invasión de Ucrania.

La tecnología también podría utilizarse para atacar a las empresas, por ejemplo creando un video o audio deepfake que haga parecer que el ejecutivo de una compañía se involucró en un acto controversial o ilegal. En un caso muy publicitado, los delincuentes estafaron a una empresa energética por valor de 243.000 dólares tras hacerse pasar por la voz del director general.

2) Pornografía no consentida: El informe citaba un estudio de Sensity, según el cual el 96% de los vídeos falsos contenían pornografía no consentida. Esto suele implicar la superposición de la cara de la víctima sobre el cuerpo de un actor de pornografía, haciendo parecer que la víctima está participando en el acto.

3) Fraude de documentos: Mientras que los pasaportes son cada vez más difíciles de falsificar debido a las modernas medidas de prevención del fraude, el informe descubrió que “los medios sintéticos y las imágenes faciales manipuladas digitalmente presentan un nuevo enfoque para el fraude de documentos”. Por ejemplo, estas tecnologías pueden combinar o transformar los rostros de la persona a la que pertenece el pasaporte y de la persona que quiere obtenerlo ilegalmente, aumentando las posibilidades de que la foto pueda pasar los controles de identidad, incluidos los automatizados.

Los autores añadieron que, al igual que otras herramientas utilizadas en la ciberdelincuencia, “las capacidades de deepfake son cada vez más accesibles para las masas a través de aplicaciones y sitios web de deepfake”.

Para hacer frente con eficacia a este tipo de amenazas, Europol afirma que las fuerzas del orden deben desarrollar nuevas habilidades y tecnologías. Entre ellas se encuentra la detección manual, que consiste en buscar incoherencias, y las técnicas de detección automatizada, incluido el software de detección de falsificaciones mediante inteligencia artificial que están desarrollando organizaciones como Facebook y la empresa de seguridad McAfee.

El informe añade que los responsables políticos también deben desarrollar más legislación para establecer directrices y hacer cumplir las normas sobre el uso de deepfakes.

Con información de Info Security Magazine.