Home Concientización Google publicó una gran cantidad de videos de deepfake, para ayudar a...

Google publicó una gran cantidad de videos de deepfake, para ayudar a los investigadores a detectarlos

Google ha publicado un enorme conjunto de datos de videos de deepfake en un esfuerzo por apoyar a los investigadores que trabajan en herramientas de detección.

Los ultrafalsos parecen y suenan tan auténticos, que podrían utilizarse para campañas de desinformación muy convincentes en las próximas elecciones. También podrían causar innumerables problemas para individuos como las celebridades, cuyas caras pueden ser utilizadas para crear videos pornográficos falsos que parecen auténticos.

El gigante de la tecnología filmó a actores en una variedad de escenas y luego utilizó métodos de generación de deepfake disponibles públicamente para crear una base de datos de alrededor de 3.000 deepfakes. Los investigadores ahora pueden usar ese conjunto de datos para entrenar herramientas de detección automatizada y hacerlas tan efectivas y precisas como sea posible cuando se trata de detectar imágenes sintetizadas por IA. Google promete añadir más vídeos a la base de datos con la esperanza de que pueda mantenerse al día con la rápida evolución de las técnicas de generación de deepfake. La compañía dijo en su anuncio:

“Dado que el campo se está moviendo rápidamente, añadiremos a este conjunto de datos a medida que la tecnología de falsificación profunda evolucione con el tiempo, y seguiremos trabajando con socios en este espacio. Creemos firmemente en el apoyo a una próspera comunidad de investigación en torno a la mitigación de los daños potenciales derivados del mal uso de los medios sintéticos, y la publicación hoy de nuestro conjunto de datos sobre falsificación profunda en el benchmark de FaceForensics es un paso importante en esa dirección”.

Google no es la única empresa de tecnología que contribuye a la lucha contra las falsificaciones. Facebook y Microsoft también participan en una iniciativa de toda la industria para crear un conjunto de herramientas de código abierto que las empresas, los gobiernos y las organizaciones de medios de comunicación pueden utilizar para detectar vídeos falsificados. La red social planea lanzar una base de datos similar para finales de año, y dudamos que a Google le importe – cuantas más muestras haya, después de todo, mejores herramientas de detección pueden llegar a ser.

Con información de: AS.