Facebook investiga método de detección de deepfakes

Científicos de Facebook presentaron un método para facilitar la detección de “deepfakes”, imágenes falsas hiperrealistas y determinar su origen, gracias a la inteligencia artificial y a la tecnología de ingería inversa.

Los “deepfakes” son un problema en internet porque pueden usarse para manipular o difamar a las personas haciéndoles decir cosas que en realidad no han dicho o hecho. Se han utilizado en ámbitos como la política, la farándula y el cine, al grado de convertirse en un riesgo.

Estos montajes se basan en tecnologías de inteligencia artificial, el sistema facilitará la detección de “deepfakes” y el seguimiento de la información relacionada, Tal Hassner, líder de investigación de Facebook que ha trabajado en conjunto con la Universidad Estatal de Michigan.

Más aún, Hassener explicó al sitio web The Verge que “si un mal actor está generando deepfakes y los carga en diferentes plataformas, para distintos usuarios. En caso de que fuese un modelo de Inteligencia Artificial que nadie conoce, poco se podría haber hecho algo en el pasado. Sin embargo, ahora podemos saber dónde se cargó la imagen y el modelo del que procede.

El método debería proporcionar herramientas para investigar mejor los incidentes de desinformación coordinada de utilizan “deepfake”. Para desarrollar este sistema. Usaron la técnica de ingeniería inversa que consiste en deconstruir la fabricación de un producto, video o foto.

El programa informático identifica imperfecciones añadidas durante la edición que altera la huella digital de las imágenes. En fotografía, por ejemplo, esta huella digital puede utilizarse para identificar metadatos, como el modelo de cámara utilizado; en informática puede utilizarse para detectar el sistema de generación utilizado para crear el truco.

Microsoft lanzó el año pasado un software que puede ayudar a detectar falsificaciones de fotos o videos. Uno de los varios programas diseñados para contribuir a la desinformación de cara a las próximas elecciones presidenciales en los Estados Unidos.

Tanto el software como el método se encuentran en desarrollo y en fase de prueba, por lo que no está cerca de implementarse de forma masiva para el usuario de a pie aún.

GR