presentan una nueva herramienta que detecta los vídeos falsos

Visitas : 151

Controlar los deepfakes ayudará a poner freno a gran parte de la desinformación y noticias falsas que circulan por la red. Microsoft ha presentado una nueva herramienta para analizar estos vídeos.

Pueden ser una gran fuente de creatividad, una herramienta para impulsar los efectos especiales del cine o una oportunidad para crear juegos y memes en las redes sociales. Sin embargo, los deepfakes rozan la línea entre la ética y la manipulación en innumerables ocasiones.

Con el comienzo de las elecciones generales en Estados Unidos vuelve a ponerse de manifiesto la relevancia que han adquirido las redes sociales y las noticias falsas en los comicios. Por eso, Microsoft se une a otras empresas en la lucha contra estos videos manipulados.

Microsoft Video Authenticator es su nueva herramienta para la detección de los deepfake. El algoritmo analiza los vídeos cuadro por cuadro para determinar el nivel de confianza que se le puede otorgar o si es un contenido modificado.

Su creación ha sido un trabajo de colaboración entre el equipo Microsoft’s Responsible AI y el comité Microsoft AI, Ethics, and Effects in Engineering and Research (AETHER). Su objetivo es detectar aquellas señales de manipulación digital que se escapan al ojo humano. Su entrenamiento se ha podido realizar gracias a un conjuntos de datos disponibles públicamente, como el de Face Forensic ++.

Por otro lado, Azure, la nube de Microsoft, también trabaja en una herramienta que permita dotar a los creadores de contenido de una infraestructura en la que puedan firmar su contenido. Con ese certificado de autenticidad será más fácil encontrar los vídeos falsificados.

De momento, Microsoft está colaborando con Reality Defender 2020, una fundación sin ánimo de lucro que quiere poner Microsoft Video Authenticator a disposición de las organizaciones electorales para frenar la manipulación de las elecciones. Además, trabajan con varios medios de comunicación como BBC o el New York Times.

Aunque estas herramientas de detección cuenten con un alto nivel de acierto a la hora de detectar vídeos manipulados, Microsoft reconoce que su herramienta no es infalible. Es imprescindible seguir desarrollando, mejorando estos sistemas, al mismo tiempo que mejoran y crecen los mecanismos de falsificación y los vídeos son cada vez más difíciles de analizar y diferenciar del original.