Con la llegada de la creación de vídeos mediante inteligencia artificial conocidos como deepfakes (nada que ver con los vídeos generados usando prompts en herramientas como Midjourney y más), se teme que se usen para generar desinformación. Youtubers como Álvaro Wasabi ha hecho vídeos en los que ponen su cara en películas mediante estos deepfakes, e incluso un fan de Star Wars ha mejorado ciertas escenas de The Mandalorian. Pero se teme su uso en gente de más poder e influencia, y que llegue a un punto en el que no sea fácil detectarlos, y por ello Intel ha lanzado la tecnología Fake Catcher.
Como parte del trabajo de Intel sobre Inteligencia Artificial, responsable, han producido FakeCatcher. Se trata de una tecnología que puede detectar vídeos falsos en tiempo real con una tasa de precisión del 96%.
Ante los peligros de los deepfakes, toca tratar de detectarlos
FakeCatcher de Intel emplea un detector diseñado por Demir en colaboración con Umur Ciftci, de la Universidad Estatal de Nueva York en Binghamton. Se ejecuta en un servidor y se interconecta a través de una plataforma basada en web. En cuanto al software, un conjunto de herramientas especializadas forman una arquitectura optimizada. Los equipos utilizaron OpenVino para ejecutar modelos de Inteligencia Artificial para algoritmos de detección de caras y puntos de referencia.
Los bloques de visión informática se optimizaron con Intel Integrated Performance Primitives y OpenCV, mientras que los bloques de inferencia se optimizaron con Intel Deep Learning Boost e Intel Advanced Vector Extensions 512. Luego, los bloques multimedia se optimizaron con Intel Advanced Vector Extensions 2. Los equipos también se apoyaron en el proyecto Open Visual Cloud para proporcionar una pila de software integrada para la familia de procesadores Intel Xeon Scalable.
En cuanto al hardware, la plataforma de detección en tiempo real puede ejecutar hasta 72 flujos de detección diferentes simultáneamente en procesadores Intel Xeon Scalable de 3ª generación. La mayoría de los detectores basados en el aprendizaje profundo examinan los datos en bruto para tratar de encontrar indicios de falta de autenticidad e identificar lo que está mal en un vídeo. Pero Intel FakeCatcher busca indicios de autenticidad en vídeos reales, evaluando lo que nos hace humanos. Esto sería el sutil «flujo sanguíneo» en los píxeles de un vídeo porque cuando nuestro corazón bombea sangre, nuestras venas cambian de color. Estas señales de flujo sanguíneo se recogen de todo el rostro y los algoritmos las traducen en mapas espaciotemporales, y utilizando el aprendizaje profundo, se podría detectar instantáneamente si un vídeo es real o falso.
Los vídeos deepfake se presentan como una amenaza creciente en las manos equivocadas. Se espera que las empresas gasten hasta 188.000 millones de dólares en soluciones de ciberseguridad. También es difícil detectar estos vídeos falsos en tiempo real, pues las aplicaciones de detección requieren subir vídeos para su análisis y luego esperar varias horas a los resultados. Ese tiempo puede ser vital antes de que se difunda un vídeo con información dañina antes de ser difundido de forma masiva y poder catalogarlo como una manipulación.
FakeCatcher se postula para ser usado en de redes sociales que podrían aprovecharlo para impedir que los usuarios suban vídeos deepfake perjudiciales. Organizaciones internacionales de noticias podrían utilizar el detector para evitar la difusión involuntaria de vídeos manipulados que reciban.
