El 'Desafío de detección profunda de falsificaciones' de Facebook devuelve datos preocupantes

¿Cómo afronta Facebook los deepfakes?

Tras las secuelas de dos casos de alto perfil en su plataforma: la difamación del presidente demócrata Nancy Pelosi y el señor Zuckerberg él mismo: Facebook pidió a los usuarios a fines de 2019 que ayudaran a reforzar sus esfuerzos de detección de falsos profundos a través de un 'desafío' público.

Los que participaron recibieron 100,000 clips cortos que contenían imágenes de 3000 actores contratados por Facebook. De este grupo, los participantes tenían la tarea de identificar qué muestras habían sido manipuladas por Facebook utilizando sus propios algoritmos de detección automática personalizados.

Casi un año después, finalmente tenemos el dE TRATAMIENTOS de estas pruebas registradas. 2000 participantes pusieron sus algoritmos a prueba (los solicitantes eran en su mayoría de la industria tecnológica o tenían antecedentes académicos), y la muestra más exitosa obtuvo una tasa de detección impresionante del 82%. Teniendo en cuenta la multitud de exploits digitales que se convierten en falsificaciones profundas en la actualidad; desenfoques, modificaciones de la velocidad de fotogramas, superposiciones, solo por nombrar algunos ... tendrías que decir que este es un retorno realmente prometedor.

El ganador del desafío, Selim Seferbekov, recibió $ 500,000 y luego se le asignó la tarea de comparar su algoritmo ganador con un conjunto de datos de 'caja negra' lleno de las formas más complejas de engaño falso profundo conocidas por los expertos en inteligencia artificial. Una vez finalizada la puntuación y combinada con los resultados anteriores, se obtuvo un promedio general de solo 65%.

¿Deberían estos resultados ser una preocupación para Facebook?

Este estudio destaca lo difícil que es detectar un deepfake en la naturaleza. Después de todo, la naturaleza adaptativa de la IA significa que tan pronto como se cierren los exploits existentes, pueden surgir nuevos rápidamente y volver al punto de partida. Es un frustrante e interminable juego del gato y el ratón.

Sin embargo, los investigadores de Facebook confían en que los datos recopilados a partir de esta prueba serán invaluables para reforzar su propio software preventivo que está actualmente en proceso. Facebook también planea lanzar el código fuente de los algoritmos más exitosos, incluido el de Seferbekov, para ayudar a otros investigadores a detectar videos falsos antes de que se vuelvan virales.

Por ahora, Facebook está jugando con inteligencia y mantiene en secreto su propio software de detección para evitar que surja cualquier forma de ingeniería inversa en 2020. Director de tecnología Mike Schroepfer afirma que, a partir de ahora, los deepfakes 'no son un gran problema' con Facebook, pero que él y su equipo están trabajando incansablemente para evitar ser 'sorprendidos' en el período previo a las elecciones estadounidenses de noviembre.

Tal como está, queda por ver si estamos realmente equipados para hacer frente a la próxima ola de falsificaciones profundas. Pero puedes garantizar una cosa, is viniendo.