Menú Menú

Facebook lanza un desafío falso profundo

Al asociarse con Microsoft y varias universidades, el 'desafío de detección' tiene como objetivo mejorar la capacidad de la IA para detectar contenido falso profundo.

Probablemente haya visto "noticias falsas" en Internet durante los últimos años. Acuñado por Trump durante su campaña electoral de 2016, el término se ha convertido en un lugar común cuando se habla de contenido en línea y se rechazan las críticas.

Si bien el uso de Trump de la frase siempre ha sido partidista (por decirlo suavemente), se puede usar de manera más democrática para referirse a una conciencia general del sesgo de los medios. Los expertos advierten continuamente que debemos estar atentos cuando se trata de noticias y propaganda en línea, especialmente dadas las preocupaciones sobre los bots rusos y empresas como Cambridge Analytica que hacen un mal uso de los datos personales.

Eso no se limita a noticias y titulares. El fenómeno de la falsificación profunda ha crecido considerablemente en los últimos años a medida que la tecnología necesaria para llevarlo a cabo se vuelve más barata y más disponible. Hemos escrito sobre su crecimiento antes. - y ahora Facebook está pidiendo al público que ayude a comprenderlo mejor.

La iniciativa se llama 'The Deep Fake Detection Challenge' y es el esfuerzo combinado de Facebook, Microsoft, la coalición Partnership on AI y siete universidades. Básicamente, hay una gran cantidad de poder cerebral detrás de esto.

Los participantes en el desafío serán evaluados y se les dará acceso a una base de datos de falsificaciones profundas, todas las cuales contarán con actores profesionales que consienten y necesitarán crear un software que pueda distinguirlos con precisión de los videos normales.

Facebook lanzó una publicación de blog la semana pasada que anunció que dedicaría $ 10 millones al proyecto, con subvenciones y premios otorgados a los programas más efectivos. Si eres un codificador en ciernes que busca lanzarse al ring, tendrás que esperar un poco; según el sitio web oficial de preguntas frecuentes, el desafío no comenzará hasta finales de este año.

Este 'desafío' genera algunas preocupaciones, particularmente dado que Facebook fue empujado a adoptar una postura más firme contra el contenido falso profundo a principios de este año. Bill Posters creó un video convincente de Mark Zuckerberg declarando siniestramente su control de 'miles de millones de datos de personas' que se volvieron virales. Si bien la afirmación de Facebook de querer abordar el problema de las falsificaciones profundas es admirable (actualmente no hay forma de detectar métodos deepfake en los videos), probablemente deberíamos tener cuidado de no darle a Facebook incluso más,  poder sobre esta tecnología aún no probada.

Además, alentar al público en general a conocer cómo hacer, distribuir y detectar falsificaciones profundas podría abrir una lata de gusanos y acelerar la proliferación del problema en lugar de ralentizarlo. Si más contenido de video deepfake ingresa al discurso político en la web, entonces la capacidad de distinguir los hechos de la ficción y de narrar la historia en su conjunto se verá profundamente amenazada.

Tendremos que esperar y ver qué surge de este desafío, pero uno positivo es que Facebook al menos no está utilizando los datos de sus usuarios. El uso de actores que dan su consentimiento para los videos es un paso en la dirección correcta para la empresa y, con suerte, veremos más respeto por nuestros datos en el futuro. Mis vergonzosas fotos de 2012 deberían quedarse conmigo y solo yo.

Accesibilidad