Una imagen vale más que mil palabras y cuando se trata de desinformar, puede valer aún más. Los ciberdelincuentes llevan tiempo empleando este tipo de tecnología, conocida como deepfake, para manipular imágenes, vídeos y archivos con consecuencias mucho más graves que una noticia falsa. En el siguiente artículo se profundizará en esta nueva tecnología y como afecta a los usuarios.
(www.osi.es).-Hoy en día, en plena era de la información y las comunicaciones, somos testigos de un enorme avance en los métodos de desinformar y engañar a los usuarios. Comenzó como una broma, una forma de editar vídeos y poner nuestro rostro en famosos, pero la tecnología deepfake fue evolucionando hasta convertirse en una de las formas de fraude y desinformación más difíciles de reconocer a día de hoy.
¿Qué son los deepfakes?
La palabra deepfake es un término combinado de deep learning y fake, es decir:
- Deep learning o aprendizaje profundo hace referencia a una de las ramas de la inteligencia artificial.
- Fake o falso, hace referencia a la elaboración de falacias en la red, del mismo modo que las fake news.
Podríamos definir de manera sencilla los deepfakes como vídeos manipulados para hacer creer a los usuarios que los ven que una determinada persona, tanto si es anónima como si es personaje público, realiza declaraciones o acciones que nunca ocurrieron. Para la creación de dichos vídeos, se utilizan herramientas o programas dotados de tecnología de inteligencia artificial que permiten el intercambio de rostros en imágenes y la modificación de la voz.
Según lo anterior, podemos identificar dos tipos de deepfakes:
- Deepface: en este caso, se trata de superponer el rostro de una persona en la de otra y falsificar sus gestos. En algunos casos, el resultado es tan realista que resulta muy difícil identificar el engaño o fraude.
- Deepvoice: en este otro caso se trataría de unir frases y palabras sueltas utilizadas por una persona para crear un discurso. Incluso, es capaz de clonar la voz original a partir de estos fragmentos
¿Son una amenaza?
El mayor peligro reside en la facilidad para crear este tipo de fraudes, y es que con una aplicación cualquier persona puede crear un vídeo falso pero muy creíble. Si ya es difícil detener la viralización de noticias falsas por la red, imaginemos si se trata de un formato en vídeo con la rapidez que tienen para extenderse por todo Internet.
Por otro lado, al ritmo al que avanza esta tecnología, en poco tiempo será casi imposible identificar si se trata de una falsificación o no, llegando a crear verdaderos estragos en la credibilidad o reputación de una persona. Si las noticias falsas ya influyen en temas tan importantes como en la crisis sanitaria que estamos viviendo actualmente debido al coronavirus, imaginemos lo que podría conseguirse con las deepfakes.
¿Te imaginas a un personaje conocido con cierta reputación dando unas declaraciones en las que dijera que el COVID-19 es un virus de laboratorio cuyo principal objetivo es reducir el número de habitantes de la Tierra? Aunque parezca mentira, con esta tecnología sería posible manipular imágenes y voz de dicho personaje para poner en circulación un discurso de estas características y crear alama y confusión en la sociedad, además de manchar su imagen personal.
Otro ejemplo, recibes por WhatsApp un vídeo de tu vecina en el que aparece haciendo un baile erótico en una tarima, ¿estás seguro de que ella ha hecho ese baile? ¿O alguien ha creado un deepfake que utiliza su imagen para hacerle daño?
Como puedes ver, las deepfakes pueden resultar una amenaza para la sociedad al tener implicaciones sociales, morales y políticas.
Afortunadamente, grandes compañías como Facebook, Twitter y Google (mediante la herramienta Assembler) están tomando cartas en el asunto para poner freno a este tipo de contenidos multimedia falsos.
¿Cómo se pueden detectar las deepfakes?
Del mismo modo que cada vez hay más y mejores herramientas para crear deepfakes, también la industria está trabajando para desarrollar programas que sean capaces de detectar si una imagen ha sido manipulada, lo cual será de gran ayuda de cara a identificarlos rápidamente. No obstante, todavía hay mucho margen de mejora, ya que los programas de creación de deepfakes van un paso por delante. Por tanto, es necesario aplicar sentido común, paciencia y seguir estos criterios para poderlos identificar:
Busca aquello que no tenga sentido. Si un detective busca pistas que no encajen en la escena del crimen, podemos hacer lo mismo con estos montajes. Busca fondos o formas distorsionadas o sombras que no cuadren con el tipo de iluminación. Cualquier despiste o detalle que demuestre signos de manipulación.
Revisa detenidamente la imagen. Si el rostro, los gestos, el tono de piel o alguna postura no encaja con el resto del cuerpo es posible que nos encontremos ante un montaje. La mayoría de los deepfakes se centran en sustituciones faciales, por lo que los cambios en el resto del cuerpo no se aplican y pueden darnos pistas. Un detalle interesante reside en los tiempos de parpadeo. Un ser humano parpadea, de promedio, en intervalos de 2 a 8 segundos. En este tipo de falsificaciones los personajes suelen parpadear poco y en períodos relativamente largos.
Afina el oído. El audio del vídeo puede delatar a la falsificación. Si el sonido no coincide con la imagen, detectas algún tono fuera de lugar en la voz del protagonista o una falta de sincronización, posiblemente se tratará de una falsificación.
¿Tiene coherencia? En muchas ocasiones se utilizan los deepfakes para degradar la reputación de alguien, crear discordia entre dos bandos o para exagerar algunas declaraciones. Si el contenido del vídeo es muy alarmante, llamativo e incendia las redes en poco tiempo, mantente alerta y desconfía.
Atento a la duración del vídeo. Debido al trabajo de edición, estos vídeos suelen ser cortos. De este modo, podrán camuflarse mejor los posibles errores y lograr una simulación lo más detallista posible.
Al final, como cualquier intento de desinformar, las recomendaciones son siempre muy parecidas: revisar la fuente y contrastar la información. No nos cansaremos de repetirlo, pues es fundamental para luchar en esta era de la desinformación.
¡No te creas todo lo que lees y aplica una mentalidad crítica! Es trabajo de todos hacer de Internet un lugar mejor. Los deepfakes así como otros contenidos falsos circulan por la Red a gran velocidad a través de redes sociales, aplicaciones de mensajería o comunidades virtuales y por eso es muy importante aprender a distinguirlos, desarrollando la capacidad crítica en cada uno de nosotros. Hacernos preguntas como las siguientes pueden ayudarnos:
- ¿Quién y por qué comparte este video?
- ¿Quién o cuál es la fuente original?
- ¿La persona en el vídeo dice algo que nunca esperarías que dijera?
- ¿Quién se beneficia de la difusión de este vídeo?
¿Habías oído hablar de este tipo de tecnología? ¿Crees que serías capaz de identificar uno si lo tuvieses delante? Comparte con el resto de los usuarios tu opinión y experiencias y mantente al día con las publicaciones de la OSI en materia de ciberseguridad para poder disfrutar de las ventajas de la tecnología.
