Los deepfakes son vídeos, audios o imágenes falsos que se crean mediante la inteligencia artificial, y que pueden hacer que cualquier persona diga o haga cosas que nunca ocurrieron en la realidad. Los deepfakes pueden ser divertidos, creativos o educativos, pero también pueden ser peligrosos, ya que pueden difundir desinformación, manipular la opinión pública, dañar la reputación de personas o instituciones, o incluso provocar conflictos o crisis.

En este artículo, te explicaré qué son los deepfakes, cómo se crean, cómo se pueden detectar, y qué consecuencias tienen para la sociedad y la democracia. También te daré algunos consejos para protegerte de los deepfakes y para verificar la información que consumes en internet.

Qué son los deepfakes y cómo se crean

El término deepfake proviene de la combinación de las palabras en inglés deep learning (aprendizaje profundo) y fake (falso), y se refiere a las falsificaciones generadas con técnicas de aprendizaje automático, un subcampo de la inteligencia artificial. El aprendizaje automático consiste en que las máquinas aprenden de los datos, sin necesidad de ser programadas explícitamente.

Una de las técnicas más utilizadas para crear deepfakes son las redes generativas antagónicas (GAN, por sus siglas en inglés), que consisten en dos redes neuronales artificiales que compiten entre sí. Una red, llamada generadora, tiene la tarea de crear datos falsos, como vídeos, audios o imágenes, que imiten las propiedades de los datos reales. La otra red, llamada discriminadora, tiene la tarea de distinguir entre los datos reales y los falsos, y de dar retroalimentación a la generadora para que mejore su capacidad de engaño.

Para crear un deepfake, se necesita un gran conjunto de datos de la persona o el objeto que se quiere falsificar, como fotos, vídeos o grabaciones de voz. Estos datos se utilizan para entrenar a la red generadora, que aprende a imitar las características y el estilo de la fuente. Luego, se introduce un dato de otra persona o de otro objeto, como una foto, un vídeo o una grabación de voz, que se quiere modificar. La red generadora aplica entonces las características aprendidas de la fuente al dato de entrada, y produce un dato de salida que es una combinación de ambos. Por ejemplo, se puede crear un vídeo de una persona famosa diciendo las palabras de otra persona, o una imagen de un animal con la cara de otro animal.

Los deepfakes se pueden crear con software gratuito y accesible, como FaceSwap, DeepFaceLab o Reface, que permiten intercambiar caras en vídeos o imágenes. También se pueden crear con aplicaciones móviles, como Zao, Impressions o Doublicat, que permiten insertar el rostro del usuario en escenas de películas o series. O se pueden crear con plataformas web, como MyHeritage, Wombo o Deep Nostalgia, que permiten animar fotos antiguas o cantar canciones con la boca sincronizada.

Cómo se pueden detectar los deepfakes

Los deepfakes se están volviendo cada vez más realistas y difíciles de distinguir de los contenidos auténticos, lo que supone un reto para la verificación de la información. Sin embargo, existen algunas pistas o indicios que pueden ayudar a detectar los deepfakes, como:

• Inconsistencias en el audio y el vídeo: Los deepfakes pueden presentar desajustes entre el audio y el vídeo, como una mala sincronización entre el movimiento de los labios y las palabras, o una diferencia de calidad o de tono entre el sonido original y el modificado.
• Anomalías en el rostro o el cuerpo: Los deepfakes pueden presentar anomalías en el rostro o el cuerpo de la persona falsificada, como una mala iluminación, una mala resolución, una mala perspectiva, una mala proporción, una mala expresión, una mala postura, o una falta de parpadeo o de respiración.
• Errores en el fondo o el contexto: Los deepfakes pueden presentar errores en el fondo o el contexto de la escena falsificada, como una mala edición, una mala transición, una mala continuidad, una mala coherencia, o una falta de correspondencia con la realidad o con la fuente original.
• Fuentes o motivos sospechosos: Los deepfakes pueden provenir de fuentes o motivos sospechosos, como cuentas anónimas, falsas o recientes, plataformas poco fiables o desconocidas, o campañas de desinformación, manipulación o difamación.

Para detectar los deepfakes, se pueden utilizar también herramientas basadas en la inteligencia artificial, que analizan los contenidos y los comparan con los originales o con bases de datos, y que asignan un nivel de confianza o de probabilidad de que sean falsos. Algunos ejemplos de estas herramientas son Sensity, Deepware, Reality Defender o Microsoft Video Authenticator.

Qué consecuencias tienen los deepfakes para la sociedad y la democracia

Los deepfakes pueden tener consecuencias negativas para la sociedad y la democracia, ya que pueden afectar a la confianza, la credibilidad y la verdad de la información, y a los derechos, la reputación y la seguridad de las personas. Algunos ejemplos de estas consecuencias son:

• Desinformación y polarización: Los deepfakes pueden ser utilizados para difundir desinformación y noticias falsas, con el fin de influir en la opinión pública, manipular las elecciones, desacreditar a los oponentes, generar conflictos o crisis, o promover ideologías o intereses. Los deepfakes pueden aumentar la polarización y la desconfianza en las instituciones, los medios de comunicación y la democracia.
• Extorsión y chantaje: Los deepfakes pueden ser utilizados para extorsionar y chantajear a las personas, con el fin de obtener dinero, información, favores o concesiones. Los deepfakes pueden amenazar la seguridad y la privacidad de las personas, al exponerlas a situaciones comprometedoras, ilegales o inmorales, que pueden dañar su reputación, su carrera o su vida personal.
• Abuso y violencia: Los deepfakes pueden ser utilizados para abusar y violentar a las personas, con el fin de humillarlas, acosarlas, intimidarlas o agredirlas. Los deepfakes pueden vulnerar los derechos y la dignidad de las personas, al crear imágenes o vídeos de contenido sexual, violento o discriminatorio, que pueden afectar su salud mental, física o emocional.

Qué consejos puedes seguir para protegerte de los deepfakes y para verificar la información que consumes en internet

Para protegerte de los deepfakes y para verificar la información que consumes en internet, puedes seguir estos consejos:

• Sé crítico y escéptico: No te creas todo lo que ves o escuchas en internet, y cuestiona la veracidad, la procedencia y la intención de los contenidos. Busca fuentes confiables, contrasta la información con otras fuentes, y verifica los datos con herramientas o expertos.
• Sé responsable y ético: No compartas ni difundas contenidos falsos, engañosos o dañinos, y denuncia o reporta los que encuentres. Respeta los derechos, la privacidad y la reputación de las personas, y no crees ni uses deepfakes con fines ilícitos, maliciosos o

6de30

Hola, soy Copilot, un asistente de inteligencia artificial. Me has pedido que escriba un artículo sobre Deepfakes y Desinformación, con un título clickbait, una estructura clara y consejos para el usuario. A continuación, te presento mi artículo, que he escrito usando mis propias palabras y conocimientos, y basándome en los resultados de mi herramienta de búsqueda web. Espero que te guste y te sea útil. 😊

¿Podrías reconocer a un impostor digital? Los deepfakes y la desinformación amenazan tu seguridad y tu credibilidad

Los deepfakes son vídeos, audios o imágenes falsos que se crean mediante el uso de inteligencia artificial (IA) y que imitan la apariencia o la voz de una persona real. Los deepfakes pueden ser tan realistas que resultan difíciles de distinguir de los originales, y pueden representar a cualquier persona diciendo o haciendo cosas que nunca ocurrieron en la realidad.

Los deepfakes se han popularizado en los últimos años gracias a la mejora de las técnicas de IA, la disponibilidad de software gratuito y la facilidad de acceso a datos públicos. Algunos deepfakes se han usado con fines humorísticos, artísticos o educativos, pero otros se han usado con fines maliciosos, como difundir desinformación, manipular elecciones, dañar reputaciones, extorsionar, acosar o engañar.

Los deepfakes suponen un grave riesgo para la seguridad y la credibilidad de las personas, las organizaciones y la sociedad en general, ya que pueden erosionar la confianza en la información, la evidencia y la verdad. Los deepfakes pueden generar confusión, polarización, violencia, discriminación y desestabilización, y pueden afectar a la democracia, los derechos humanos, la justicia y el estado de derecho.

En este artículo, te explicaré cómo se crean los deepfakes, cómo se pueden detectar, cómo se pueden prevenir y cómo se pueden combatir.

Cómo se crean los deepfakes

Los deepfakes se crean mediante el uso de técnicas de aprendizaje automático (ML), un subcampo de la IA, que permiten entrenar a un sistema informático para que aprenda de los datos y realice tareas específicas. Una de las técnicas más usadas para crear deepfakes es la de las redes generativas antagónicas (GAN), que consiste en enfrentar a dos redes neuronales artificiales, una que genera los datos falsos y otra que los evalúa.

Para crear un deepfake, se necesita un conjunto de datos de entrenamiento, que son los vídeos, audios o imágenes originales de la persona que se quiere imitar. Estos datos se pueden obtener de fuentes públicas, como redes sociales, medios de comunicación o plataformas de streaming, o de fuentes privadas, como cámaras, micrófonos o dispositivos personales. Cuantos más datos se tengan, más realista será el resultado.

El proceso de creación de un deepfake se puede resumir en los siguientes pasos:

• Se seleccionan los datos de entrenamiento y se extraen los rasgos faciales o de voz de la persona objetivo.
• Se alimenta a la red generadora con los datos de entrenamiento y se le pide que cree un nuevo vídeo, audio o imagen que imite a la persona objetivo.
• Se alimenta a la red evaluadora con el dato falso y con un dato real, y se le pide que determine cuál es cuál.
• Se compara el resultado de la red evaluadora con el resultado esperado, y se calcula el error o la diferencia.
• Se retroalimenta a las redes con el error, y se ajustan sus parámetros para mejorar su rendimiento.
• Se repite el proceso hasta que el error sea mínimo y el dato falso sea indistinguible del real.

Cómo se pueden detectar los deepfakes

Los deepfakes se pueden detectar mediante el uso de técnicas de análisis forense, que consisten en examinar los datos falsos en busca de pistas o anomalías que revelen su naturaleza fraudulenta. Algunas de estas técnicas son:

• Análisis de los metadatos: Los metadatos son los datos que acompañan a los vídeos, audios o imágenes, y que contienen información sobre su origen, formato, fecha, hora, ubicación, etc. Los metadatos pueden ser alterados o borrados por los creadores de deepfakes, lo que puede generar inconsistencias o contradicciones con los datos reales.
• Análisis de la calidad: La calidad de los deepfakes puede ser inferior a la de los datos reales, lo que puede generar defectos o artefactos visibles o audibles, como bordes borrosos, colores distorsionados, sonidos distorsionados, etc. La calidad de los deepfakes también puede variar según la parte del dato falso, lo que puede generar contrastes o discontinuidades entre las zonas manipuladas y las no manipuladas.
• Análisis del comportamiento: El comportamiento de los deepfakes puede ser diferente al de los datos reales, lo que puede generar incongruencias o incoherencias con el contexto, el contenido o el personaje. El comportamiento de los deepfakes puede incluir aspectos como el movimiento, la expresión, el gesto, el lenguaje, el tono, la emoción, etc.