S22-14

S22-14 ONLINE

La desinformación mediante aplicaciones que generan deepfakes

Una forma de generar noticias falsas es mediante la manipulación de vídeos. Para ello, es necesario disponer de aplicaciones que permitan dicha manipulación y además el resultado final obtenido tiene que ser creíble para la persona que lo visualizaSin embargo, la desinformación mediante la generación de noticias falsas manipulando videos tiene diferentes vertientes. Dos de ellos son la publicación de vídeos de otros lugares junto a una noticia o la manipulación de vídeos mediante inteligencia artificial. 

La creación de vídeos manipulados es frecuente en algunos programas de humor en televisión y son comunmente aceptados. No obstante,  la generación de noticias falsas mediante vídeos, las “deepfakes” generan una controversia muy diferente. Esto sucede especialmente cuando son publicadas en las redes sociales. Esta polémica no sólo es en tanto en cuanto se cambia las perspectivas de una realidad sino también porque atentan a diferentes derechos de las personas como el robo de identidad, a la propiedad intelectual en algunos casos, así como diversos conceptos éticos. 

Es posible encontrar diferentes tipos de aplicaciones que  permiten generar vídeos falsos tanto para dispositivos móviles como para ordenadores de escritorio. Para generar vídeos manipulados se precisa de como mínimo dos fuentes de información audiovisual que dará como resultado un vídeo final manipulado. Así pues, se pone de manifiesto las diferentes aplicaciones que permiten manipular vídeos de diferentes formas, que están al alcance de cualquiera y no sólo por personas especializadas. 

En este trabajo se analizan diferentes aplicaciones y programas que se pueden encontrar en internet para tanto para dispositivos móviles como de escritorio que indican en su información de uso que generan deepfakes.  

Como resultado, se obtiene un análisis de las aplicaciones obtenidas y se realiza una reflexión sobre las cuestiones éticas al respecto. 

Son diversas las consideraciones que se pueden obtener de este tipo de prácticas. Por ejemplo, en el ámbito político al respecto de la manipulación de elecciones. Algunas de las cuestiones a considerar son si estas prácticas deben permitirse, en qué contexto y, si realmente se puede controlar su difusión. 

Palabras clave: ética de la prensa, ética de la comunicación, fake newsdeepfakes redes sociales transmisión de noticias 

Acceso al vídeo de la defensa: https://screencast-o-matic.com/watch/cYevDU42Op

Firmantes

Nombre Adscripcion Procedencia
Juan-José Boté Vericad Universitat de Barcelona España

Comentarios

  1. jordi_serrat2020-04-02 16:54:05

    Brillante, Juan José. Algunas voces dicen que muy pronto las imágenes en general van a dejar de tener la credibilidad social que han gozado a lo largo del siglo XX. Es decir, que las imágenes ya no servirán como prueba en un juicio, ni servirán para la investigación privada, ni para la policía... Pronto será (o ya es) tan habitual manipular imágenes y videos que la realidad certera solo será la realidad percibida de forma presencial. Todo ello dañará la credibilidad de los medios audiovisuales. ¿Estás de acuerdo con reflexiones así? ¿O estos comentarios son muy exagerados?

    • Juan-José Boté2020-04-02 16:58:55

      Hola Jordi, No lo veo exagerado. El problema estará en que habrá juicios donde ya habrá imágenes manipuladas, pero hasta que la judicatura se de cuenta, me temo que pasará un tiempo. Por otro lado, habría que garantizar que las imágenes y videos aportados como pruebas, han sido auditadas por especialistas neutrales a los dos partes, acusado y acusador. Aún así, por mucho que se audite una foto o un video creo personalmente que siempre habrá tecnología que superará y conseguirá engañar a auditor. Sin ir más lejos, ¿ cuántas veces se ha vendido un cuadro falso por uno original? Gracias por pasarte. Saludos cordiales

  2. magdamut2020-04-02 15:14:59

    Hola Juan José: muy interesante, como ya te comenta Alex, yo tampoco sabía que hubiesen tantas aplicaciones y tan accesibles. Sí que sé de su peligrosidad, también que han habido casos en los que se han utilizado para colgar vídeos falsos pornográficos de algunas actrices y cantantes conocidas. Mi pregunta es: ¿sabes si se ha utilizado en algún caso produciendo perjuicio para alguna organización o empresa? Muchas gracias y enhorabuena. Un saludo a todos.

    • Juan-José Boté2020-04-02 15:48:58

      Hola Magda, con videos en la forma de modificar persona + voz, que yo tenga constancia ahora mismo no. No quiere decir que no existan, pero sigo muy de cerca este tema en la prensa y no tengo identificados casos sucedidos en organizaciones. Saludos

  3. alopezbo2020-04-01 17:41:23

    Muchas gracias, Juanjo, por tu presentación, muy interesante, no era consciente que hubiera tantas aplicaciones. La compartimentación entre estados del entorno Internet, crees que puede generar la aparición de paraisos digitales en relación a las deep fakes? Creo que es un ámbito que puede generar mucha actividad económica. Como decía Charles Oppenheim, "each new medium’s commercial success is dependent upon its use in pornography" (Oppenheim, 2001)

    • Juan-José Boté2020-04-01 18:56:43

      Hola Alex, Hola, es posible. Habría que ver como evoluciona y que se permite. Había una app que se llamaba Deepnude. Tuvo tanta mala prensa que un mes la tuvieron que cerrar. Ciertamente, habrá que ver el impacto ecónomico que puede generar en los próximos años. Saludos

  4. ubaldo cuesta2020-03-31 20:57:28

    Gracias por la rápida y clara respuesta Juan-José. Un saludo cordial.

  5. ubaldo cuesta2020-03-31 19:55:23

    Hola Juan José. Me ha parecido una revisión muy completa de las herramientas con un análisis de cada una de ellas muy útil. También me ha parecido de gran interés el trabajo práctico que han realizado tus alumnos chinos. ¿Valorando pros y contras (incluyendo la facilidad y rapidez de uso), cuál crees que es, en tu opinión, la mejor herramienta gratuita de manipulación de vídeos que pueda utilizarse en Europa? Un saludo cordial y enhorabuena por tu trabajo.

    • Juan-José Boté2020-03-31 20:47:30

      Hola Ubaldo, Si, yo tuvtuviera que decidir me inclinaría en estos momentos por DeepFake Video Maker y FaceFake App. La primera tiene todavía pocas descargas, pero es facilidad de uso y tecnología aplicada quizás sería mi predilecta. La segunda también emplea IA permite generar videos manipulados. Saludos Cordiales

Deja tu comentario

Lo siento, debes estar conectado para publicar un comentario.

ORGANIZA

COLABORA