El “Deep Fake”, “La Falsificación Profunda”. Moises Naim: Todo Comenzó con la Pornografía.

 

A,

Deborah Buzaglu por haber compartido el articulo.

Grupo: Invitame a Pensar.

“Los humanos, que somos seres limitados por nuestra lenta evolución biológica, no podremos competir con las máquinas y seremos superados por ellas”.

Stephen Hawking

Estas palabras “apocalipticas” expresadas por el famoso fisico britanico en el 2014 refiriendose a la Inteligencia Artificial, fueron tomadas por algunos expertos como “basadas en conceptos obsoletos de ciencia ficción”.

 
Related image
 
Cuatro años mas tarde nos preguntamos hasta que punto lo fueron, al evidenciar muchas de las situaciones que estan ocurriendo (como es el caso que planteamos hoy), y hasta cuando  continuaremos desarrollando y “jugando” con lo que Hawking advirtió que “podría significar el fin de la raza humana”.

No se trata de ser pesimistas ni “profetas del desastre”, pero sentimos que siendo una pagina de Valores, nos corresponde compartir la informacion, pues ya hemos llegado un punto en el cual el mal uso de la tecnologia puede convertirnos en “victimas” a cualquiera de nosotros, y/o podria llevarnos a todos a situaciones indeseables, incómodas e incluso graves a nivel mundial.

Image result for informacion es poder

En nuestros “Martes Especiales”, transcribimos el articulo escrito recientemente por el reconocido economista y analista venezolano Moises Naim acerca del “deep fake”, o “falsa profundización”.
El video y las imagenes fueron colocados por el equipo de nuestra pagina.

LA OPINIÓN DE @MoisesNaim

Moisés Naím

A finales del año pasado comenzaron a circular por Internet videos pornográficos cuyas principales protagonistas eran algunas de las actrices y cantantes más famosas de estos tiempos. Naturalmente, los videos se hicieron virales y fueron vistos por millones de personas en todo el mundo. 

 

Image result for DEEP FAKE IMAGES

 

 A los pocos días se supo que Scarlett Johansson, Taylor Swift, Katy Perry y otras artistas de renombre no eran las verdaderas protagonistas de estos videos sino las víctimas de una nueva tecnología que, utilizando inteligencia artificial y otros avanzados instrumentos digitales, permite insertar la imagen facial de cualquier persona en un video.

 

Ese fue solo el comienzo. Muy pronto Ángela Merkel, Donald Trump y Mauricio Macri también fueron víctimas de lo que se conoce como deepfake o falsificación profunda. 

Barack Obama fue utilizado, sin su consentimiento, para ejemplificar los posibles usos nefastos de esta tecnología. 

Vemos a Obama diciendo en un discurso lo que el falsificador quería que él dijera y que el ex presidente jamás había dicho. Pero el resultado es un video muy real.    

Image result for imagen de deepfake obama

 

La manipulación de imágenes no es nada nuevo. Los gobiernos autoritarios tienen una larga historia “desapareciendo” de las fotos oficiales a líderes caídos en desgracia.  Y ya desde 1990 PhotoShop permite al usuario alterar fotografías digitales. 

Pero deepfake es diferente. Y mucho más peligroso.  Diferente porque desde que circularon los videos falsos de las actrices hasta hoy esa tecnología ha mejorado muchísimo.

 

La imagen corporal y la expresión de la cara son hiperrealistas y la imitación de la voz y la gestualidad de la persona son tan exactas que resulta imposible descubrir que es una falsificación, a menos que se cuente con sofisticados programas de verificación digital.  Y el peligro de deepfake es que esta tecnología está al alcance de cualquier persona.  

 

Un ex novio despechado y sociópata  puede producir y diseminar anónimamente por las redes sociales un video que imita perfectamente la voz, los gestos y la cara de la mujer que lo dejó y en el cual ella aparece haciendo o diciendo las más vergonzosas barbaridades. 

 

Las imágenes de policías propinándole una brutal paliza a una anciana que participa en una protesta contra el gobierno pueden provocar violentos enfrentamientos entre la muchedumbre que protesta y los agentes policiales. 

El respetado líder de un grupo racial o religioso puede instigar a sus seguidores a atacar a miembros de otra raza o religión. 

Algunos estudiantes pueden producir un comprometedor video de un profesor a quien repudian.  Extorsionadores digitales pueden amenazar a una empresa con divulgar un video que dañará su reputación si la empresa no paga lo que le piden.

 

Image result for imagenes hechas con deep fake

Los posibles usos de deepfake en la política, la economía o las relaciones internacionales son tanto variados como siniestros. 

La divulgación de un video mostrando a un candidato a la presidencia de un país diciendo o haciendo cosas reprobables poco antes de los comicios  se volverá una treta electoral más comúnmente usada.

Aunque el rival de este candidato en la pugna electoral no haya aprobado el uso de esta indecente táctica, sus seguidores más radicales pueden producir el video y distribuirlo sin pedirle permiso a nadie. 

El potencial de los videos falsificados para enturbiar las relaciones entre países y exacerbar los conflictos internacionales también es enorme.

Y esto no es hipotético; ya ha ocurrido.  El año pasado el emir de Qatar, Tamim bin Hamad al-Thani, apareció en un video elogiando y apoyando a Hamas, Hezbollah, a los Hermanos Musulmanes y a Irán.

Esto provocó una furibunda reacción de Arabia Saudita, los Emiratos Árabes Unidos (EAU), Bahréin y Egipto, que ya venían teniendo fricciones con Qatar.

Denunciaron el discurso del emir como un apoyo al terrorismo y rompieron relaciones diplomáticas, cerraron las fronteras y le impusieron un bloqueo de aire, mar y tierra. La realidad, sin embargo, es que el emir de Qatar nunca dio ese discurso; el video que escaló el conflicto era falso. Lo que es muy real es el boicot que sigue vigente. 

Image result for image de deep fake

 

La amenaza que constituye deepfake para la armonía social, la democracia y la seguridad internacional es obvia.  Los antídotos contra esta amenaza lo son mucho menos aunque hay algunas propuestas. Todas las organizaciones que producen o distribuyen fotografías o videos deben obligarse a usar bloqueos tecnológicos que hagan que su material visual sea inalterable.

Las personas también deben tener acceso a tecnologías que los protejan de ser víctimas de deepfakes.

Las leyes deben adaptarse para que quienes difamen o causen daños a otros a través del uso de estas tecnologías tengan que responder ante la justicia. 

Hay que hacer más difícil el uso del anonimato en la red. Todo esto es necesario pero insuficiente. Habrá que hacer mucho más.

Hemos entrado en una era en que la diferencia entre verdad y mentira, entre hechos y falsedades se ha ido erosionando. Y con ello la confianza en las instituciones y en la democracia.  Deepfake no es sino otra arma en el arsenal que tienen a su disposición los mercaderes de la mentira. Hay que enfrentarlos. 

@moisesnaim

El creador anónimo de la aplicacion FakeApp, dijo que la hizo “como un experimento creativo y le molestó cuando vio que la comunidad de Reddit la utilizó para hacer daño”.

“Me uní a la comunidad creada alrededor de esos algoritmos cuando era muy pequeña (menos de 500 personas)”, escribió, “y, en cuanto vi los resultados, supe que era una tecnología brillante que debía ser accesible para cualquiera que quisiera jugar con ella. Decidí que intentaría reunir un paquete fácil de usar para lograrlo”.

Dijo que no apoyaba el uso de FakeApp para crear pornografía no consensual ni otros contenidos abusivos.

Sin embargo, defendió el producto: “He pensado mucho al respecto y al final decidí que no creo que esté bien condenar la tecnología en sí, puesto que, desde luego, puede usarse para muchos propósitos, negativos y positivos”.

 

Image result for cuidado FAKE app IMAGE

 

El verano pasado unos investigadores de la Universidad de Washington publicaron en Youtube un vídeo en el que el expresidente Barack Obama aparecía hablando a la cámara en primer plano. Todo parecía normal, pero en realidad se trataba de un ´deep fake´.

Cabe resaltar que el software, FakeApp se descargó más de 200,000 veces desde su lanzamiento.

Los deepfakes son solo el primer paso…

Ya existe otro software, el “Deep Video Portraits”, que es una técnica parecida pero mejorada al FakeApp, con la cual es posible reproducir los movimientos, las expresiones faciales y los movimientos del habla de otra persona.

deepfake-deep-video-portraits-pic

El problema esta en que no se puede controlar Internet y cualquiera puede publicar algo anonimamente en cualquier momento.

La pregunta seria entonces…

Como reconocer si un video es verdadero o falso?

Image result for imagenes hechas con deep fake

 Hasta el momento, nadie tiene la respuesta. 

Como escribe Kevin Rose en su articulo del NYTimes: “Olvídate de las noticias falsas, los videomontajes ya están aquí”:

“Probablemente no haya nada que podamos hacer más que intentar combatir los engaños cuando salgan a la luz, ejercer presión sobre las empresas de redes sociales para que luchen agresivamente contra la desinformación y confiar en nuestros ojos un poco menos cada día”.

Desde nuestra pagina de Valores consideramos un Anti-Valor total estas aplicaciones no solo ilegales, sino que atentan contra la veracidad de las noticias, afectan la privacidad de las personas que aparecen en videos “realizados” sin su consentimiento, y tal como lo expresa Moises Naim, constituyen un peligro del cual debemos estar muy alertas, pues desconocemos las consecuencias que ello puede acarrear.

Levantar nuestras voces y hacernos eco de la informacion es una manera de contribuir a la dificil pero no imposible resolucion de estas situaciones que solo hacen que nos volvamos mas desconfiados, confundidos y cerrados, a falta de transparencia y neutralidad. 

Feliz dia!

FUENTES:

 

CREATIVE/GETTY IMAGES

Appbb

caretas

elnacional.com

https://nexter.org/es

bgr.com

creadsa

centrogabo.org

nytimes.com

farodevigo.es

verifikado

Noticiero Televisa

Deja tu comentario

Loading Facebook Comments ...

Dejar un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *