El creador de los deepfakes virales de Tom Cruise habla

El creador de los deepfakes virales de Tom Cruise habla

[ad_1]

El creador de una serie de videos deepfake de Tom Cruise que obtuvieron más de 11 millones de visitas en TikTok dijo que nunca quiso engañar a la gente.

Pero desde que lo ha hecho, espera que la repentina afluencia de atención pueda ayudar a generar una mayor conciencia sobre la evolución continua de la tecnología que puede crear videos falsos increíblemente realistas de personas.

«Lo importante es que no queríamos engañar a la gente en ningún momento», dijo Chris Ume, de 31 años, el artista belga de efectos visuales detrás de los deepfakes virales, en una entrevista. «Si puedo ayudar a crear conciencia, o incluso trabajar en la detección en el futuro, me encantaría».

Ume creó los cuatro videos, en los que parecía mostrar a la estrella de Hollywood jugando al golf, haciendo un truco con una moneda mágica y cayéndose mientras contaba una historia sobre el exlíder soviético Mikhail Gorbachev. Tres de ellos se volvieron virales, atrayendo la atención en TikTok y en Internet.

Y aunque la mayoría de la gente se dio cuenta rápidamente de que los videos eran falsos, incluso los expertos quedaron impresionados por su calidad.

Chris Ume utilizó una combinación de efectos visuales y software de edición para hacer que Miles Fisher se viera casi idéntico a Tom Cruise.Chris Ume

“Lo primero que pensé fue que están increíblemente bien hechos”, dijo el experto forense de imágenes digitales Hany Farid, quien es profesor en la Universidad de California, Berkeley, y se especializa en análisis de imágenes y desinformación. «Son divertidos, son inteligentes».

Pero también ofrecen una advertencia: la tecnología Deepfake que ha surgido en los últimos años continúa evolucionando y mejorando. Y aunque los videos deepfake aún no se han utilizado de manera efectiva en muchas campañas de desinformación, el peligro es cada vez mayor.

«En los primeros días, se podía ver el potencial, pero ni siquiera estaba cerca de estar allí», dijo Farid. «Pero sentí que era un paso real, como si acabáramos de dar un gran paso adelante en el desarrollo de esta tecnología».

Cruise no respondió a una solicitud de comentarios. Mientras tanto, su imitador, Miles Fisher, respondió a un correo electrónico de NBC News pero dijo que no deseaba hacer más comentarios.

El contenido digital sintético, también conocido como deepfake, puede incluir cualquier cosa, desde una imagen o video en el que una persona u objeto es manipulado visual o audiblemente para decir y hacer algo que está fabricado. En el caso de la cuenta de TikTok @deeptomcruise, Ume usó una combinación de efectos visuales y software de edición para hacer que Fisher se viera casi idéntico al actor de «Misión Imposible».

Otros videos manipulados han ganado fuerza en los últimos años. Un video producido por BuzzFeed advirtiendo al público sobre la tecnología deepfake presentó la personificación realista del actor Jordan Peele del ex presidente Barack Obama en 2018 que obtuvo más de 8 millones de visitas en YouTube, y más recientemente han surgido otros videos que involucran al ex gobernador de California. Arnold Schwarzenegger y el director ejecutivo de Facebook, Mark Zuckerberg.

Mientras analizaba los videos de TikTok de @deeptomcruise, Farid dijo que le resultaba difícil detectar discrepancias comunes que se habían detectado anteriormente en otras deepfakes, como fallas en la cara, particularmente cuando se ha oscurecido parcialmente con una mano en movimiento.

Dijo que pudo identificar inconsistencias, particularmente alrededor de los ojos, aunque «eran muy leves».

«Este estaba muy pulido», agregó Farid. «Era largo y en alta resolución».

Aunque Ume usó una edición sofisticada de efectos visuales, los avances en la edición digital a través de aplicaciones de teléfonos inteligentes como Reface, Facetune e incluso Snapchat han hecho que técnicas como el intercambio de rostros y la alteración de imágenes sean más accesibles y podrían causar la posible militarización de los deepfakes, dicen los expertos.

Sin embargo, Matt Groh, asistente de investigación del grupo de Computación afectiva en el MIT Media Lab, dijo que «todavía hay muchas limitaciones sobre lo que esto puede hacer».

“Nuestra imaginación puede volar rápidamente y simplemente asumir que es realmente bueno en todos los frentes, y tal vez algún día pueda serlo”, dijo. «Cuando tienes un montón de videos diferentes, en lugar de un solo video, comienzas a ver dónde se encuentran algunas de estas imperfecciones».

Para disipar los temores de expertos como Farid, Ume dijo que le gustaría que se introdujeran regulaciones para permitir el uso responsable de la tecnología deepfake y que las redes sociales creen etiquetas para dicho contenido.

El software de detección no es lo suficientemente bueno en este momento, dijo.

«Eso es obvio porque estos tres videos no fueron detectados por los modelos», dijo.

Desde que sus videos se volvieron virales en TikTok, Ume ha publicado un desglose de los efectos visuales de cómo los creó, en un intento de ayudar a educar a las personas sobre cómo están hechos y cuán difíciles pueden ser de producir.

«No es algo que puedas hacer en casa», dijo Ume, quien es parte de un equipo de artistas de deepfake en Deep Voodoo, un estudio de efectos visuales ensamblado por Trey Parker y Matt Stone, los creadores del programa «South Park».

Los videos de TikTok fueron muy convincentes, dijo Ume, debido a su experiencia, así como a la capacidad de trabajar con alguien como Fisher que podía hacerse pasar tan bien por Cruise.

TikTok actualizó su política, luego de publicar una declaración en agosto de 2020, que prohíbe el contenido sintético o manipulado que «engaña a los usuarios al distorsionar la verdad de los eventos y causar daño al sujeto del video, a otras personas o a la sociedad».

Sin embargo, TikTok no tomó ninguna medida contra @deeptomcruise o los videos que publicó porque no iba en contra de las pautas de la comunidad. La plataforma de redes sociales se negó a comentar.

Si bien los videos deepfake de Cruise son entretenidos y «nunca se pretendió que fueran engañosos», dijo Farid, existen «preocupaciones legítimas» sobre cómo esto podría inspirar a otros a crear contenido fabricado similar.

«Piense en las implicaciones para la seguridad nacional», dijo Faird. “Piense en las implicaciones si creo un video de Jeff Bezos diciendo que las ganancias de las acciones de Amazon han bajado un 20 por ciento, ¿cuánto puedo mover los mercados? ¿Cuántos miles de millones de dólares antes de que alguien se dé cuenta de que es falso? «

[ad_2]

Source link

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *