Forbes Argentina
forbes-us
Today

Los deepfake pueden provocar estragos. Y el mundo no está preparado

Forbes US

Share

29 Mayo de 2020 09.00

El mes pasado, en plena fiebre por el documental de ESPN El último baile, State Farm estrenó una publicidad de TV que se transformó en una de las más debatidas de los últimos tiempos.

El comercial parecía mostrar imágenes de 1998, en las que un analista de ESPN hacía predicciones asombrosamente acertadas sobre el 2020. Era falso: se creó con IA de última generación. La publicidad sorprendió, divirtió y encantó a los espectadores. Pero lo que tendrían que haber sentido es una profunda inquietud.

La publicidad de State Farm es un ejemplo benigno de un fenómeno nuevo, importante y peligroso en la IA: los deepfake. Con esa tecnología, cualquiera que tenga una computadora y conexión a Internet puede crear fotos y videos de aspecto realista de personas diciendo y haciendo cosas que no dijeron ni hicieron.

Virales y falsos

La palabra compuesta deepfake combina deep learning (“aprendizaje profundo”) y fake (“falso”). Los primeros deepfakes aparecieron en Internet a fines de 2017, gracias a un método nuevo e innovador de aprendizaje profundo conocido como redes generativas antagónicas (GAN, por sus siglas en inglés).

Varios videos deepfake se viralizaron recientemente, con lo cual millones de personas en todo el mundo conocieron esa nueva tecnología. En uno, el expresidente de EE.UU. Barack Obama usa una mala palabra para describir al actual, Donald Trump; en otro, Mark Zuckerberg admite que el verdadero objetivo de Facebook es manipular y explotar a sus usuarios.

La cantidad de contenidos deepfake en internet está creciendo a pasos agigantados. A comienzos de 2019 había 7.964 videos deepfake online, según un informe de la startup Deeptrace; tan solo nueve meses después, la cifra había saltado a 14.678 (el 96% era pornográfico). Sin duda, ahora hay todavía más.

Si bien es impresionante, la tecnología actual de los deepfake todavía no está a la altura de las imágenes de verdad: por lo general, se puede adivinar si un video es deepfake prestando atención. Pero la tecnología está mejorando a toda velocidad. Los expertos predicen que pronto será imposible distinguir deepfake de imágenes reales. La sociedad debe empezar a prepararse ahora.

Ver para no creer

No hace falta tener mucha imaginación para entender el peligro de que pueblos enteros vean videos falsos y crean que son reales. Basta imaginar un video deepfake de un político pidiendo sobornos o acosando sexualmente a alguien justo antes de unas elecciones, o de soldados estadounidenses cometiendo atrocidades contra civiles en el exterior, o de Trump anunciando el lanzamiento de armas nucleares contra Corea del Norte.

“Antes, para amenazar a EE.UU. se necesitaban 10 portaaviones, armas nucleares y misiles de largo alcance”, afirmó recientemente el senador estadounidense Marco Rubio. “Hoy [?] solo hace falta la capacidad de producir un video falso muy realista que pueda socavar nuestras elecciones, hundir a nuestro país en una crisis interna tremenda y debilitarnos mucho”.

El ejemplo más dramático ocurrió en Gabón, un pequeño país en África Central. A fines de 2018, su presidente, Ali Bongo, llevaba meses sin aparecer en público. En un intento por tranquilizar a la población y reafirmar el liderazgo de Bongo, su Gobierno anunció que daría un discurso televisado al país en Año Nuevo.

En el discurso (que vale la pena mirar), Bongo luce duro y forzado, con un tono y tics faciales poco naturales. El video despertó inmediatamente la sospecha de que el Gobierno estaba encubriendo algo. Los rivales políticos de Bongo declararon que era un deepfake y que el presidente estaba incapacitado o muerto. Los rumores de una conspiración con deepfake se propagaron rápidamente por las redes sociales.

La situación política en Gabón se desestabilizó rápidamente. Una semana después, los militares intentaron dar un golpe de Estado ?el primero en el país desde 1964? y mencionaron el video como prueba de que algo andaba mal con el presidente.

Hasta la fecha, los expertos no pueden confirmar si el video era real, aunque la mayoría cree que sí (el golpe militar fracasó; Bongo reapareció en público y sigue en el cargo). Pero que sea verídico o no casi que no importa. La lección es que el surgimiento de los deepfake hará que al público le cueste cada vez más distinguir entre lo real y lo falso, situación que los agentes políticos sin duda explotaráñ y las consecuencias podrían ser devastadoras.

Autor: Rob Toews