Imagina que estás deslizando entre la gran cantidad de contenido que hay en redes sociales y de la nada salta una publicación en la que ves a personajes como: Shakira, Luis Díaz o Lionel Messi promocionando una aplicación, un perfil, una inversión. Lo lógico sería pensar: “si lo promocionan ellos, tiene que ser verdad”.
(Se acerca el Fenómeno de La Niña: efectos podrían sentirse desde agosto)
Y justamente eso es lo que buscan los ciberdelincuentes con la creación de este contenido malicioso llamado ‘deepfakes’, que no son más que, mayoritariamente, videos generados con Inteligencia Artificial (IA) que imitan la apariencia y el sonido de una persona.
(“No se llora en fútbol”: la particular frase de jueza a Jesurun en audiencia)
En algunos casos, el resultado de esta imitación llega a ser tan convincente que pueden engañar tanto a las personas como a los algoritmos.
Es por ello que debido a que su proliferación ha ido en aumento, EL HERALDO consultó a expertos en ciberseguridad, quienes dieron recomendaciones para identificarlos, los riesgos que estos representan, entre otros aspectos.
(Rescataron a tres niños que estaban a la deriva en playa de Riohacha)
“Esta tecnología se basa en algoritmos de aprendizaje profundo, una rama de la IA que aprende patrones de datos masivos, como videos y audios, generando nuevas versiones difíciles de distinguir de las reales tanto en entorno como en la fisonomía de los individuos”, detalla a esta casa editorial Ximo Lizana, profesor de la Universidad Europea y experto en Robótica, Neurociencia e Inteligencia Artificial.
¿Cómo reconocerlos?
Pero, si llegan a ser tan convincentes, ¿cómo pueden ser reconocidos, especialmente por aquellos usuarios que dimensionan los avances de la IA?, pues bien, de acuerdo con Linaza se deben tener en cuenta varios aspectos.
El primero de ellos son las anomalías visuales, es decir, la desincronización entre el movimiento de los labios y el audio, parpadeos inusuales, y cambios abruptos en la iluminación o en la textura de la piel pueden ser algunos marcadores.
(Polémica por pastor que habría resucitado a hombre muerto en Cartagena)
También es clave tener presente la calidad del audio que se escucha, debido a que puede haber inconsistencias en el tono, timbre o ritmo de la voz que no coinciden con las características conocidas de la persona, cortes o pronunciaciones con acento extraño.
Por otro lado, el profesor universitario explicó que hay softwares especializados en la detección de estos deepfakes. “Existen herramientas como Deepfake Detection Challenge (DFDC) y algoritmos desarrollados por empresas como Deeptrace y Sensity que identifican irregularidades en los píxeles y patrones que los humanos pueden pasar por alto, pueden ser un gran aliado”.
(Comenzó construcción de dos anillos viales que conectarán con la Vía 40)
Por su lado, David González, Especialista en Seguridad Informática de Laboratorio de ESET Latinoamérica, comenta que es necesario cuestionar el contenido que se está viendo. “¿La grabación parece difícil de creer? ¿El contenido es escandaloso y claramente intenta provocar una respuesta emocional de los espectadores/oyentes? Si es así, esa puede ser la primera señal para acercarse con escepticismo y verificar la información que ves o escuchas”.
Publicidades en redes
El gran peligro de estos deepfakes es que aparecen como publicidad en redes sociales, teniendo gran alcance con los usuarios que quedan expuestos si no saben reconocerlos.
De acuerdo con David González las redes sociales han visto un aumento en los deepfakes, incluyendo aquellos que involucran a personajes famosos. Aunque algunos pueden ser creados con intenciones inocentes, como el entretenimiento, también existe la preocupación de que puedan ser utilizados para difundir desinformación o realizar actividades fraudulentas.
(Este fue el mensaje que Conmebol tuvo que borrar sobre Lionel Messi)
“Las redes sociales tienen políticas y procedimientos para revisar y aprobar los anuncios antes de que se publiquen. Sin embargo, la eficacia de estos controles puede variar y algunos contenidos falsos o engañosos pueden pasar desapercibidos”, agrega González
Ximo Linaza añade a esto que “la rapidez con la que se generan y distribuyen estos contenidos dificulta una supervisión completa y en tiempo real y el alcance es masivo en pocas horas”.
Los riesgos
Pero, ¿qué buscan los cibercriminales con todo esto?, la respuesta puede ser muy variada. Desde datos personales hasta credenciales de cuentas de redes sociales o incluso bancarias.
En ese sentido, Ximo Linaza comenta que crear videos falsos de figuras públicas o ejecutivos de empresas para engañar a empleados o socios comerciales y obtener información confidencial o dinero. “Un caso famoso ocurrió en Taiwán, donde un empleado fue estafado por 23,3 millones de dólares durante una videoconferencia con un deepfake de su jefe”.
(Cayó MiLoto, de Baloto: tres ganadores deben repartirse el premio mayor)
Además, el especialista en seguridad, David González, detalló que los deepfakes pueden ser utilizados para difundir información falsa, lo que puede tener un impacto tremendo en la percepción de la opinión pública.
“Los deepfakes utilizan datos personales sensibles, como la imagen del rostro y la voz, sin contar con el permiso de sus titulares, trasgrediendo la privacidad ocasionando un robo de identidad”, concluye.
Deepfakes famosos, de Messi a Shakira
Uno de los primeros deepfakes que se hizo virales en redes sociales fue del futbolista argentino Lionel Messi, en el que se le ve promocionando una aplicación llamada ‘Wildcat Dive’, atribuyéndola como una de sus principales fuentes de ingresos y afirmando que ha ayudado a miles de personas a ganar dinero.
De igual forma, con Luis Díaz, se hizo viral un video en el que se presenta una parte del noticiero de Caracol, dando la noticia que el guajiro y una persona llamada Daniela Reyes se habían aliado para “lanzar un nuevo proyecto creado para ayudar a la población de Colombia”. Luego aparece el jugador hablando sobre este hecho.
(Olmedo López aseguró que altos funcionarios le ordenaron dar contratos al ELN)
Finalmente, uno de los más recientes ocurrió con la barranquillera Shakira en donde se le ve promocionando el perfil de una persona llamada Ángela Perez, con la promesa de hacerse rico con únicamente 200 mil pesos.
