*En la última década, el ecosistema informativo global ha experimentado transformaciones aceleradas impulsadas por la expansión de la Inteligencia Artificial Generativa, la automatización de contenidos y la creciente intermediación algorítmica*
Según la doctora Leslie Salgado, especializada en ética de la inteligencia artificial y en el impacto de la tecnología sobre los medios y la desinformación, “los deepfakes representan hoy la frontera más preocupante del impacto de la IA Generativa sobre el ecosistema informativo”. La experta lo atribuye tanto al nivel de producción, ya que crecieron un 550% entre 2019 y 2023, como a su sofisticación. “Si comparamos deep fakes producidos hace un año con los de hoy, los detalles gracias a los cuales podríamos detectarlos van desapareciendo. Las sombras, el brillo, la coherencia de la luz, los ojos de las figuras van siendo cada vez más realistas. Es muy difícil que los detectores se mantengan al ritmo de avance de los productores”, enfatizó la doctora Salgado.
¿Quién se habría imaginado que en el año 2017 estaba creando un Frankestein? A finales de ese año, un usuario de Reddit llamado deep fakes creó este término, que ahora designa como tal a la manipulación de fotos y videos mediante Machine Learning e Inteligencia Artificial utilizada para suplantar la identidad de una persona real o crear una ficticia para, entre otras cosas, cometer un fraude, principalmente financiero.
Para entonces Ian Goodfellow, uno de los “35 innovadores menores de 35 años” del MIT Technology Review de 2017 ya había causado revuelo entre sus colegas con su libro cuando ese mismo año ideó el invento que lo colocó en el panteón global de las mentes fundamentales de la inteligencia artificial: las redes generativas antagónicas (GAN, por sus siglas en inglés), un modelo algorítmico que posibilitó, entre otras para crear algo que antes no existía.
En junio de 2019, la cantidad de videos deep fake detectados por IBM era solo de 3000. En enero de 2020, esa cifra había aumentado a 100.000. En marzo de 2020 ya había más de un millón de vídeos falsos en Internet.
Los deep fakes o ultra falsos son imágenes, videos o audios manipulados digitalmente mediante Inteligencia Artificial (IA) para que parezcan reales. Mediante el aprendizaje profundo (deep learning), esta tecnología superpone rostros, modifica expresiones o clona voces para hacer que una persona diga o haga algo que nunca ocurrió. Se clasifican en Deepface (Video/Imagen), que reemplazan el rostro de una persona por el de otra, sincronizando los gestos y movimientos; y Deep Voice (Audio), que clona o sintetiza la voz de alguien para imitar su tono, acento y forma de hablar. Se utilizan para crear declaraciones falsas de personajes públicos; para fraude y extorsión, ya que permiten engañar a familiares o empleados imitando la voz de un conocido o jefe para solicitar dinero; o para violencia digital, mediante la creación de contenido íntimo no consentido o material de abuso.
Investigaciones muestran que incluso los deep fakes detectables tienen un impacto negativo sobre la evaluación que el público hace de una figura política. Se les llama “dividendo del mentiroso” por su capacidad de sembrar la duda. Hoy las audiencias saben que los deep fakes existen, que son sofisticados y por lo tanto empiezan a dudar de lo auténtico, pues esa duda se usa como arma política tratando de encuadrar como deepface contenido verídico.
LA IA HA PROPICIADO DEEP FAKES DE ALTA PRECISIÓN
En la última década, el ecosistema informativo global ha experimentado transformaciones aceleradas impulsadas por la expansión de la Inteligencia Artificial Generativa, la automatización de contenidos y la creciente intermediación algorítmica. Estos cambios han ampliado el acceso a información, pero también han generado nuevos riesgos: desde la viralización de noticias falsas hasta la proliferación de deep fakes de alta precisión y la automatización de operaciones de influencia que impactan directamente en la calidad del debate público. Cada día, las aplicaciones de inteligencia artificial generativa se vuelven más sofisticadas logrando producir textos, imágenes, audios y videos que tornan cada vez más difícil el proceso de verificación de la información.
Por ello, la UNESCO ha reiterado que la desinformación, los discursos de odio y la manipulación digital representan amenazas directas para la conversación democrática y para el ejercicio de los derechos fundamentales. Esa institución subraya la importancia de fortalecer la alfabetización mediática e informacional, promover la transparencia de los sistemas algorítmicos y asegurar que las tecnologías emergentes no socaven la integridad democrática.
