Otra amenaza para la democracia: deepfakes y mentiras desde el poder

¿Alguien duda el rol de la desinformación en esta era digital? Deepfakes, como el video falso de Volodymyr Zelensky pidiendo a las tropas ucranianas rendirse durante la invasión rusa, son una muestra alarmante de cómo la inteligencia artificial (IA) puede distorsionar la realidad para manipular a la población.

Esta realidad y sus múltiples posibilidades han dado lugar a un nuevo tipo de guerra informativa en donde los gobiernos autoritarios han perfeccionado una versión más tradicional de este fenómeno: la mentira institucionalizada.

Nicolás Maduro, en Venezuela, ha recurrido a falsedades repetidas para legitimar su mandato, distorsionando la narrativa sobre la crisis económica, el éxodo migratorio y las sanciones internacionales y, qué decir, sobre las recientes elecciones en el país. López Obrador, en México, popularizó la frase “yo tengo otros datos”, desafiando constantemente las cifras oficiales (sí, las de su propio gobierno y ni qué decir de los datos de otras fuentes confiables) y debilitando la confianza en las instituciones democráticas.

Aunque los deepfakes y las mentiras oficiales parecen ser estrategias diferentes, ambas buscan crear una realidad paralela que socava la capacidad de la ciudadanía para distinguir la verdad de la mentira o la falsedad. Cuando las autoridades promueven versiones distorsionadas de la realidad y al mismo tiempo desmantelan instituciones de transparencia -como ha sucedido en México con la búsqueda de desaparición del Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales, aunque el discurso oficial diga que “el hecho de que desaparezca el INAI (como parte de la reforma constitucional de los órganos autónomos) no significará el fin de la transparencia en el país”- la realidad es que la ciudadanía queda vulnerable y a la deriva ante una versión única y controlada de los hechos y la información.

Este tipo de desinformación afecta a todos los niveles de la sociedad, desde lo local hasta lo internacional y, evidentemente, no reconoce fronteras. El 2024 ha sido uno de los años con más procesos electorales en la historia y ha sido también un terreno fructífero para que los adversarios políticos en distintas latitudes hagan uso de la IA para sumarse a la guerra de la desinformación y el engaño. Según el German Marshall Fund, los deepfakes representan un riesgo creciente en procesos electorales, como lo demostró la reciente manipulación en las elecciones de Eslovaquia, donde un video alterado buscaba desacreditar a los candidatos. La manipulación de la verdad no sólo debilita la democracia interna, también alimenta la desconfianza internacional.

Es una paradoja el hecho de que la misma tecnología que alimenta los deepfakes pueda convertirse en una herramienta clave para combatir la desinformación. Empresas tecnológicas y organismos internacionales están desarrollando herramientas de verificación que permiten identificar deepfakes y contenido falso en tiempo real. Por ejemplo, algoritmos avanzados ahora pueden detectar irregularidades en los videos, como patrones de parpadeo artificial o movimientos faciales inconsistentes.

En este contexto resulta necesaria la colaboración internacional para crear marcos regulatorios, acciones y medidas que limiten el impacto de los deepfakes y promuevan la transparencia. La colaboración en sí ya es un reto en un mundo en el que la polarización y las acciones unilaterales se han convertido una constante en los últimos años. Países como los Estados Unidos y miembros de la Unión Europea han comenzado a debatir regulaciones que obliguen a las plataformas tecnológicas a etiquetar contenido alterado y penalizar a quienes lo difundan con fines maliciosos. Es importante seguir esta discusión de cerca.

Siempre lo he dicho, la parte más importante del desarrollo tecnológico y las brechas es el componente no tecnológico: el humano. La alfabetización tecnológico-mediática es crucial para preparar a la ciudadanía ante esta nueva realidad. Educar a las personas para que reconozcan la manipulación digital y exigir transparencia a los gobiernos es uno de los primeros pasos para fortalecer nuestras democracias en la era de la posverdad.

En la era digital y en un mundo hipercontectado no sólo la verdad está en juego, están en riesgo la libertad y la democracia. La tecnología y su capacidad para ser usada como herramienta al servicio de la desinformación, aunada a las mentiras sistemáticas desde los gobiernos, son una combinación peligrosa y que juega a favor del autoritarismo y el populismo (no importa que sean de derecha o de izquierda, del norte o del sur global).

En un mundo de mentiras y verdades falsas o a medias, la transparencia resulta necesaria para fortalecer la democracia y como contrapeso al control de los gobiernos que están llegando al poder despreciando el andamiaje institucional que les llevó a ese lugar, y que buscan desaparecer para perpetuarse en él. Es el uso que se hace de la tecnología el que hace la diferencia y es necesario articular alianzas y colaboración internacional entre gobiernos y empresas para informar a la ciudadanía y evitar la construcción de una distopía en la que la mentira institucionalizada desde el gobierno se convierta en la única alternativa informativa.

Se puede vivir con mentiras y desinformación, pero eso no es democracia.

@LaClau

-