Durante un viaje a Europa, entre el 10 y el 29 de octubre de 2024, en una visita académica a la Universidad de Navarra, escuché una explicación sobre el origen de la inteligencia artificial, sus aplicaciones tecnológicas y también sus peligros.
En ese momento, mi interés principal estaba centrado en otros temas, como los sistemas de movilidad y transporte urbano en Europa, las formas de hacer turismo de estadía y algo de seguridad social. Sin embargo, hubo una advertencia que quedó rondando en mi mente: el uso abusivo de la inteligencia artificial mediante los llamados deepfakes.
Un deepfake puede ser un video falso, una voz clonada o una imagen fabricada artificialmente en cuestión de segundos y difundida masivamente pocas horas antes de una elección. La escena parece salida de una novela futurista: un candidato aparece diciendo algo que jamás dijo, millones de personas lo creen y una democracia puede cambiar de rumbo.
Pero el verdadero problema no es únicamente tecnológico. La pregunta de fondo es mucho más grave: ¿Qué ocurre cuando una sociedad deja de distinguir entre la verdad, la mentira y la manipulación?
Una democracia no se destruye solamente cuando se altera una urna electoral. También comienza a debilitarse cuando el ciudadano pierde completamente la confianza en los procesos electorales, en las instituciones y en la verdad misma.
El riesgo en el contexto iberoamericano
En Iberoamérica ese riesgo tiene características propias. Aquí, muchas veces no hace falta un deepfake perfecto para manipular a la población. Basta un audio reenviado por WhatsApp, una fotografía fuera de contexto, un video editado, una cuenta anónima en redes sociales, un trol político disfrazado de ciudadano común o una cadena emocional enviada por familiares, amigos o grupos comunitarios.
La desinformación viaja más rápido que la verificación. Y cuando esa manipulación se mezcla con polarización política, precariedad periodística, corrupción, crimen organizado, desigualdad digital y desconfianza institucional, el resultado es explosivo.
Ecuador ya vive esa realidad
En el Ecuador llevamos años conviviendo con relatos o narrativas de fraude electoral, incluso antes de la llegada de la inteligencia artificial generativa.
El Consejo Nacional Electoral suele ser convertido en sospechoso antes de abrirse las urnas. Los periodistas son atacados, utilizados, pautados o desacreditados. Las decisiones del Tribunal Contencioso Electoral, de las cortes o de los organismos de control son cuestionadas cuando afectan intereses políticos.
La tecnología no creó esa estrategia. La inteligencia artificial simplemente la modernizó y la volvió más peligrosa.
La democracia sintética
Hoy enfrentamos un nuevo fenómeno: la democracia sintética. Es decir, una democracia donde la opinión pública puede ser manipulada artificialmente mediante algoritmos, emociones fabricadas, identidades falsas, campañas coordinadas y contenidos creados por inteligencia artificial. Todo es cuestión de recursos económicos.
En este nuevo escenario ya no sabemos con certeza:
- Si una voz es real.
- Si un video ocurrió verdaderamente.
- Si una imagen fue manipulada.
- O si una tendencia política fue creada artificialmente.
La consecuencia es devastadora: la ciudadanía comienza a desconfiar de todo. Y cuando un pueblo deja de creer en sus instituciones, la democracia entra en crisis.
Mi experiencia personal
No hablo únicamente desde la teoría. En mi caso personal, han clonado mi voz en varios videos utilizando mi identidad. Además, proyectos políticos y propuestas ciudadanas de mi autoría fueron apropiados y utilizados sin autorización en contextos para campañas electorales.
Esa situación me obligó a registrar legalmente mis iniciativas ante el Servicio Nacional de Derechos Intelectuales, incluyendo denominaciones políticas como “Raíz Ciudadana” y “La Tercera Vía”, asumiendo gastos económicos y trámites innecesarios para proteger ideas y proyectos que debían debatirse libremente en democracia.
Lo más preocupante no es solamente el plagio, porque se denuncia hasta plagio de títulos y no pasa nada. Lo verdaderamente peligroso es la normalización de estas prácticas y la indiferencia institucional frente a la manipulación digital.
La alfabetización digital ya no es opcional
No basta con repetir el eslogan: “Verifique antes de compartir”. La ciudadanía y yo necesitamos aprender:
- Cómo se fabrica una campaña emocional.
- Cómo operan las redes coordinadas.
- Cómo se manipulan videos y audios.
- Cómo se clonan voces.
- Cómo se explotan el miedo y la indignación.
- Cómo funcionan las nuevas formas de propaganda digital.
- Cómo se prohíbe la participación de movimientos políticos nuevos por el solo hecho de no estar alineados a los partidos tradicionales o polarizados de Ecuador.
El peligro silencioso
La democracia latinoamericana quizá no se destruya por un deepfake perfecto. Puede destruirse antes, de manera silenciosa, cuando millones de ciudadanos concluyan que ya no vale la pena creer en las elecciones, en las instituciones o incluso en el valor del voto.
Ese es el verdadero riesgo de la democracia sintética: no solamente manipular elecciones, sino destruir la confianza colectiva. Y una sociedad que pierde confianza en la verdad termina perdiendo también su libertad; por eso mucha gente vota nulo, no vota y prefiere pagar la multa, y muchas voces piden que las elecciones no sean obligatorias, sino facultativas.
No hay democracia posible cuando ya no sabemos qué es verdad y qué es manipulación. Los deepfakes, la clonación de voces y la propaganda digital no solo amenazan candidatos; amenazan la confianza de toda una sociedad. Lo que hoy me ocurrió a mí puede ocurrir mañana con cualquier ciudadano en Ecuador.
La inteligencia artificial puede servir para educar —innegable— o para manipular. El problema no es la tecnología. El problema es cuando la mentira digital empieza a decidir elecciones o comprar tu voto.
Ojo seco en las elecciones seccionales.
Un aporte de Raíz Ciudadana y la Tercera Vía.
Gracias Sr. periodista por ponernos alerta. Excelente artículo, pensado, reflexionado y experimentado.