Año 1, núm. 4, noviembre de 2025
a fondo
Desafíos democráticos en la era de las ministras virtuales
Claudia Calvin Venero
En septiembre de 2025, Albania sorprendió al mundo con una noticia insólita: la designación de Diella, una inteligencia artificial, como “Ministra de Contrataciones Públicas”. Diella, cuyo avatar femenino está vestida con un traje tradicional, se convirtió de inmediato en la primera “ministra algorítmica” y virtual de la historia. Para el gobierno de Edi Rama, su creación buscó representar un avance en transparencia y en la lucha contra la corrupción. Para la oposición y para muchos juristas significó otra cosa: un movimiento inconstitucional y riesgoso. Para el mundo, abrió un debate mucho más profundo: ¿Qué significa la democracia cuando el poder público se delega en un sistema de inteligencia artificial?
Hoy vivimos en el mundo un dilema estructural. La tecnología digital ha transformado la esfera pública: las redes sociales se han convertido no solo en el medio sino en el espacio en el que se desarrolla la conversación política, los algoritmos de distintas plataformas distribuyen información y desinformación, diversos ecosistemas digitales canalizan protestas. Al mismo tiempo, estos entornos facilitan la vigilancia y el control estatal y privado. Ahora, con la inteligencia artificial en el centro del debate, la pregunta va un paso más allá: ¿Hasta dónde puede una democracia transferir poder a un algoritmo sin perder legitimidad? ¿Qué ocurre con la soberanía popular y con la rendición de cuentas, principios centrales de la gobernanza democrática?
El caso Diella, aunque pequeño en términos de escala global, se ha convertido en un laboratorio para pensar las tensiones más amplias entre democracia representativa y tecnocracia algorítmica. Esto, además, sucede en un país cuya propia historia política e institucional ayuda a entender por qué este experimento, si se le puede llamar así, no es anecdótico.
Albania: un país en transición, con déficits democráticos
Para comprender el significado de Diella, hay que entender el contexto político e institucional de Albania. Este país de poco menos de tres millones de habitantes, ubicado en los Balcanes, ha sido durante décadas uno de los ejemplos más claros de transición democrática postcomunista, pero también de fragilidad institucional.
En el marco de los indicadores internacionales de democracia, Albania ocupa posiciones intermedias, reflejo de avances significativos pero también de problemas persistentes. El Democracy Index 2024 de The Economist Intelligence Unit lo clasifica como una “Flawed Democracy” o democracia defectuosa, es decir, un sistema con elecciones relativamente libres y pluralismo, pero con serias debilidades en el funcionamiento del gobierno, en la cultura política y en la participación ciudadana.
El Global State of Democracy Index de IDEA, índice que considera cuatro variables de desempeño democrático: Estado de Derecho, representación, derechos y participación ciudadana le otorga un puntaje aproximado de 69 (de 173 países), lo que lo coloca en el rango medio, con particular vulnerabilidad en materia de defensa de derechos. En el índice más conocido para la opinión pública, Freedom House 2024, Albania aparece como “Partly Free” (“Parcialmente libre”), con un puntaje de 68 sobre 100, lo que significa que si bien existen libertades políticas y civiles, están acompañadas de déficits significativos en corrupción, sobre todo en el poder judicial y funcionamiento institucional.
A ello se suma el problema estructural de la corrupción. El Índice de Percepción de la Corrupción 2024 de Transparency International le otorgó 42 de 100 puntos, reflejando altos niveles de desconfianza ciudadana en las instituciones públicas. La creación de la Estructura especial contra la corrupción y el crimen organizado ha sido un paso hacia la búsqueda de la eliminación de la desconfianza. En este contexto, la apuesta por una ministra virtual no puede entenderse como un simple gesto tecnológico: es también una respuesta política a déficits históricos de confianza acumulados.
Albania, además, busca desde hace años adherirse a la Unión Europea y se ha planteado como meta el 2030. Las reformas en materia de transparencia, digitalización y gobernanza son condiciones explícitas para su integración. El nombramiento de Diella fue leído, tanto dentro como fuera del país, como un mensaje a Bruselas: Albania quiere mostrar modernización institucional y voluntad de combatir la corrupción.
Quién es Diella y qué hace
Según datos oficiales, Diella fue creada por la Agencia Nacional para la Sociedad de la Información (AKSHI) en colaboración con Microsoft. Nació en enero de 2025 como asistente virtual de la plataforma e-Albania, desde donde ayudaba a la ciudadanía a realizar trámites digitales, obtener documentos y recibir información de servicios públicos y el primer ministro le dio rango de ministra en el gabinete en septiembre del mismo año.
En apenas ocho meses, Diella había gestionado la emisión de 36,600 documentos y prestado cerca de 1,000 servicios digitales, además de participar en alrededor de un millón de interacciones ciudadanas. En septiembre, a través de un decreto, Rama la nombró “Ministra de Contrataciones Públicas” (Minister for Public Procurements) encargada de supervisar licitaciones y garantizar que fueran 100% libres de corrupción.
Su representación o imagen pública no es neutral. Diella apareció como avatar femenino, con rasgos humanos, vestida con indumentaria tradicional albanesa. El mensaje es claro: una ministra que no es humana, pero que al mismo tiempo encarna símbolos culturales y de género. Curioso si se considera que el país tiene una brecha de género de 78%, ocupando el lugar número 23 en el ranking global. Como referencia, Islandia ocupa el primer lugar.
Uno de los muchos problemas que esto ha planteado es su estatus legal. La Constitución albanesa establece que los ministros deben ser ciudadanas y ciudadanos con derechos plenos. La oposición denunció que el nombramiento es inconstitucional y lo calificó de teatro político.
Vale la pena recordar que en otros países tienen sistemas de AI para interactuar con la ciudadanía, tales como Humphrey (Reino Unido) y Albert (Francia), pero no se les ha dado rango ministerial y tienen funciones acotadas y definidas.
No hay claridad sobre si Diella cuenta con una investidura ministerial ratificada por el parlamento, ni qué responsabilidad jurídica tendría en caso de fallas. Surgen muchas preguntas en torno a su funcionamiento, alcances, programación e involucramiento humano en su desempeño, así como respecto a la rendición de cuentas y responsabilidad en la toma de decisiones.
Hablemos de democracia, tokenismo digital y tecnocracia algorítmica
El núcleo del debate que surge a partir de la existencia de Diella y su nombramiento ministerial no está en la tecnología en sí, sino en lo que representa y sus implicaciones. ¿Será que las democracias contemporáneas se encaminan hacia una forma de tecnocracia algorítmica, en la que decisiones fundamentales se delegan a sistemas digitales diseñados y operados por equipos técnicos y corporaciones privadas y/o gobiernos?
El punto de partida de la democracia representativa es que la ciudadanía elige representantes, quienes asumen responsabilidades políticas y legales, rinden cuentas, pueden ser removidos, además de que actúan bajo reglas públicas y un marco constitucional. Entre las premisas de su legitimidad se encuentran las elecciones libres y competitivas, al menos en teoría, su compromiso con la representación efectiva y la rendición de cuentas. Se asume que deben existir mecanismos de control y transparencia para que esto suceda.
Uno de los grandes atractivos de una tecnocracia fundamentada en algoritmos es el supuesto de que los sistemas digitales son incorruptibles: no tienen intereses personales, no pueden ser sobornados ni compiten en elecciones. Bajo esta lógica, garantizarían decisiones “limpias” y objetivas.
Pero esta promesa se derrumba cuando miramos la evidencia. Los algoritmos no son neutros. Son diseñados por personas, entrenados con datos históricos y, por lo tanto, arrastran los prejuicios y desigualdades de las sociedades que los producen y de las personas que los programan y desarrollan.
Un ejemplo contundente lo ofrece el estudio de Joy Buolamwini y Timnit Gebru (2018), publicado en la Proceedings of Machine Learning Research. Analizando diversos sistemas comerciales de reconocimiento facial, las investigadoras encontraron que la tasa de error era mínima en hombres de piel clara, menos del 1%, pero alcanzaba hasta 34% en mujeres de piel oscura. En otras palabras, la misma tecnología que se presentaba como imparcial resultaba discriminatoria y con sesgos.
Algo similar ocurre en internet con los algoritmos de búsqueda. En su libro Algorithms of Oppression, la investigadora Safiya Umoja Noble mostró cómo Google devolvía resultados hipersexualizados y racistas al buscar términos como “Black girls” o “Latina girls”, reforzando estereotipos dañinos y reproduciendo desigualdades estructurales.
A ello se suma un tercer ejemplo, directamente conectado con el caso de Diella: los asistentes digitales como Siri, Alexa o Cortana. Desde su lanzamiento, fueron diseñados con voces femeninas predeterminadas, programadas para responder de forma servicial, incluso a comentarios sexistas o abusivos. El informe de la UNESCO I’d Blush If I Could (2019) alertó que este diseño no era inocente: reforzaba estereotipos de género donde las mujeres eran representadas como obedientes, sumisas y siempre disponibles.
El hecho de que Diella también aparezca como avatar femenino plantea un cuestionamiento inevitable: ¿Se trata de un gesto de inclusión simbólica o de una repetición del mismo patrón de tokenismo digital, donde la representación femenina es estética, pero no implica poder real ni participación en el diseño del sistema?
Estos ejemplos revelan lo que muchas veces se intenta ocultar bajo la etiqueta de “neutralidad”: los algoritmos no reflejan una verdad objetiva, sino que filtran la realidad a través de los sesgos con los que fueron programados y entrenados. Cuando se trasladan a la arena política, como en el caso de una ministra digital, sus errores y prejuicios dejan de ser meramente técnicos para convertirse en problemas de justicia, legitimidad y democracia.
Ahora hablemos de la tecnocracia algorítmica. En el análisis publicado en Project Syndicate tras el nombramiento de Diella, Daniel Innerarity y Fabrizio Tassinari advierten que detrás del entusiasmo por los ministros algorítmicos se esconde la tentación de una tecnocracia digital. (Añadiría yo el riesgo de una dictadura digital.) La premisa de la que parte este modelo es aparentemente sencilla: si la corrupción es producto del comportamiento humano, los intereses, las ambiciones, la discrecionalidad, entonces delegar decisiones a una máquina “neutral” debería eliminar ese sesgo y garantizar procesos limpios.
El riesgo, sin embargo, es profundo: trasladar poder a sistemas digitales puede desplazar el centro de la decisión desde la ciudadanía hacia un algoritmo opaco, diseñado y programado sin escrutinio público. Innerarity y Tassinari plantean que lo que se presenta como neutralidad puede convertirse en una nueva forma de concentración del poder, más difícil de fiscalizar, porque se ampara en la autoridad técnica y no en la legitimidad democrática. En lugar de resolver los problemas de la política, la tecnocracia digital puede conducir a un escenario en el que las personas tengan cada vez menos control sobre decisiones clave del Estado y en el que la “limpieza” prometida se transforma en opacidad tecnológica.
Aquí no se pretende plantear que el uso de la IA sea negativo y que haya que evitarlo. Lo que se busca es poner sobre la mesa de análisis el hecho de que la tecnología per se no es la que resuelve los problemas. Es la combinación “humano + tecnología” la variable que puede hacer la diferencia y esta interacción implica la necesaria capacitación del “componente humano” en la ecuación para garantizar, por lo menos, la calidad “mínima” de sus decisiones.
Los puntos de cruce entre ambas lógicas son claros: la IA puede fortalecer procesos democráticos si aumenta la transparencia, reduce la corrupción y mejora la eficiencia administrativa. Sin embargo, es necesario dar respuesta a algunas de las preguntas obligadas que surgen de esta realidad.
¿En dónde se encuentran en este contexto la soberanía, la rendición de cuentas y quién decide? ¿La ciudadanía o un software entrenado por técnicos (lo dejo en masculino porque menos de un tercio de las personas que trabajan en el desarrollo de la IA son mujeres) y corporaciones? En materia de transparencia y rendición de cuentas, si Diella falla, ¿quién asume la responsabilidad, el primer ministro, Microsoft, AKSHI? Los algoritmos funcionan como cajas negras, sin auditorías independientes sus decisiones no son escrutables. ¿Puede un avatar digital generar el mismo sentido de representación que un ministra humana elegida o designada?
¿Innovación democrática o control político?
¿Es Diella innovación democrática o control político? La respuesta más honesta es que es ambas cosas a la vez y por eso importa tanto. No estamos frente a un simple experimento digital en un país periférico de Europa, sino frente a un espejo que refleja lo que está en juego para la democracia global. Diella simboliza el atractivo de la gobernanza algorítmica: eficiencia, transparencia, objetividad. Pero lo que está verdaderamente en disputa no es el algoritmo, sino la ecuación humana: quién lo diseña, quién lo controla y para qué fines.
En el mejor de los escenarios, gobiernos democráticos con instituciones sólidas podrían usar tecnologías como Diella para fortalecer la rendición de cuentas y reducir la corrupción. Sin embargo, en un contexto en el que las democracias atraviesan retrocesos, donde autócratas, hombres y mujeres líderes, electas por vía democrática concentran poder y desmantelan el andamiaje institucional democrático, la tentación es enorme: usar la tecnología como fachada de objetividad para legitimar decisiones opacas. Lo que se presenta como neutralidad técnica puede transformarse en un mecanismo de control político, difícil de fiscalizar y casi imposible de disputar públicamente.
De ahí que la pregunta de fondo no sea si Diella representa innovación o control, sino si estamos dispuestas y dispuestos a dejar que la legitimidad democrática se transfiera a sistemas tecnológicos sin salvaguardas claras. El riesgo es que la democracia, en lugar de reforzarse con la tecnología, termine siendo gobernada por ella o peor aún, que la tecnología sea usada por liderazgos autoritarios no para gobernar, sino para imponer su voluntad.
Reflexiones finales
Nunca hubiéramos imaginado que Albania, ese pequeño país que pasó gran parte del siglo XX bajo un régimen comunista y que hoy aún enfrenta los mismos dilemas de legitimidad, transparencia y rendición de cuentas que muchos Estados en distintas latitudes, sería el escenario que nos obligara a replantear los fundamentos de la democracia contemporánea. Sin embargo, aquí estamos: discutiendo no solo qué significa tener una ministra algorítmica, sino qué futuro queremos para la democracia en un mundo atravesado por la inteligencia artificial.
Porque la cuestión no es rechazar la tecnología. La inteligencia artificial ha llegado para quedarse y, como toda innovación, puede convertirse en una herramienta poderosa para la democracia: mejorar la eficiencia, reducir la corrupción, ampliar el acceso a derechos. Pero también puede volverse su peor enemiga si se usa como fachada para el control político, como justificación de decisiones opacas o como instrumento para consolidar liderazgos autoritarios. La pregunta, entonces, no es si adoptamos o no estas tecnologías, sino cómo las gobernamos y bajo qué principios: ética, transparencia algorítmica, auditoría independiente, supervisión parlamentaria y ciudadana, derecho de apelación, inclusión e igualdad de género, diversidad.
En última instancia, lo que está en juego es más profundo: el futuro de la democracia no puede decidirse en los algoritmos, sino en la ciudadanía. No es la tecnología la que define el rumbo, sino quién la controla, con qué fines y bajo qué reglas. En un contexto global de retrocesos democráticos y liderazgos autoritarios que avanzan incluso por la vía electoral, el riesgo es claro: que la inteligencia artificial deje de ser aliada y se convierta en la coartada perfecta para vaciar de contenido los valores democráticos.
Ese es el debate que Albania nos obliga a dar: si seremos capaces de alinear la tecnología al servicio de la democracia o si dejaremos que la democracia sea reprogramada por la tecnología.
