Año 1, núm. 10, mayo de 2026
ISSN 3122-3583
tendencia
Cinco problemas sobre la IA y el poder
Pedro Salazar Ugarte *
La inteligencia artificial no inventó el odio, la desigualdad ni la mentira, pero sí está transformando su alcance, velocidad y capacidad de daño. En un mundo gobernado por algoritmos, la democracia enfrenta un desafío inédito: regular un poder tecnológico que avanza más rápido que el derecho.
Hace algunos meses publiqué Totalitarismo total, un libro bajo el sello editorial Taurus, en el cual intenté pensar con seriedad, pero sin tecnicismos innecesarios, los efectos que la inteligencia artificial (IA) está produciendo sobre cinco grandes dimensiones de la vida humana.
La IA no está democratizando el conocimiento: está construyendo una nueva capa de privilegio sobre desigualdades ya existentes.
Traté el problema del poder y su concentración escapando a los controles que las democracias modernas tardaron siglos en construir. Escribí también sobre el problema de la creatividad para reflexionar sobre lo que queda de ella cuando una máquina puede escribir una novela, componer una sinfonía o pintar un cuadro que ninguna persona experta distingue de una creación humana. Reflexioné sobre el problema de la responsabilidad y me pregunté quién responde cuando un algoritmo toma una decisión que genera una catástrofe. Además, me ocupé del terrible problema de la guerra pensando en los drones autónomos, las ciberarmas y la posibilidad real de un conflicto armado en el que ningún ser humano apriete un gatillo. Y, finalmente, me ocupé del problema del amor para pensar cómo la IA está colonizando ese territorio íntimo con aplicaciones, perfiles digitales y compañías artificiales que aprenden a simular sentimientos, afectos y quereres.
Abordé los cinco problemas con un método que me ha servido para pensar otros temas en los años recientes: la tensión entre el derecho y el poder.
En las semanas posteriores a la publicación del libro he tenido oportunidad de conversar con muchas personas que me han ayudado a seguir pensando sobre estas cuestiones. Con ellas he identificado territorios que dejé sin explorar y que merecen una reflexión propia. Pienso en otros cinco problemas: la desigualdad, el medio ambiente, el odio, la falsedad y la polarización. Todos ellos existían antes de la IA. Ninguno fue inventado por los algoritmos. Sin embargo, todos están siendo transformados —en su escala, en su velocidad y en su profundidad— por la revolución tecnológica que estamos viviendo. Dejo algunos apuntes para seguir pensando.
El problema de la desigualdad
La desigualdad no es un problema nuevo. Las civilizaciones humanas han convivido con ella desde sus orígenes y los grandes debates filosóficos, económicos y políticos han girado en torno a cómo comprenderla, medirla y, eventualmente, reducirla. Las revoluciones industriales prometieron en algún momento democratizar el acceso a bienes y oportunidades, pero la realidad se fue encaminando hacia la concentración de los beneficios en pocas manos. La revolución de la inteligencia artificial tiene todas las condiciones para repetir ese patrón, pero a una escala y con una velocidad sin precedentes.
El problema tiene al menos tres dimensiones que conviene distinguir. La primera es la brecha de acceso. Para beneficiarse de las herramientas más sofisticadas de inteligencia artificial —las que potencian la productividad, las que abren acceso a información de calidad, las que permiten tomar mejores decisiones en salud, en educación, en finanzas— se necesita conectividad, dispositivos, alfabetización digital y, en muchos casos, dinero. Una fracción enorme de la humanidad carece de alguno o de todos estos elementos. Además, la inteligencia artificial no está democratizando el acceso al conocimiento: está creando una nueva capa de privilegio sobre capas de privilegio preexistentes.
La segunda dimensión es la brecha laboral. Los empleos más vulnerables a la automatización son, en general, los que realizan personas con menor escolaridad, menores ingresos y menor capacidad de adaptación. Los empleos más resistentes son los que requieren creatividad, juicio complejo, relaciones humanas y habilidades difíciles de codificar.
La tercera dimensión es quizás la más profunda y la menos discutida: la brecha en la capacidad de influir sobre el sistema. Las empresas que desarrollan y controlan los grandes modelos de inteligencia artificial son un puñado de corporaciones privadas, radicadas en su mayoría en Estados Unidos y China, con capitalizaciones de mercado que superan el PIB de la mayoría de los países del mundo. Los datos con los que esos modelos se entrenan —información que en su mayoría fue producida por personas usuarias que nunca consintieron ese uso— representan una forma de apropiación de valor colectivo por parte de actores privados. Este esquema no es nuevo en el capitalismo, pero la escala a la que opera en el ámbito de la inteligencia artificial no tiene precedente histórico.
El problema medioambiental
Hay una narrativa optimista sobre la inteligencia artificial y el medio ambiente que conviene examinar con cuidado antes de aceptarla. Según esa narrativa, la IA es una herramienta poderosa para enfrentar la crisis climática: puede optimizar el consumo energético, mejorar la eficiencia de las redes eléctricas, acelerar el descubrimiento de nuevos materiales para baterías y paneles solares, modelar con precisión sin precedentes los efectos del cambio climático y ayudar a diseñar mejores políticas de adaptación. Todo esto es cierto y sería irresponsable ignorarlo, pero hay otra cara de esa historia que merece anotarse.
Los algoritmos no distinguen entre información útil y odio rentable; solo saben qué contenido mantiene a las personas conectadas.
Entrenar un modelo de lenguaje de gran escala —el tipo de modelo que está detrás de los asistentes de IA más sofisticados que existen hoy— consume cantidades de energía equivalentes a las emisiones de carbono de varios vuelos transatlánticos. Los centros de datos que alojan y ejecutan estos modelos consumen agua en cantidades industriales para refrigerarse. A medida que la demanda de servicios de IA crece —y todo indica que crecerá de manera exponencial en los próximos años—, la huella ambiental del sector tecnológico también se expande. Sobre este tema ha insistido con tino mi colega de la Línea de Investigación sobre Derecho e Inteligencia Artificial (LIDIA), Eugenio Tiselli.
El medio ambiente es también un terreno donde la desigualdad se manifiesta con especial crudeza. Los países que más contribuyen a la huella ambiental de la inteligencia artificial son los países ricos del norte global. Los que más sufrirán las consecuencias son, en su mayoría, países pobres del sur global. La injusticia climática y la injusticia tecnológica no son fenómenos separados: están entrelazadas de maneras que debemos tomarnos muy en serio.
El problema del odio
El odio es tan antiguo como la humanidad. La hostilidad hacia el diferente —el extranjero, el hereje, el que pertenece a otro grupo, a otra raza, a otra religión— ha producido algunas de las páginas más oscuras de la historia. Pero la inteligencia artificial le ha dado al odio algo que antes no tenía: escala industrial y velocidad de propagación inmediata.
Hasta hace muy poco, crear contenido de desinformación dirigido a grupos específicos, en múltiples idiomas, con el tono y el registro adecuados para cada audiencia, era un proceso costoso y lento. Requería personas, tiempo, recursos. Hoy, un modelo de lenguaje puede generar en minutos cientos de variaciones de un mensaje de odio adaptados a distintas comunidades, distintas plataformas, distintos contextos culturales.
La precisión es la otra dimensión perturbadora. Los sistemas de recomendación de las grandes plataformas digitales han aprendido —porque así fueron diseñados— que el contenido que genera más reacción emocional es el que más retiene a las y los usuarios. Y pocas emociones son tan efectivas para retener a personas usuarias como el miedo y la ira. Un algoritmo que optimiza el tiempo de atención no distingue entre el miedo que te hace bien —el que te alerta de un peligro real— y el miedo que te hace daño. Solo sabe que funciona. El resultado es que los sistemas de recomendación de las plataformas más poderosas del mundo actúan, en la práctica, como amplificadores sistemáticos del odio: no porque sus creadoras y creadores lo quieran, sino porque el odio es rentable.
El odio amplificado por la inteligencia artificial no es solo un problema de salud mental o de convivencia social. Es un problema de democracia. Las sociedades donde el odio domina el espacio público son sociedades donde las minorías callan, donde los debates se empobrecen, donde la deliberación democrática se vuelve imposible.
El problema de la falsedad
Hay una distinción que la filosofía ha trazado con cuidado entre el error y la mentira. El error es involuntario: alguien cree algo falso sin saberlo. La mentira es intencional: alguien dice algo falso sabiendo que es falso. La mentira requiere un sujeto con voluntad, con conciencia, con intención de engañar. Esa distinción, que parece obvia, está siendo erosionada por la inteligencia artificial de una manera que tiene consecuencias filosóficas y jurídicas profundas.
Un modelo de lenguaje no miente en el sentido estricto del término. No tiene intenciones. No sabe que lo que dice es falso. Simplemente genera texto que es estadísticamente plausible dado el contexto, sin ningún mecanismo interno que verifique si ese texto corresponde a la realidad. Cuando un modelo de IA produce una alucinación —el término técnico para cuando genera información falsa con apariencia de veracidad— no está mintiendo: está fallando, pero el resultado, para la o el usuario que confía en esa información, es indistinguible de una mentira.
Esta ambigüedad tiene consecuencias importantes. En primer lugar, hace más difícil la atribución de responsabilidad —uno de los problemas que ocupó mi atención en Totalitarismo total—. Si nadie miente —si la falsedad es producida por un proceso automático sin intención— ¿quién responde por el daño que causa? La víctima de una información falsa generada por IA no tiene a una o un mentiroso a quien reclamar. Tiene un sistema, una empresa, un modelo de negocio. Las categorías jurídicas de la responsabilidad civil y penal están construidas sobre la noción de agente —persona física o jurídica que actúa con cierta intención o negligencia—, y esas categorías se desmoronan cuando el agente es un algoritmo.
La verdad dejó de ser únicamente un problema filosófico: hoy es también una disputa tecnológica, política y jurídica.
En segundo lugar, la producción masiva de contenido falso por parte de sistemas de IA está generando lo que algunos investigadores llaman polución epistémica: un ambiente informativo tan saturado de falsedades, de versiones contradictorias, de deepfakes y de contenido fabricado, que la capacidad de la ciudadanía de distinguir lo verdadero de lo falso queda comprometida.
El tercer aspecto es el más inquietante desde la perspectiva del derecho: la falsedad como arma estratégica. Las técnicas de generación de contenido sintético están siendo utilizadas —en realidad desde hace años— para influir en procesos electorales, para desprestigiar a adversarios políticos, para fabricar evidencia en procesos judiciales, para manipular mercados financieros.
El problema es que la verdad no es un lujo epistémico. Es el fundamento sobre el que reposan la confianza social, la deliberación democrática y el Estado de derecho.
El problema de la polarización
La polarización política no es un fenómeno nuevo ni es causada exclusivamente por la tecnología. Las sociedades humanas siempre han tenido conflictos entre grupos con valores e intereses distintos y esos conflictos a veces han adoptado formas extremadamente violentas. Pero hay algo cualitativamente diferente en la polarización que estamos observando en las democracias contemporáneas y hay razones para creer que los sistemas algorítmicos tienen una responsabilidad importante en ese cambio.
El tema nos regresa al problema del odio. Los algoritmos de recomendación de las grandes plataformas tienden a favorecer el contenido que genera reacciones emocionales intensas y ese contenido tiende a confirmar los prejuicios de la o el usuario, a presentar al grupo contrario como amenazante o despreciable, a simplificar la realidad en términos de “nosotros” contra “ellos”. Una tesis muy schmittiana y muy disruptiva.
La polarización algorítmica radicaliza las posiciones de las personas frente a temas que pueden ser profundamente discriminatorios y potencialmente violentos. Pienso, por ejemplo, en los prejuicios contra grupos históricamente excluidos como migrantes o pueblos indígenas.
Para colmo, los actores —estatales y no estatales— que quieren polarizar pueden hacerlo con recursos relativamente modestos. Generar campañas masivas de contenido que alimenten los miedos y los resentimientos contra grupos específicos resulta fácil y está al alcance de cualquier persona con los conocimientos técnicos elementales, lo que constituye un factor de riesgo adicional para las sociedades democráticas.
Dejo anotados estos cinco problemas como posibles eslabones para un futuro volumen en el que mis reflexiones sobre la reconfiguración del poder en los tiempos de la inteligencia artificial podrían ampliarse. En todos los casos, las tesis centrales de mi libro Totalitarismo total se mantienen firmes: nunca habíamos asistido a una concentración potencial de poder como la que existe en nuestros días y la lógica del mercado se ha ido imponiendo maximizando los beneficios de actores privados con escasas o nulas intuiciones morales.
En esta tesitura emerge de nuevo la necesidad de pensar la relación entre el poder y el derecho. La inteligencia artificial es, entre otras cosas, una nueva forma de poder. Un poder que se acumula con una velocidad a la que el derecho no ha conseguido, todavía, seguir el paso.
* Investigador en el Instituto de Investigaciones Jurídicas de la UNAM y director general de Siglo XXII. Derecho y Tecnología. Es autor de Totalitarismo total (Taurus, 2026), entre otros libros.
