¿Y SI FUERA UNA IA LA QUE ELIGIERA AL MEJOR GOBERNANTE?

La respuesta no es nada fácil. Y seguimos con la argumentación. Una inteligencia artificial está capacitada para analizar programas electorales de todos los partidos, comparar sus propuestas, revisar el historial de sus candidatos, estudiar qué promesas han cumplido y cuáles han quedado olvidadas. Incluso puede analizar indicadores económicos, tendencias sociales, necesidades de la población y calcular las consecuencias previsibles de determinadas decisiones políticas. Y en tiempo récord, para ella segundos, para nosotros una eternidad.

El alumno se preguntaba, en definitiva, si una máquina con tanta información a su alcance estaría en mejores condiciones que nosotros para elegir a quien debe gobernarnos.

La cuestión me pareció especialmente oportuna. Vivimos rodeados de sistemas que nos recomiendan qué comprar, qué película ver, qué música escuchar e incluso qué noticias merecen nuestra atención. Hemos incorporado esas recomendaciones a nuestra vida cotidiana con una naturalidad sorprendente. En ocasiones acertarán, en otras se equivocarán, pero hemos terminado acostumbrándonos a consultarlas. ¿Por qué habría de ser diferente en política?

Esa cuestión que nació una mañanita en una clase de bachillerato me llevó a leer y revisar algunas reflexiones recientes sobre inteligencia artificial y democracia.  Me interesé por Daniel Innerarity, Cathy O'Neil y Virginia Eubanks.

La investigación me lleva a plantear dos inquietudes. La primera, qué problemas nos puede acarrear confiar a una máquina la elección de nuestros representantes. Y la segunda, qué puede ocurrir con nuestra libertad y con la propia democracia cuando nos acostumbramos a delegar nuestras decisiones en sistemas artificiales.

La vieja aspiración de que gobiernen los mejores

La idea de que deberían gobernar quienes están mejor preparados tiene su anclaje en la etapa de la filosofía antigua. Platón ya se preguntaba cómo es posible que se dejara el gobierno de la ciudad en manos de ciudadanos que desconocían los asuntos sobre los que debían decidir. En su obra La República afirmaba que los gobernantes deberían conocer de manera profunda el bien y de la justicia. Aquella propuesta sigue viva o, al menos, latente.

¿Quiénes son los mejores? ¿Los más inteligentes? ¿Los más preparados? ¿Los más experimentados? ¿Aquellos que prometen mejores resultados?

Aristóteles arguyó una consideración bastante interesante. La política pertenece al ámbito de las acciones humanas y exige una virtud que denominó phrónesis, prudencia o sabiduría práctica. Gobernar implica examinar las circunstancias, deliberar sobre diferentes posibilidades y, finalmente, adoptar decisiones cuyos resultados rara vez pueden conocerse de antemano.

Lo interesante es que, veinticuatro siglos después, la inteligencia artificial parece ofrecernos una respuesta técnica a una parte de estas dificultades. Disponemos de herramientas capaces de manejar una cantidad de información que supera ampliamente nuestras posibilidades individuales. Y buena parte de los errores políticos nacen, precisamente, de la falta de conocimiento, de los prejuicios, de la improvisación y de la incapacidad para prever las consecuencias de determinadas medidas.

Daniel Innerarity ha dedicado buena parte de sus últimas investigaciones a estudiar esta transformación. En Una teoría crítica de la inteligencia artificial (2025), plantea los problemas que surgen cuando sistemas algorítmicos intervienen cada vez más en la elaboración de decisiones que afectan a la vida colectiva.

Su reflexión obliga a reconocer que la capacidad para procesar información y la legitimidad para ejercer el poder pertenecen a planos diferentes. Podemos disponer de un diagnóstico preciso sobre los problemas de una sociedad y continuar discrepando profundamente sobre las soluciones que debemos adoptar.

Por ejemplo, una inteligencia artificial analiza los programas de tres candidatos y concluye que el primero lograría un mayor crecimiento económico, el segundo reduciría considerablemente las desigualdades y el tercero conseguiría avances importantes en la protección ambiental. Los tres resultados parecen buenos. Elegir entre ellos necesita que establezcamos prioridades, valoremos consecuencias, seamos previsores en cuanto al gasto que supone y nos preguntemos qué tipo de sociedad queremos construir. Sobre todo, esto último.

Así que, la palabra "mejor", que parecía tan sencilla en la pregunta del alumno, comienza a complicarse.

Porque una inteligencia artificial necesitará algún criterio para determinar quién merece gobernarnos. Y ese criterio tendrá que establecerlo alguien. Eso es, un “alguien”, no un “algo”.

¿Quién decide lo que debe decidir el algoritmo?

Existe una confianza extrema en la objetividad de las matemáticas. Muy a menudo, los números ofrecen, en apariencia, una seguridad de la que carecen las opiniones. Frente a las discusiones políticas, cargadas de intereses, enfrentamientos y promesas incumplidas, un algoritmo puede transmitir una impresión de imparcialidad.

Sin embargo, los sistemas de inteligencia artificial trabajan con datos seleccionados y modelos construidos mediante decisiones humanas. Los resultados dependen de esas elecciones previas.

Cathy O'Neil lo explica en Armas de destrucción matemática (2018), donde examina cómo determinados modelos automatizados pueden reproducir y agravar desigualdades sociales. Sus investigaciones muestran que la aparente objetividad matemática puede ocultar decisiones discutibles, especialmente cuando los sistemas son opacos y las personas afectadas carecen de mecanismos para cuestionar sus resultados.

Imaginemos que pedimos a una IA que encuentre al candidato capaz de reducir el desempleo.Es un objetivo razonable. Pero tendríamos que preguntarnos qué clase de empleo queremos promover, qué condiciones laborales consideramos aceptables, qué desigualdades estamos dispuestos a tolerar y qué importancia concedemos a la estabilidad económica de las familias.

Un gobierno podría mejorar las cifras de empleo mientras empeoran las condiciones de vida de muchos trabajadores. El indicador estadístico ofrecería una información relevante, aunque insuficiente para valorar el conjunto de la situación.

Lo mismo sucede con la seguridad, la educación, la vivienda o la sanidad. La manera de analizar un problema influye en cómo lo entendemos. Y aquello que queda fuera de los indicadores corre el riesgo de desaparecer de las prioridades políticas.

Virginia Eubanks estudió las consecuencias de esta lógica en La automatización de la desigualdad (2021). Su investigación se centra en sistemas utilizados por distintas administraciones estadounidenses para gestionar ayudas y servicios sociales. Presenta algunos casos que muestran procedimientos automatizados que clasifican a personas vulnerables y condicionan su acceso a prestaciones esenciales.

Hay algo especialmente preocupante en esta manera de organizar las decisiones públicas. Una persona puede terminar convertida en un conjunto de datos, una puntuación de riesgo o una categoría administrativa. Su situación concreta, sus circunstancias familiares o sus dificultades particulares pueden quedar mal representadas en el sistema que debe atenderla.

La cuestión tiene una evidente dimensión ética. ¿Qué sucede cuando una decisión que afecta directamente a la vida de alguien se justifica mediante un procedimiento que esa persona apenas puede comprender y difícilmente puede discutir?

El problema se vuelve todavía más serio si trasladamos esa lógica a la elección de gobernantes. Una inteligencia artificial podría recomendar un candidato después de analizar millones de datos. Pero sería legítimo exigir que explicara por qué considera preferible su proyecto político, qué valores han orientado la comparación y qué intereses podrían haber influido en el diseño del sistema.

Y, una vez conocidas esas razones, seguiríamos teniendo derecho a discrepar.

Gobernar bien y gobernar legítimamente

Aquí aparece una de las distinciones más importantes de la filosofía política. Un gobierno puede adoptar decisiones eficaces, obtener buenos resultados económicos y gestionar competentemente numerosos asuntos públicos. Todo ello merece ser valorado. Pero la democracia exige también que el poder se ejerza mediante procedimientos legítimos y permanezca sometido al control de los ciudadanos.

La historia tiene ejemplos de regímenes autoritarios que alcanzaron objetivos económicos o administrativos. Esos resultados, por positivos que fueran, jamás bastarían para justificar la eliminación de las libertades políticas.

La democracia descansa sobre principios fundantes y fundamentales que no podemos obviar: la igualdad ante la ley, la participación política, el pluralismo, los derechos fundamentales, la tan importante separación de poderes y la posibilidad de exigir responsabilidades a quienes gobiernan.

Jürgen Habermas insiste en que la legitimidad democrática está vinculada con la deliberación pública. Las decisiones políticas deben poder justificarse mediante razones abiertas a la discusión de aquellos a quienes afectan. Como ciudadanos necesitamos conocer los argumentos, examinarlos y participar en los procesos mediante los cuales se construye la voluntad colectiva, sobre todo en aquellas decisiones que nos afectan directamente.

La incorporación de sistemas algorítmicos complica la situación. Frank Pasquale las estudió en The Black Box Society (2015). La expresión caja negra describe bien una situación en la que conocemos los resultados de determinadas operaciones, pero ignoramos los procedimientos que los han producido.

Me inquieta sobremanera que decisiones de gran trascendencia política dependieran de máquinas cuya "lógica" apenas conocemos como ciudadanos y que incluso las instituciones encargadas de supervisarlos encuentran dificultades para examinar.

Aunque consiguiéramos hacerlos completamente transparentes, quedaría pendiente el problema de su legitimidad. Comprender cómo se ha elaborado una recomendación permite evaluarla y discutirla. La decisión acerca de quién debe gobernar continúa perteneciendo a la comunidad política y a sus procedimientos constitucionales.

Me parece que debemos ser especialmente cuidadosos con creer que los problemas de la convivencia se pueden resolver definitivamente mediante el conocimiento de un experto.

Son necesarios los buenos expertos, sin duda. Añadamos instituciones más competentes, información rigurosa y gobernantes que sean capaces de aprender de quienes saben más que ellos. Pero una comunidad política está formada por personas que mantienen diferentes convicciones acerca de la justicia, la libertad, la igualdad y el bien común. Esas diferencias necesitan encontrar cauces de expresión y deliberación.

La inteligencia artificial , ¿puede contribuir a que conozcamos mejor nuestros problemas?

Cuando los datos pretenden representar nuestra voluntad

Internet acumula una enorme cantidad de información sobre nuestras preferencias, costumbres, intereses y comportamientos. Cada like, búsqueda, compra, comentario o interacción en las redes sociales deja una huella que puede delatar nuestra ruta digital diaria.

Los partidos políticos conocen desde hace tiempo el valor de esa información. Las herramientas de inteligencia artificial amplían considerablemente las posibilidades de identificar tendencias y elaborar perfiles.

Podríamos llegar a imaginar una democracia en la que, en lugar de preguntarnos qué queremos mediante elecciones y procedimientos de participación, los sistemas informáticos intentaran deducirlo a partir de nuestros comportamientos digitales.

Innerarity ha estudiado esta relación entre inteligencia artificial y democracia, señalando las transformaciones que experimentan las instituciones y el espacio público cuando los datos adquieren una importancia creciente en la toma de decisiones.

Pero, conviene recordar que nuestros comportamientos revelan solamente una parte de lo que somos. No es nada raro leer una noticia por curiosidad, sin tener que comulgar con la línea editorial o escuchar una opinión con la que no estemos de acuerdo en absoluto o interesarnos por una propuesta que, seguramente, después rechazaremos. Las personas ponemos en cuarentena nuestras convicciones cada dos por tres, cambiamos de opinión y, a veces, nos damos cuenta que aquello que deseábamos era incompatible con nuestros principios.

Una democracia necesita ciudadanos capaces de reflexionar sobre sus propias preferencias. Si identificamos la voluntad política con aquello que la IA puede predecir sobre nosotros, estaríamos reduciendo considerablemente nuestra comprensión de la libertad.

Es posible que la inteligencia artificial nos pueda llegar a conocer muy bien desde el punto de vista estadístico. Pero cuesta admitir que pueda decidir qué es lo que debemos querer.

He aquí otro problema que anuncia una segunda parte de este artículo.

Estamos hablando de la posibilidad de que una inteligencia artificial elija a nuestros gobernantes. Pero existe una cuestión mucho más cercana, porque ya forma parte de nuestra experiencia cotidiana: la influencia de los sistemas algorítmicos en la información que recibimos, en nuestras preferencias y en la formación de nuestras opiniones políticas.

Es posible que una máquina no llegue nunca a elegir directamente a un presidente del Gobierno. Pero, igual deberíamos examinar si esas tecnologías ya están interviniendo en las decisiones de quienes acudimos a votar.

De eso trataría una segunda parte: de la libertad del ciudadano, de los nuevos poderes tecnológicos y de lo que está en juego cuando la inteligencia artificial comienza a formar parte de la vida democrática.