Una teoría crítica sobre la inteligencia artificial, entre poder, libertad y democracia

Questo articolo è disponibile anche in:

Desde que ChatGPT debutó en 2022, la inteligencia artificial (IA) ha irrumpido con fuerza en la agenda pública y política. Como destacó Norberto González en su larga reseña del libro de Daniel Innerarity Una teoría crítica de la inteligencia artificial, la cobertura mediática de la IA ya había superado, al menos en los medios internacionales, a la de conflictos de larga duración como el enfrentamiento entre Hamás e Israel. Todos ahora —especialmente los legisladores, los políticos, las universidades e incluso el Vaticano— se cuestionan sus implicaciones éticas, políticas y sociales.

Innerarity nos propone interpretar la revolución de la IA a la luz de la historia de la tecnología: si en los años 90 Internet estaba rodeada de utopías libertarias y anarquistas, hoy nos encontramos inmersos en el “AIthoritarianism”, un clima en el que la tecnología genera desconfianza, temor y polarización. La promesa de libertad ilimitada de Internet ha dado paso a plataformas que, aunque se presentan como neutrales, concentran un enorme poder económico y social, a menudo superiores a los de muchos Estados.

El libro se divide en tres partes.

1. Crítica de la razón algorítmica
   Innerarity distingue la inteligencia artificial de la humana, subrayando las cualidades que hacen única a la mente humana: el sentido común, la creatividad, la capacidad de aprendizaje contextual y la “inteligencia corporal”. Los datos, por muy abundantes que sean, no hablan por sí solos y necesitan interpretación: la cantidad no sustituye la calidad del conocimiento. Resulta especialmente interesante su reflexión sobre la privacidad: no basta con la lógica contractual (“he leído y acepto las condiciones”), porque los ciudadanos no negocian en igualdad de condiciones con las plataformas. La privacidad debe entenderse como un bien público, no solo como un derecho individual.
2. Crítica de la razón tecnológica
   La IA no es simplemente una nueva tecnología: es una revolución comparable al impacto de la imprenta, pero que acelera los procesos iniciados por la digitalización. A diferencia de Marshall McLuhan, que veía la tecnología como una extensión de los sentidos, Innerarity destaca la novedad histórica de la IA: su capacidad para tomar decisiones que ni siquiera sus creadores comprenden del todo. Esto plantea desafíos fundamentales en términos de transparencia, gobernanza y responsabilidad: la opacidad y el auto dinamismo no son sólo fallos, sino características propias de los sistemas algorítmicos, y los sesgos algorítmicos reflejan los sesgos humanos. La solución no es una transparencia absoluta, sino una “comprensión colectiva” por parte de la ciudadanía sobre las implicaciones de la tecnología.
3. Filosofía política de la razón algorítmica
   La tercera parte analiza el impacto de la IA en la democracia. El autor advierte sobre la supuesta neutralidad de los algoritmos: al basarse en datos del pasado, tienden a conservar el statu quo y a reducir la reflexividad política. La gobernanza algorítmica, aunque pueda ser más eficiente, corre el riesgo de volver pasivos a los ciudadanos, privándolos de la capacidad de deliberar. Innerarity insiste en la necesidad de equilibrar la delegación tecnológica con el control popular: delegar es inevitable, pero siempre debe existir un control colectivo significativo.

Reflexiones clave

• La persona no puede reducirse a un perfil algorítmico: la libertad humana genera novedades que los modelos predictivos no pueden anticipar.
• La democracia exige deliberación y pluralismo, no cálculos matemáticos de deseos agregados.
• Los algoritmos no sustituyen a la política: pueden amplificar sesgos o corregirlos, pero no pueden decidir sobre aquello que es humano e imprevisible.
• El desafío final es educativo y cultural: superar la seducción tecnológica y preservar el principio decisional de la democracia, que no es epistémico sino político.

En definitiva, Innerarity ofrece una guía completa y equilibrada para orientarnos en el mundo de la IA: nos invita a comprender tanto sus riesgos como sus potencialidades, a integrarla en la sociedad sin renunciar a aquello que hace verdaderamente humanas nuestra libertad y nuestra democracia.

A continuación, el enlace al texto completo publicado en la revista Church Communication Culture (en español).