Una teoría crítica de la inteligencia artificial

by Daniel Innerarity

El cambio tecnológico afecta a un valor fundamental de las sociedades democrá la capacidad de decidir. Cada vez más decisiones, cotidianas o políticas, son automatizadas y se delegan en sofisticados artefactos. A partir de la reflexión acerca del concepto de decisión democrática, Innerarity elabora, con rigor analítico, una filosofía política de la inteligencia artificial que se pregunta qué tipo de voluntad popular se está gestando, al tiempo que se aleja del determinismo tecnológico y de posiciones catastrofistas o apocalípticas. Este ensayo, galardonado con el III Premio de Ensayo Eugenio Trías, propone una reflexión filosófica sobre los principales asuntos que la inteligencia artificial nos obliga a las capacidades de los algoritmos y las de los humanos; la naturaleza de la automatización, la inteligencia y la creatividad; la fiabilidad de la analítica predictiva; el significado de la transparencia; la dimensión intuitiva y corporal del conocimiento; el poder y la inexactitud de los datos; el aspecto colectivo y social de la privacidad, o el lugar de la indeterminación y el azar en un entorno mediado por la gobernanza algorítmica. Desde una perspectiva a la vez crítica y respetuosa con la complejidad tecnológica, Innerarity plantea una idea novedosa del control político de la tecnología que promueva la igualdad y la democratización del entorno algorítmico, así como un nuevo contrato social entre los humanos y las máquinas, con el fin de lograr su integración equilibrada y justa en un mundo negociable. En el gran debate de la inteligencia artificial, Innerarity reexamina el concepto de democracia en la actual encrucijada tecnológica.

498 pages, Kindle Edition

Published March 19, 2025

About the author

Daniel Innerarity is professor of social and political philosophy at the University of the Basque Country, research professor at the Basque Foundation for Science (IKERBASQUE) and director of the Institute for Democratic Governance (Globernance).

Reviews

[Josuan Eguiluz · Rating 5 out of 5]

Más que un libro se trata de un manual de referencia, al que es menester retornar con asiduidad.

Innerarity es un pensador de los que crea y marca escuela, por su magisterio, profundidad y lucidez.

Esta lectura me ha abrumado y apasionado a través de sus más de 500 páginas.

En mi opinión, sobresaliente en el análisis riguroso de la interacción de la tecnología con lo humano, lo social, lo político, lo filosófico y tantas otras instituciones atravesadas por la IA. No conozco un abordaje tan ambicioso como el de este libro.

Está repleto de ideas innovadoras, originales y muy sugerentes. En ocasiones, uno se siente apabullado -e incluso aturdido- por tantísimo conocimiento, reflexiones y densidad intelectual.

Destaco especialmente su mirada sobre lo que diferencia a la IA del ser humano. Obsesionados por descifrar en qué se parecen a nosotros las máquinas y cómo nos pueden sustituir (reemplazo), me resulta liberador centrar la atención, en lo contrario, en que nos diferenciamos y como eso nos lleva a poder lograr más y mejor en virtud de su ayuda (complemento).

Según Innerarity, la IA tiene inteligencia refleja, no reflexiva. Es inteligente pero no sabia. Es incapaz de hacerse cargo de la economía de las singularidades. La inteligencia natural es heurística (toma atajos). Llega a soluciones y conclusiones de un modo que quizá no sea plenamente justificable, pero que es valioso. Se hace cargo de la novedad, que no aparece en ningún repertorio, en el marco de la complejidad.

Volviendo a la idea inicial, creo que he de volver a retomar mis apuntes sobre este manual.

Para seguir reflexionando sobre: decidir si nuestras vidas deben estar regidas por procedimientos algorítmicos y en qué medida, cómo articular los beneficios de la robotización, automatización y digitalización con aquellos principios de autogobierno que constituyen el núcleo normativo de la organización democrática de las sociedades. Tamaña empresa, ¿no lo crees?

[Vicenzo · Rating 4 out of 5]

Primera lectura del año. Muy interesante. Profundo y ameno. Se trata de una reflexión filosófica sobre temas vinculados con la inteligencia artificial: capacidades de los algoritmos y de los humanos, la automatización, la inteligencia y la creatividad, la analítica predictiva, la transparencia, el conocimiento, el poder y los datos, la privacidad, el azar, la gobernanza algorítmica.
Creo que es un análisis ponderado y muy lúcido sobre la IA.

[Fernando Soler · Rating 5 out of 5]

Excelente obra que si bien exige al lector un nivel de atención alto, está escrita con un lenguaje razonablemente inteligible para los no versados en el mundo de la inteligencia artificial. En un mundo cada vez más dominado por autocracias, donde el cambio climático nos amenaza y no avanzamos debidamente para que nos afecte lo menos posible, como manejemos la Inteligencia Artificial es otro problema serio y fundamental para el futuro de la democracia. Esta obra explica los pros y las contras y sugiere soluciones desde una perspectiva no contaminada, lo cual es de agradecer. Los riesgos están ahí y no son menores, esperemos que, una vez más, la civilización consiga manejarlos y utilizarlos en beneficio de todos y no de unos pocos.

[Rafael Borrego · Rating 2 out of 5]

Este tercer premio de ensayo Eugenio Trías me ha resultado menos interesante que los anteriores de Agustín Fernandez Mallo y Ana Carrasco Conde. Si hay una parte que me ha gustado bastante sobre como equilibrar el uso de la inteligencia artificial en lo artístico, pero cuando comienza a hablar de las bases de datos y la indudable influencia que tiene en la sociedad, se me ha hecho bastante espeso y poco atractivo para la lectura. Puede que la falta de interés tenga que ver con temas que no tocaban áreas en las que habitualmente estoy investigando.

[Carlos Pino · Rating 5 out of 5]

Libro imprescindible en los tiempos que corren.
Si un experto en el asunto ha necesitado casi 500 páginas y 70 de bibliografía para exponer el estado de la cuestión es obvio que nos enfrentamos a un problema de los endiabladamente complicados.
Una cuestión que requiere de la reflexión y el consenso de toda la sociedad.
La IA ha llegado para quedarse, el futuro se conformará con las decisiones clave que la sociedad tome en los próximos años.

[HURO PEGA · Rating 4 out of 5]

Excepcional sobre sobre lo que nos viene