La inteligencia artificial o el desafío del siglo. Anatomía de un antihumanismo radical

by Éric Sadin

Con varias obras a sus espaldas, Éric Sadin se revela como uno de los ensayistas europeos más críticos de las formas tecnológicas contemporáneas desde una mirada cuya base es el antiguo humanismo filosófico. Si primero se había abocado al modo en que las nuevas tecnologías fomentaban un asistencialismo personalizado y restrictivo para asir la experiencia (La humanidad aumentada), si luego había trabajado el nexo entre estas supuestas “tecnologías de la libertad” y los idearios libertarios del siglo XX (La silicolonización del mundo), ahora Sadin encara el concepto de “inteligencia artificial” a partir de la historia de las ideas y de una fenomenología de los aparatos para evaluar qué cambios radicales se están dando en el modo de construcción de lo real.

La hipótesis de este libro clave es que la causa (y no la consecuencia) de la pregnancia del fenómeno de la inteligencia artificial es un cambio de estatuto de las tecnologías digitales: de ser prótesis acumulativas e intelectivas –porque permiten el almacenamiento, la indexación y el tráfico veloz de información–, han pasado a ser entidades de las que se espera que enuncien una verdad a partir de la interpretación automatizada de situaciones. Bajo un arco de formas que van de las más amables (sugerencias de compra, de movimientos) a las más coactivas (clasificación e indexación de los humanos para incluirlos/excluirlos de ciertos beneficios y derechos), en áreas relacionadas con la vida social general (la economía) o en otras que rozan la intimidad del individuo (la evaluación médica sobre su propio cuerpo), la inteligencia artificial propone diagnósticos que se suponen superiores a los humanos porque parten del manejo y correlación de datos imposibles de realizar por un individuo. Así, gracias a este poder de enunciar una verdad que los humanos no podemos ver, la tecnología deja de ser protésica para devenir antropomórfica. La autonomía de decisión de los sistemas de inteligencia artificial termina de cerrar el círculo de este cambio radical, enfrentándonos por primera vez con el estadio del tecno-logos de la técnica: no un logos sobre la técnica producido por los humanos sino humanos modelados por una técnica capaz de producir discurso o verdad. En este nuevo régimen, sin réplica posible, se juega la vocación humana primordial de habitar el mundo.

Genres: Philosophy

328 pages, Paperback

Published January 1, 2012

Reviews

[Natalia · Rating 4 out of 5]

El estilo de Sadin se hace un poco pesado a ratos, con un punto, yo diría de "verborrea", en el sentido de que podría contar lo mismo con mucho menos texto y con frases menos ornamentadas. Pero entiendo que es una elección de muchos autores no "sucumbir" a las lógicas de la eficiencia y no adoptar un estilo constringido y simplificado. En ese sentido, el libro resulta más lento de digerir que otros, pero desde luego, en mi opinión, las ideas que contiene merecen la pena.

Para mí, una perspectiva muy necesaria en el debate alrededor de la inteligencia artificial, que se echa de menos en muchos espacios en los que ya nadie se atreve a pensar "out of the box". Sadin aboga por revalorizar nuestro derecho a tomar la iniciativa en nuestra propia vida, equivocarnos, dejarle parte del juego al azar y atrevernos a seguir enfrentándonos a lo real, a lo incómodo, a lo que no está perfectamente controlado y predeterminado por modelos. En primer lugar, por el valor que le otorgamos (o deberíamos otorgarle) a la autonomía. En segundo lugar, por una convicción epistemológica de que la verdad, si existe, no es quizá sólo una o no es quizá alcanzable. Y en tercer lugar, porque la inteligencia artificial no se produce ni se distribuye en el vacío, sino que existe dentro de un sistema económico en el que reina la necesidad de vender y de controlar al consumidor.

[Juan Manuel · Rating 2 out of 5]

Muy aburrido y largo, lo terminé dejando sin poder llegar al final.

Demasiado centrado en un enfoque de "control" de las individualidades, de los sujetos y de los cuerpos y muy poco en el desarrollo de la inteligencia articial respecto a las fuerzas productivas. Preferible leer el libro de Nick Srnicek que -en el marco del "capitalismo de plataformas"- analiza a la IA desde una visión mucho más materialista.

[paula ☽ · Rating 1 out of 5]

definitivamente el peor libro que leí en todo el año y tal vez en toda mi vida, no tengo palabras para expresar la repulsión que me genera pensar que lo leí de principio a fin en vez de dejarlo después del primer capítulo como debería haber hecho. lo único bueno es que al mandarle un correo a la editorial porque tenía un fallo ortográfico fueron majísimos

[Lauteure_a_disparu · Rating 5 out of 5]

Un très grand livre, que je recommande à quiconque veut affiner sa perception de l'IA et de toutes les innovations dits "disruptives", qui malheureusement n'augurent la plupart du temps rien de bon.
Sadin remet durement en question actuelle du progrès-qui-est-toujours-bon-et-de-toute-manière-inévitable, du bien-fondé de l'IA, en ce qu'elle nous enlève souvent notre libre arbitre et participe au néolibéralisme.
Sadin a un style parfois un peu alambiqué mais toujours riche et élégant.

Mes seules deux critiques, qui sont liées :
- Il est parfois presque néo-luddite
- Il est opposé au néolibéralisme et au capitalisme débridé, mais pas au capitalisme tout court, ce qui restreint sa critique économique.
Exemple : il semble opposé aux applis médicales, au lieu de proposer qu'elles deviennent une partie (non-obligatoire évidemment! à bas le flicage des individus "pour leur bien") de la Sécu. Après tout, on pourrait imaginer que des personnes qui ont des maladies rares ou sans diagnostic bénéficierait de technologie de pointe, si elles étaient *prescrites et remboursées par la Sécu dans certains cas seulement* au lieu d'appartenir à des start-ups privées.

Je lui donne quand même 5 étoiles car il m'a été d'une grande aide dans mon mémoire, à la fois par les détails historiques et techniques et par son analyse, qui reste poussée et radicale.

[EDUARDO PONCE · Rating 5 out of 5]

La inteligencia artificial maravilla y entusiasma. El poder que posee un cierto algoritmo, esto es la estructura lógica que controla una determinada base de conocimiento (sistema experto) para emular razonamientos y acciones humanas con precisión asombrosa, moldean cada vez más la vida humana. Las valoraciones, las formas de pensamiento, las decisiones, las organizaciones políticas y lo que podamos o no conocer gracias a los “agentes digitales” son, sin duda, “el signo del siglo” y cualquier camino futuro. El manejo de la información, en grandes cantidades y de manera altamente acelerada, ha sufrido una transformación esencial a partir del presente siglo. La tecnología computacional se ha convertido en algo esencialmente diferente de lo que fue en sus inicios; es hoy ya esperable que el manejo digital de un sistema experto sea capaz de producir verdades y conocimientos que determinen guías de conductas, caminos de decisión, formas de organización humanas, y ya no solo “acompañen” a las acciones humanas, todo ello sobre la base del poder para interpretar automáticamente situaciones. De la idea de una I.A que significa una ayuda a las acciones y decisiones humanas, de ser una herramienta precisa y eficiente en la cual se puede confiar, a pasado a ser otra cosa, esencialmente distinta, a constituirse en una franca determinación de las acciones, decisiones y producción de conocimientos de todo tipo (en el plano racional tal vez la reflexión filosófica aún escapa a su control). La desnaturalizacion del todo gracias a la inteligencia artificial, nos separa, lo que en otro momento nos dio la capacidad de alto manejo de formas, conocimientos, hoy dia gracias a la inteligencia artificial nos quita el poder real de descicion, los gadjets que nos daban poder hoy solo seran un apendice cuasi grillete que nos aleja de lo real, ahogandonos en la economia de la atencion irreal CRITICA DIRECTA A LA IDULGENCIA DEL CAMPO DE ACCION DE LA INTELIGENCIA ARTIFICIAL, UN AVISO DE ALARMA PARA LA LEGISLACION CONTUNDENTE Y BIEN DIRECCCIONADA, ASI COMO PARA LA GENERACION DE UNA ETICA INFORMATICA REAL Y CLARA SOBRE LOS CAMPOS DE ACCION Y LAS RESTRICCIONES QUE DEBEN SER MARCADAS Y RESPETADAS PARA UN CONTROL CERRADO Y CONTUNDENTE, Y ASI HACER QUE LA IA ESTE PARA BENEFICIO DE LA HUMANIDAD, Y NO SOLO DE UNOS HOMBRES

[Mila · Rating 5 out of 5]

Un ensayo filosófico e histórico elegantemente escrito, al estilo Sadin, por supuesto, que permite descubrir y elaborar otras perspectivas acerca de la participación de las inteligencias artificiales en todas las áreas de nuestra vida. La radical visión del autor, a veces neoludita, pone de manifiesto algunos puntos de vista que me parecen interesantes: «Lo humano está animado por una pasión perturbadora: engendrar dobles artificiales de sí mismo».

[Gabriel Miranda · Rating 4 out of 5]

Si se busca profundidad sobre este lugar común de la contemporaneidad, este es el libro. Sadin explora el centro mismo del problema: el pasaje de tecnología protésica a antropomórfica, el desorden generado en el modo de construcción de lo real, el punto de no retorno de asumir a la IA como entidades que interpretan datos y enuncian decisiones. Es un libro para tener de cabecera y muy cerca para intentar entender las claves de esta era poshumana.

[Lolo · Rating 4 out of 5]

Un essai traitant de l'intelligence artificielle sous l'angle d'une mise en garde quant au fait qu'elle représente - sous couvert de simplifier la vie des humains - une dépossession de nos prérogatives, connaissances, compétences, etc., donc de notre liberté "réelle" au service de la consommation.

[Valentín Serrano García · Rating 4 out of 5]

Good, although i should give him just three stars.
The pace is very slowly and, sometimes, shallow. It could have been much shorter.
Anyway, what Eric Sadin says is true and is important that we know and assume it.

[Dylan Rk · Rating 3 out of 5]

I liked it; it’s a great essay, though somewhat repetitive. It’s not one of my favorite books on this topic, but it’s a good exploration of the political side of AI and how people can work toward a more human-centered future.

[Laura_Camus · Rating 4 out of 5]

Entre lo tecnofílico y lo tecnofóbico, una tercera vía que impulsa a no obviar el pensamiento y visualizar las transformaciones silenciosas producidas por la técnica.

[Emma (thecourageofbooks) · Rating 3 out of 5]

Très intéressant.

[Judoucette · Rating 2 out of 5]

Beurk les IA, vive les poulpes 🦑

[Santiago Bardi · Rating 3 out of 5]

Me gustó mucho! Pero hacia el final empezó a divagar una banda.

[Labellasimpleza]

haga lo que se haga, no se puede escapar a la fortuna. mil máquinas jamás podrán hacer una flor ✨️🦋