Con el lanzamiento de ChatGPT a fines de 2022 se franqueó un umbral inédito en la historia de la humanidad: el giro intelectual y creativo de la tecnología. Desde entonces se produjo un movimiento de externalización de nuestras facultades más determinantes: producir lenguaje, imágenes, símbolos; interpretar el mundo y devolverlo en forma de enunciados verosímiles. En El desierto de nosotros mismos, Éric Sadin examina con rigor esta delegación creciente de capacidades y advierte que no se trata de una simple innovación técnica, sino de la negación radical de nuestra condición antropológica. La generalización de un pseudolenguaje matematizado y estandarizado, accesible a todos y destinado a volverse hegemónico, inaugura una era de indistinción en la que ya no sabemos con certeza qué ha sido producido por una experiencia humana y qué por una inferencia algorítmica.
Las consecuencias son profundas y múltiples. La proliferación de imágenes y textos sin origen identificable erosiona la confianza pública y alimenta el resentimiento; la gestión automática de tareas cognitivamente complejas amenaza con reconfigurar de raíz Los sectores culturales y de servicios. No estamos ante una nueva disciplina artística comparable con la fotografía o el cine, sino ante la ejecución automatizada de operaciones que durante siglos requirieron aprendizaje, sensibilidad y responsabilidad. La expansiona de la IA generativa no responde a un proyecto deliberado democráticamente, sino a la visión de ingenieros ya la ambición expansiva del imperio tecnológico.
Con la lucidez critica que caracteriza su obra, Sadin ofrece aquí, un análisis minucioso de las lógicas técnicas y económicas que impulsan esta transformación, pero también hace un llamado urgente. Si continuamos cediendo a las maquinas el ejercicio de nuestras facultades, corremos el riesgo de convertirnos en espectadores pasivos de un mundo gestionado algorítmicamente. Este libro es, al mismo tiempo, diagnóstico y plan de acción: una defensa intransigente de aquello que nos constituye coma sujetos -la palabra, el juicio, la imaginación- frente a la tentación de delegarlo todo. De hacerlo, advierte, habitaremos un porvenir en el que la humanidad, despojada de sí, avance por el desierto de su propia ausencia.
Disfruto mucho leyendo a Sadin. Una de las opiniones más claras y contundentes sobre la emergencia de la inteligencia artificial generativa y sobre cómo estamos sacrificando en su altar aquello que nos hace humanos: la creatividad, el arte, en definitiva, la cultura. Un libro que te obliga a mirarte en el espejo, y ante la imagen incómoda que proyecta cambiar una o dos cosas de tu relación con la IAG.
me veréis allí en el frente contra el fundamentalismo de la IA, espero veros a vosotrxs también 🫵🏻
Un ensayo basado en la aparición de las IA generativas, en sus efectos en el lenguaje, en la educación, en el arte y la cultura, en la singularidad del ser humano, en el trabajo… Apoyándose en grandes pensantes como Arendt, Weil, Valery… va trazando por bloques su preocupación por el avance de esta tecnología que, bajo el apoyo de responsables políticos como Macron y los barones de Silicon Valley, pretenden imponernos.
Pero sí que es verdad que lo hace desde una posición bastante hater y a veces sin esperanza, salvo en la parte final del libro, donde está el listado de exigencias y acciones, dirigidas tanto a los responsables de estas tecnologías como a los consumidores, la sociedad.
Aún así, ha sido una lectura muy enriquecedora y en un timing perfecto, cuando solo escuchas “me ha dicho la IA” y todo el mundo anda con ChatGPT.
Hay algo peor que tener un mal pensamiento. Es que le den a uno el pensamiento hecho. Hay algo peor que tener un alma mala y hasta de hacerse un alma mala. Es que le den a uno el alma hecha. Hay algo peor que tener un alma perversa. Es tener un alma acostumbrada. (Charles Péguy, frase mencionada en el libro).
Lectura incómoda, por lo tanto gran ejercicio intelectual.
Sadin logra expresar con claridad y dotar de marco teórico casi todas las intuiciones, sentimientos y preocupaciones que comenzaron a atravesar mi día a día como ingeniero de software desde la expansión viral de los LLMs en cada segmento de nuestras vidas, en especial la angustia de sentir cada vez menos propias a mis creaciones, similar a lo que pasaba con los artesanos que pasaban a la línea de ensamblaje en el siglo XIX, la sensación de que el "craft" se volvió una cuestión transaccional en la cual lo único que importan son los resultados, en detrimento del proceso. Incluso en una industria profundamente obsesionada con el utilitarismo, la optimización continua y la automatización (obsesión que nos condujo a estos puertos, como bien señala el autor, refiriéndose al fenómeno como una "ironía de la historia"), antes de este viraje, nuestros días se correspondían con las características típicas de una experiencia autotélica: era común pasarnos horas y horas dándole vueltas a un problema para luego, en la ducha o despertándonos en medio de la noche, sorprendernos con una posible solución que nos llenaba de orgullo sobre nuestras propias capacidades, nos hacía sentir parte de un aparente círculo virtuoso. El fin encastraba con el medio. Esto cambió drásticamente en un período muy corto de tiempo: hoy Claude Code o Codex hacen en quince minutos lo que a los humanos nos habría llevado días, y de manera más completa, eficaz. Un prompt bien armado como input y al rato una solución cocinada, algún que otro cambio o revisión de parte nuestra, y listo. En el medio, lo que antes era un proceso de exploración y desarrollo de las capacidades propias, pasó a ser una caja negra externa de la cual tenemos control mínimo.
Recomiendo este libro a cualquiera que desee darle una vuelta de tuerca más a la narrativa optimista del desarrollo tecnológico, prestándole especial atención al lado B del avance. Es alimento para el pensamiento crítico y herramienta para acciones individuales y colectivas en nuestra cotidianeidad.
---
Nota al pie: publicaré unas líneas sobre estos temas en mi blog/medium próximamente.
Il m’a complètement perdu à partir de l’avant-dernier chapitre, particulièrement dans son « guide pratique de l’action mis entre les mains de tous »… Dommage, sinon c’était bon! J’ai surligné la moitié des phrases dans les premiers chapitres jusqu’à ce que ça devienne un peu redondant. C’est pas le meilleur livre critique de l’IA qu’il y a. J’ai préféré de loin Les prophètes de l’IA de Thibault Prévost!
Des éléments intéressants mais rien de bouleversant. L'écriture est chiadée (on a bien compris qu'il n'écrit pas avec l'aide d'une IA !) mais l'ensemble manque parfois d'élégance. Et d'une suffisance... Je ne connaissais pas Sadin, il va falloir que je creuse pour comprendre la hype. [Fervente enthousiaste de l'IA, nos divergences de point de vue ne me permettent peut-être pas d'apprécier entièrement le propos].