La tirannia dell'algoritmo

by Miguel Benasayag, Eleonora Missana (Translator)

Miguel Benasayag, il filosofo e psicanalista di origine argentina che ci ha insegnato a difenderci dalle ‘passioni tristi’ alimentate dalla nostra società, in questo libro-intervista con Régis Meyran ci mette in guardia dal rischio che siano gli algoritmi dei Big Data a guidare le nostre democrazie. Nella vita di tutti i giorni siamo ormai messi continuamente a confronto con le ‘macchine’, in una interazione non più cancellabile con le nuove tecnologie: dall’uso del Gps per i nostri viaggi all’immersione ludica nella realtà virtuale, dalle relazioni personali mediate dai social network al controllo costante delle nostre azioni e dei nostri comportamenti su internet. E il punto non è tanto rifiutare questa ‘ibridazione’ ormai avvenuta, ma sapere come esistere in quanto umani in un tale mondo, fare in modo che, sia pure nell’integrazione utile con l’intelligenza artificiale, non vengano meno le particolarità del vivente, il suo essere imprevedibile e libero, irriducibile a una somma di informazioni, ai parametri della pura efficienza e della performance. Se questo vale sul piano individuale, è altrettanto importante prendere coscienza dell’impatto che il mondo digitale e algoritmico esercita sulle società. Stimolato da domande che tutti noi vorremmo porgli, Benasayag fa qui emergere chiaramente come anche le decisioni rilevanti a livello sociale, politico ed economico sono oggi legate alla logica lineare delle macchine, affidate ai calcoli e alla raccolta abnorme dei dati, alla gestione pseudo-razionale di un rapporto causa-effetto che non tiene conto della complessità dei ‘corpi’ individuali e sociali e che insidia mortalmente le nostre democrazie. Fino all’ultimo interrogativo: in questo contesto inedito e oscuro, è possibile un agire che assuma la sfida di proteggere il vivente, la cultura, la buona politica? Più che una ricetta infallibile, Benasayag propone un percorso, un itinerario di riappropriazione creativa del rapporto con l’artificiale, un insieme di ‘soluzioni singolari’ di piccole dimensioni e grandissimo impatto umano, qui e ora, capaci di costruire esperienze e pratiche di ibridazione con la tecnica che rispettino il vivente e la sua libertà.

112 pages, Paperback

First published October 22, 2019

Reviews

[Crispin · Rating 4 out of 5]

despite being perfect bound in its physical form, or ephemeral traces in its digital form, this is a pamphlet (pan-philos) in the historical and best senses of the word. First published before the most recent wave of Turing Test passing chatbots, this short interview between an anthropologist and a former guerilla (among other things) nevertheless gets to the/a core of what AI represents in terms of the changes afoot.
Split into three parts, we learn about the evolving project of Western rationality: a historical progression of desacralising the church and society in favour of an individual, rational contact with the divine. Eventually, we delegate the task of ultimate rationality to our machines. The current AI fervour represents a literally religious collective excitement and/or dread that maybe the machines will live up to this task.
We also learn about post-democracy, whereby 'conflictuality', the friction of coexisting with the Other, at the heart of democratic process and life, is replaced by domination, the denial of the Other: the management of life by technocratic means. Resistance is no longer recognised as such, there is no Other to resist. When the technocratic machine struggles, it is not against Resistance, but simply against noise, symptoms or insufficiently specified or solved problems.
Finally, Benasayag suggests in his theory of action that the way forward here is to embrace or accept the intellectual historical context we're in: there is no retreat from the machines, but to surrender to them is equally undesirable. Gone are the Victorian clockwork universes of predictable causality. Complexity, as a primary, current historical/cultural context for understanding the globalised world, prevents us from being able to act so that we can have justified faith in the outcomes of our actions. But we must act anyway. His path is a path of radical unknowing, living in the moment, acting, resisting, living, trying, simply because here we are.
Recommended reading. Don't automatically believe the technocratic hype of today… this book helps cut through that, although it does also suffer from a bit of hand waving hidden behind fancy words and political enthusiasm.
A good tonic against the modern cult, now culture, of efficiency as the dominating virtue. Benasayag calls for dysfunctionality, in the best sense: to be functional is to be efficient, but efficiency is for machines, and we would do well to resist being colonised by our machines, by the tide that would claim us as functional beings, and to reclaim our right to simply… exist.

[Mayelly · Rating 4 out of 5]

Interesting exploration of AI and the complex links to ideas of the individual, politics, prediction, and democracy.

[ellen · Rating 1 out of 5]

my copy has highlighted passages of sublime beauty but also, a magnitude of pencil frowney faces and "waste of my time !!" scratched onto the last page. nothing of substance but scattered with quotable sentences. waste of my time !!