Αν τον ρωτήσετε, ο καπιταλισμός θα σας πει ότι κατά τη γνώμη του ο ορθολογισμός είναι η φιλοσοφική ουσία του και μαζί η πολεμική του κραυγή -αλλά βέβαια, θα συμπληρώσουμε εμείς, τυχαίνει να είναι και η πιο βαθιά του ήττα. Και αυτό επειδή ο ιδεολογικός πυρήνας του καπιταλισμού είναι πάντα η παντοδύναμη και παντογνώστρια Αγορά, η οποία δυστυχώς τυχαίνει να είναι κομμάτι ανορθολογική από κατασκευής.

Η φιλελεύθερη ιδεολογία λέει ότι εφόσον η Αγορά δεν έχει περιορισμούς από κράτος ή οργανωμένα συμφέροντα (όπως ο συνδικαλισμός), άρα αν είναι ελεύθερη, τότε πάντα παίρνει τις βέλτιστες δυνατές αποφάσεις. Αν οι αντικειμενικές συνθήκες είναι ευνοϊκές, η Αγορά προκαλεί τη μέγιστη δυνατή αύξηση του οικονομικού προϊόντος και αυτό ωφελεί τελικά τους πάντες. Αν πάλι οι συνθήκες είναι αντίξοες, η Αγορά περιορίζει τη ζημιά στο ελάχιστο δυνατό. Τα πράγματα ποτέ δεν μπορούν να πάνε καλύτερα από όσο λέει η Αγορά.

Σκεφτείτε την Αγορά σαν ένα τεράστιο δίκτυο. Οι παράγοντες της αγοράς είναι οι κόμβοι του δικτύου που συνδέονται μεταξύ τους ανταλλάσσοντας πληροφορία. Κανένας από τους κόμβους στο δίκτυο δεν έχει και δεν μπορεί να έχει αρκετή γνώση για να προβλέψει εκ των προτέρων με σιγουριά τις τελικές της αποφάσεις, επειδή αυτές είναι το αποτέλεσμα ενός γιγαντιαίου υπολογισμού βελτιστοποίησης που οι κόμβοι είναι μέρη του. Κάθε έμπορος, κάθε αγοραστής, είναι χωρίς να το ξέρει ένα μικρό γρανάζι ενός τεράστιου απρόσωπου υπολογιστή και συμμετέχει άθελά του στον γιγάντιο υπολογισμό. Μόνο η Αγορά, που είναι μεγαλύτερη από τα μέρη της, είναι σε θέση να κάνει αυτόν τον γιγαντιαίο υπολογισμό βελτιστοποίησης.

Η λειτουργία της αγοράς μετατρέπει τις υποκειμενικές απόψεις του κάθε κόμβου (πχ ότι θα ήθελε να αγοράσει μια ποσότητα ενός αγαθού), σε αντικειμενικές τελικές τιμές. Οι υποκειμενικές απόψεις δεν είναι άμεσα συγκρίσιμες από άτομο σε άτομο. Αν θέλετε «πολύ» ένα προϊόν, το δικό σας «πολύ» δεν είναι ίδιο με το δικό μου «πολύ», άρα δεν είναι άμεσα μεταφράσιμο. Ο μηχανισμός ανταλλαγής πληροφορίας που είναι η Αγορά, μετατρέπει τα υποκειμενικά σήματα κάθε κόμβου («θέλω πολύ να αγοράσω αυτό το αγαθό») στην αντικειμενική τιμή ισορροπίας της αγοράς για κάθε ένα απο τα αγαθά που διατίθενται, τιμή η οποία είναι άμεσα μεταφράσιμη από άτομο σε άτομο: 1 κιλό φακές = 18€ («ναι κυρία μου, το ξέρω είναι ακριβή, αλλά ό,τι πληρώνεις παίρνεις, είναι φακή Εγκλουβής [εισαγωγής από Καναδά]»). Τα δικά σας 18€ είναι ακριβώς ίδια με τα δικά μου 18€. Αν εγώ προτίθεμαι να δώσω 2€ για φακή κι εσείς προτίθεστε να δώσετε 18€ (καθότι είστε μέγας ρέκτης του φακόρυζου), τότε το δικό σας «πολύ» αποδεικνύεται πολύ μεγαλύτερο από το δικό μου «πολύ». Και είστε και μέγας γκουρμέ που ξεχωρίζει τη φακή Εγκλουβής για τα οργανοληπτικά χαρακτηριστικά της.

Με αυτόν τον τρόπο, αν η Αγορά στο τέλος ενός κύκλου διαπραγματεύσεων ανεβάζει την τιμή ενός προϊόντος, αυτό σημαίνει ότι η κοινωνία χρειάζεται περισσότερο από αυτό το προϊόν. Αν αντίθετα η Αγορά ρίχνει την τιμή (πχ δεν βρίσκονται αρκετά κορόιδα να αγοράσουν στα 18€), η κοινωνία χρειάζεται λιγότερο. Το μήνυμα θα το λάβουν οι βιομήχανοι που παράγουν τα αγαθά αυτά (και οι εισαγωγείς φακής) και θα δράσουν αναλόγως. Δημιουργείται έτσι ένα δίκτυο μεταξύ των τιμών και των αγαθών. Πρόκειται για έναν μηχανισμό που είναι ταχύτατος και αποτελεσματικός, που δρα ταυτόχρονα για όλες τις κοινωνικές ανάγκες χωρίς ποτέ να κάνει λάθος. Δεν μπορούμε να πούμε το ίδιο για τον κεντρικό σχεδιασμό. Η σοσιαλιστική γραφειοκρατία, επειδή δεν έχει ένα χρηματικό σύστημα τιμών για να λαμβάνει το μήνυμα της αγοράς, αδυνατεί να καλύψει τις κοινωνικές ανάγκες, άρα είτε θα παράγει υπερβολικά πολλά από κάποια προϊόντα ή υπερβολικά λίγο από άλλα. Επομένως, ναι, ισχύει ότι η Αγορά είναι ο βέλτιστος δρόμος για την ελευθερία και την κοινωνική προκοπή και ισχύει ότι οι τιμές είναι η θεμελιώδης πληροφορία.

Δηλαδή, είτε ισχύει αυτό, ή ισχύει το άλλο που είχε πει ο Κέινς σχετικά με το βιβλίο του φίλου του Φρίντριχ Χάγιεκ «Τιμές και παραγωγή» όπου αναπτύσσεται η παραπάνω θεωρία: «Τρομερός αχταρμάς [frightful muddle]. Πρόκειται για ένα εξαιρετικό παράδειγμα του γεγονότος ότι αν αφήσετε έναν αμείλικτο λογικολόγο να ξεκινήσει από μια λανθασμένη υπόθεση θα καταλήξει στο άσυλο φρενοβλαβών.»  Εδώ στο «Κ» σπανίως συμφωνούμε με τον Κέινς, αλλά αυτή είναι μια από αυτές τις σπάνιες περιστάσεις.

Βέβαια, πρόκειται για ένα φρενοκομείο στο οποίο υπάρχει μέθοδος: αυτή η θεωρία της ελεύθερης αγοράς διαμορφώθηκε τα χρόνια αμέσως μετά την Οκτωβριανή Επανάσταση από την «Αυστριακή» λεγόμενη σχολή της οικονομίας. Ο Λούντβιχ φον Μίσες και ο μαθητής του ο Χάγιεκ για δεκαετίες προσπαθούσαν να αποδείξουν θεωρητικά ότι ο κεντρικός σχεδιασμός δεν δουλεύει και ότι μια σοσιαλιστική οικονομία είναι αντίφαση εν τοις πράγμασι και αδύνατη.

Το μοντέλο της Αγοράς ο Χάγιεκ το γενίκευσε και στον τρόπο που δημιουργείται και εξαπλώνεται η γνώση στην κοινωνία. Ο μηχανισμός των τιμών ως σημάτων διαμεσολαβεί την μετατροπή της ατομικής γνώσης, των εμπειρικών παρατηρήσεων που κάνουν τα άτομα, σε γενική γνώση, επιτρέποντας στα μέλη της κοινωνίας να επιτύχουν περίπλοκους στόχους μέσω αυθόρμητης και αποκεντρωμένης αυτοοργάνωσης. Ως «αποκέντρωση» ο Χάγιεκ εννοεί ότι στην αγορά δεν υπάρχει ένας κεντρικός παίκτης που να παίρνει ή να επηρεάζει τις αποφάσεις, η απόφαση της αγοράς είναι η περίπλοκη συνισταμένη όλων των άπειρων μερών της. Και η «αυτοοργάνωση​» έχει να κάνει με το ότι οι παράγοντες της αγοράς είναι αρχικά ένα σύνολο άσχετων μεταξύ τους δρόντων υποκειμένων. Μέσα απο την αλληλεπίδρασή τους και την ανταλλαγή σημάτων αναδύεται με αυθόρμητο τρόπο, χωρίς κανείς να το έχει σχεδιάσει, η Αγορά με την δική της κίνηση και την σοφία της, μια σοφία που δεν ανήκει σε κανέναν από τους παράγοντες. Υπάρχει εδώ ένας μηχανισμός παραγωγής τάξης που αναδύεται αυθόρμητα από το αρχικό χάος.

Σε αυτό το σημείο, η πάντα διορατική αναγνώστρια του «Κ» είναι βέβαιο πως θα αναρωτηθεί τι σχέση έχουν αυτές οι αρχαίες και κουρασμένες απολογητικές του καπιταλισμού με τον τίτλο του άρθρου. Ψυχραιμία, ηρωική αναγνώστρια! Υπάρχουν πολλές υπολογιστικές τεχνικές που τις ονομάζουμε Τεχχνητή Νοημοσύνη (ΤΝ).  Στις μέρες μας όμως ο πολύς και βαρύς ντόρος γύρω από εταιρίες που έγιναν ξαφνικά γνωστές παντού (λχ OpenAI και Chat GPT) αφορά ένα μόνο είδος τεχνικών, τα λεγόμενα «τεχνητά νευρωνικά δίκτυα». Aυτά είναι η βάση των τόσο εντυπωσιακών κατορθωμάτων. Η σχέση που ψάχνεις αγαπητή αναγνώστρια, βρίσκεται στο ότι οι λειτουργίες των νευρωνικών δικτύων είναι δομημένες με βάση την νεοφιλελεύθερη αντίληψη για το πώς λειτουργεί ο εγκέφαλος ως Αγορά. Με άλλα λόγια, είναι βασικά ένας «αχταρμάς» που θα μπορούσε να οδηγήσει στο «φρενοκομείο».  

Οι Αυστριακοί ήταν πρόδρομοι και δάσκαλοι του νεοφιλελευθερισμού με βαθιά και διαρκή επίδραση πάνω του. Υπάρχει έτσι μια σημαντική ιδεολογική συνέχεια μεταξύ του Χάγιεκ και της Σίλικον Βάλει. Δεν είναι μόνο ότι οι μεγιστάνες της τεχνητής νοημοσύνης είναι ακροδεξιοί αναρχοκαπιτλιστές που ρουφάνε το αίμα των περισσότερων εργαζομένων τους με το μπουρί της σόμπας.  Ούτε μόνο ότι πιέζουν διαρκώς την κυβέρνηση για πλήρη και ασύδοτη απελευθέρωση της σχετικής αγοράς. Αλλά είναι επίσης ότι ο Χάγιεκ είχε ο ίδιος μια σημαντική, όπως αποδείχτηκε εκ των υστέρων, συνεισφορά στην ΤΝ στις αρχές της δεκαετίας του ’50, την εποχή ακριβώς που πρωτοξεκινούσαν οι έρευνες στην Αμερική στους υπολογιστές και τα νευρωνικά δίκτυα (τότε αυτά τα δύο ήταν σαφώς διαχωρισμένα). Στο The Sensory Order (η Αισθητηριακή Τάξη) περιέγραψε τον εγκέφαλο σαν ένα περίπλοκο, αυτοοργανωμένο σύστημα «ιεραρχικής ταξινόμησης».

Κάθε φορά που το βλέμμα σας πέφτει σε ένα αντικείμενο, ο εγκέφαλός σας είναι σε θέση να κατατάξει τα αισθητηριακά δεδομένα σε ιερρχημένες κατηγορίες. Βλέπετε ένα πράγμα με τέσσερα πόδια. Το κατατάσσετε αμέσως στην μεγάλη κατηγορία «ζώο», υποκατηγορία «τετράποδο», χωρίς να το μπερδεύετε με το «τραπέζι» (που και αυτό έχει 4 πόδια). Αναγνωρίζετε αμέσως ότι το τετράποδό σας ζώο ανήκει στην ακόμα κατώτερη ιεραρχικά κατηγορία «σκύλος». Και αυτό χωρίς να το μπερδέψετε ούτε με γάτα, ούτε με ελέφαντα, και ενώ καταλαβαίνετε ότι είναι σκύλος είτε είναι ένα μικροσκοπικό τσιουάουα ή ένας τεράστιος δανός.  Πώς το κάνετε αυτό;

Οι νευρώνες είναι, λέει ο Χάγιεκ, κόμβοι σε ένα δίκτυο ανταλλαγής πληροφοριών -κάτι σαν τους παίχτες της αγοράς και τις τιμές. Όταν βλέπετε κάτι για πρώτη φορά, οι νευρώνες που συνδέονται με την όραση αλλάζουν την εσωτερική τους κατάσταση ανάλογα με τις πληροφορίες που λαμβάνουν, «μαθαίνουν» από αυτές, μεταβάλλοντας έτσι τη συνολική κατάσταση του εγκεφάλου. Η στατιστική είναι τεράστια, υπάρχουν δισεκατομμύρια νευρώνες, ώστε αυτοί μπορούν να ταξινομήσουν διαφορές μεταξύ φαινομενικά ομοειδών αντικειμένων.

Ένας εκπαιδευμένος νευρώνας μπορεί να αναγνωρίσει το μπουλ τεριέ και ένας άλλος το στάφοντσάιρ (δύο ράτσες σκύλου που μοιάζουν πάρα πολύ). Έτσι, εφόσον έχετε δει αρκετά σκυλιά στη ζωή σας κι έχετε μάθει ποια είναι τα ουσιώδη χαρακτηριστικά του είδους, όταν δείτε για πρώτη φορά ένα τσιουάουα, διακρίνετε τα κοινά χαρακτηριστικά με τα άλλα σκυλιά, αδιαφορώντας για τα ασήμαντα χαρακτηριστικά όπως το μέγεθος (αφού έχετε μάθει ότι τα σκυλιά μπορούν να είναι διαφόρων μεγεθών), άρα με αυθόρμητο τρόπο και ολιστικά αναγνωρίζετε το gestalt (την μορφή) ενός σκύλου.

Οι απόψεις του ήταν πολύ επιδραστικές σε επιστήμονες του χώρου. Αν και ήδη από τότε ήξεραν ότι όχι μόνο αυτό δεν είναι ένα ρεαλιστικό μοντέλο του εγκεφάλου, αλλά το μοντέλο δεν έχει καμία απολύτως σχέση με τον εγκέφαλο, δεν άφησαν αυτή την ασήμαντη λεπτομέρεια να τους απασχολήσει. Το πρώτο τεχνητό νευρωνικό δίκτυο που δημιουργήθηκε από τον ψυχολόγο Φρανκ Ρόζενμπλατ το 1957, το περσεπτρόνιο, ήταν δομημένο πάνω σε αυτές τις αρχές. Το περσεπτρόνιο είναι ένας ταξινομητής (όπως είναι και ο εγκέφαλος του Χάγιεκ, ή επίσης η ελεύθερη Αγορά κατά Χάγιεκ). Αποτελείται από «νευρώνες», δηλαδή μικρές ηλεκτρονικές μονάδες. Αυτοί συνδέονται μεταξύ τους και κάθε σύνδεση μεταξύ νευρώνων (που λέγεται «σύναψη») μπορεί να έχει μια αριθμητική τιμή που συνηθίζεται να λέγεται «βάρος» και η οποία αναπαριστά το πόσο πολύ μπορούν να αλληλεπιδράσουν οι δύο νευρώνες. Πχ αν το βάρος είναι 0 δεν αλληλεπιδρούν καθόλου.

Το περσεπτρόνιο χρειάζεται εκπαίδευση: του δείχνετε (δηλαδή δείχνετε στην κάμερα με την οποία ήταν συνδεμένο) απλά μοτίβα, βασικά οριζόντιες ή κάθετες γραμμές, συνδέοντας όμως το είδος του σχήματος με τα βάρη στις συνάψεις (είναι σαν να του λέτε «αυτό που βλέπεις τώρα είναι οριζόντιες γραμμές» ή το ανάποδο). Αφού το εκπαιδεύσετε, αν του δείξετε ένα σχήμα χωρίς όμως να του πείτε τι είναι, οι νευρώνες θυμούνται τα βάρη που είχαν για το ένα ή το άλλο σχήμα και το σύνολο των βαρών σας δίνει μια συνολική τιμή εξόδου που μπορεί να είναι ένα από τα δύο, «οριζόντιες γραμμές» ή «κατακόρυφες γραμμές».

Αυτό ήταν ήδη ένας θρίαμβος το 1957, αλλά κάπως πρώιμος. Για πολλά χρόνια μετά τα νευρωνικά δίκτυα δεν κατάφερναν να κάνουν τόσο πολλά πράγματα όσα υπόσχονταν -κυρίως δεν κατάφερναν να μετατρέψουν την ωραία αυτή ιδέα σε χρήμα, κάτι στο οποίο προφανώς θα συναινούσε και ο Χάγιεκ. Τα νευρωνικά δίκτυα έκαναν κάποιες προόδους στη δεκαετία του ’80, κατόπιν ξεχάστηκαν ξανά και έτσι τελικά θα πέρναγαν πάνω από 60 χρόνια από τις πρώτες προσπάθειες, για να φτάσουμε στο σημερινό επίπεδο των τεράστιων πολυεθνικών με τα «μεγάλα γλωσσικά μοντέλα». Μπορείτε πλένο να κουβεντιάσετε σε φυσική γλώσσα με αυτά. Μπορείτε και να κάψετε τους δικούς σας, 100% φυσικούς νευρώνες αλληλεπιδρώντας με τους τεχνητούς νευρώνες οι οποίοι δεν καίγονται μεν, αλλά καίνε όμως δισεκατομμύρια· οι ανάγκες τους για ρεύμα, προσωπικό και εγκαταστάσεις είναι αδιανόητες.

Και όμως υπάρχει ένα σοβαρό, πολύ σοβαρό πρόβλημα. Δεν αναφερόμαστε στην παντελή έλλειψη κερδοφορίας που μαστίζει τις εταιρίες αυτές, αλλά για ένα πιο θεμελιώδες πρόβλημα: στην πραγματικότητα δεν έχουμε ιδέα πώς δουλεύει η ΤΝ, ή τέλος πάντων, αυτό που το λέμε ΤΝ. Το μόνο που ξέρουμε είναι ότι η λειτουργία της είναι χαοτική και στατιστική, και σε ένα βαθμό μη ντετερμινιστική. Η ΤΝ, όπως ακριβώς και η Αγορά, είναι ανορθολογική.

Ας πάρουμε το παράδειγμα ενός από τους λίγους πετυχημένους κλάδους εφαρμογών ΤΝ, τη συμπεριφορική διαφήμιση. Στην κοινή διαφήμιση δείχνουμε τις ίδιες διαφημίσεις σε όλους και ό,τι πιάσουμε, στην τύχη. Στη συμπεριφορική διαφήμιση, μαζεύουμε όσο πιο πολλά προσωπικά δεδομένα μπορούμε από κάθε υποψήφιο αγοραστή. Με βάση αυτά ταξινομούμε το κοινό σε κατηγορίες ανάλογα με τις συμπεριφορές που αυτό επιδεικνύει και δείχνουμε διαφημίσεις σχετικές με τις συμπεριφορές και τις ανάγκες κάθε ενός ξεχωριστά, όπως κάθε μια από μας τις αναρτά αναλυτικότατα στα σόσιαλ, σε φωτογραφίες, σε σχόλια και σε λάικς. 

Εσύ αναγνώστρια θα δεις διαφορετικές διαφημίσεις από μένα. Προφανώς αυτό επιτυγχάνεται μόνο με χρήση ΤΝ. Μπορούμε να πετύχουμε αγορές προϊόντων που δεν θα αγόραζαν οι πελάτες σε άλλες συνθήκες και μάλιστα σε τιμές ανώτερες από αυτές που θα ήταν διατεθειμένοι να δώσουν, λόγω της ψυχολογικής πίεσης που ασκεί μια διαφήμιση κομμένη και ραμμένη πάνω στο προφίλ του συγκεκριμένου καταναλωτή η οποία έρχεται ακριβώς τη στιγμή που αυτός σκεφτόταν κάτι σχετικό. Σύμφωνα με μελέτες, το είδος αυτό διαφήμισης είναι 70% πιο αποτελεσματικό σε σχέση με την απλή μη στοχευμένη διαφήμιση.

Το μοντέλο αυτό, που πρώτη το εφάρμοσε η Google αλλά τώρα το χρησιμοποιεί και η META και η Amazon, μετατρέπει με την βοήθεια της ΤΝ τον πελάτη της υπηρεσίας σε εμπόρευμα. Η Google δεν πουλάει τίποτε σε μας, οι υπηρεσίες της είναι δωρεάν, όπως δωρεάν είναι και το Instagram. Οι εταιρείες βγάζουν δισεκατομμύρια πουλώντας στις διαφημιστικές εταιρείες έτοιμες ταξινομημένες κατηγορίες καταναλωτών. Εμεις είμαστε το εμπόρευμα και μάλιστα ταξινομούμαστε με μικρό κόστος για την εταιρία, αφού μόνοι μας δίνουμε όχι μόνο τις προτιμήσεις μας, αλλά και την ψυχολογική μας κατάσταση κάθε στιγμή. Οι τρεις πολυεθνικές, Google, Meta και Amazon, το 2023 μάζεψαν πάνω απο το 52%  της παγκόσμιας διαφημιστικής δαπάνης (δεν λογαριάζουμε την Κίνα που είναι ξεχωριστό μαγαζί).

Η συμπεριφορική διαφήμιση είναι ένα κατ’ εξοχήν παρασιτικό σύστημα προπαγάνδας που σε «εξαναγκάζει» να αγοράσεις προϊόντα που δεν χρειάζεσαι, βασισμένο στην ανάγνωση των μη ορθολογικών ορμών ή αναγκών σου. Διαβάζει την έκφραση του προσώπου σου, κατανοεί από τα ποστ και τις φωτογραφίες σου αν έχεις άγχος, ανασφάλεια ή κάποιο άλλο αρνητικό συναίσθημα και χτυπάει κατευθείαν και με μεγάλη αποτελεσματικότητα την ευαλωτότητα ενός σημαντικού τμήματος των στόχων της. Ακόμα χειρότερα, προκειμένου να εγκλωβίσει τους χρήστες για περισσότερο χρόνο, η ΤΝ είναι σχεδιασμένη να ενισχύει τις προσωπικές προκαταλήψεις και προτιμήσεις αντί να τις σχετικοποιεί. Εξαιτίας της κλείνεστε σε έναν «κοινωνικό κύκλο» στα σόσιαλ που έχει εξ ορισμού ίδια γούστα με σας, ενισχύοντας τα πιο λάθος τμήματα της κοσμοθεωρίας σας, παγιδεύοντάς σας μέσα σε αυτήν. Μην περιμένετε κάποια λογική κατάληξη από όλο αυτό…

Οι τεχνολογικές καινοτομίες εισάγονται για έναν και μόνο λόγο: να αυτομαπτοποιήσουν την παραγωγή και να αυξήσουν το προϊόν ανά εργαζόμενο, δηλ. την παραγωγικότητα. Αυτού του τύπου η εισαγωγή της ΤΝ δεν φαίνεται να έχει επιτευχθεί πουθενά ακόμα, εκτός ίσως από τη συγγραφή κώδικα, δηλαδή τη δημιουργία των προγραμμάτων που χρησιμοποιούμε στους ηλεκτρονικούς υπολογιστές ή των εφαρμογών στα κινητά τηλέφωνα κλπ. Πέρσι η Google επαιρόταν ότι 50% των προγραμμάτων της ήταν γραμμένο από ΤΝ, και όχι από προγραμματιστές και είναι βέβαιο ότι φέτος το ποσοστό θα είναι μεγαλύτερο. Και όμως, οι έρευνες που έγιναν σχετικά, δεν φαίνεται να επιβεβαιώνουν ότι όντως αυτά τα εργαλεία βελτιώνουν την παραγωγικότητα. Σε μία πρόσφατη, οι προγραμματιστές που συμμετείχαν πίστευαν ότι η ΤΝ τους έκανε 20% ταχύτερους, ενώ αποδείχτηκε ότι στην πραγματικότητα τους έκανε 19% πιο αργούς.  Γιατί ισχύει αυτό; Ο λόγος είναι η αχίλλειος πτέρνα της ΤΝ, οι «παραισθήσεις».

Το πέρσεπτρον μπορούσε να αναγνωρίσει μόνο δύο απλά μοτίβα πάνω στα οποία είχε εκπαιδευτεί, αλλά τα σημερινά νευρωνικά δίκτυα αναγνωρίζουν δισεκατομμύρια περίπλοκα μοτίβα, γλωσσικά ή οπτικά, όπως αυτά έχουν καταγραφεί στο σύνολο του ίντερνετ: ένα μεγάλο γλωσσικό μοντέλο, σκανάροντας όλα τα κείμενα και φωτό που υπάρχουν στον ιστό σε όλες τις γλώσσες, διαθέτει «βάρη» για κάθε ένα από τα δισεκατομμύρια διαφορετικών μοτίβων και λεκτικών σχημάτων που καταγραμμένα εκεί. Όταν το ρωτάτε κάτι, πάει και βρίσκει μια ακολουθία βαρών που να μοιάζουν στην ερώτησή σας. Όταν τη βρει, αυτή έχει και κάποια συνέχεια. Αυτή τη συνέχεια σας επιστρέφει ως απάντηση. Προσέξτε ότι η συνέχεια μπορεί να είναι και ένας συνδυασμός από βάρη που προέρχονται από διαφορετικά αρχικά δεδομένα, η απάντηση δηλαδή μπορεί να είναι (και συνήθως είναι) ένας πρωτότυπος συνδυασμός που προέρχεται από πολλά διαφορετικά αρχικά κομμάτια. Οι απαντήσεις της λοιπόν είναι σε γενικές γραμμές σωστές, όταν αυτό που ρωτάμε ή κάτι παρόμοιο έχει ήδη απαντηθεί κάπου στο διαδίκτυο. Μερικές φορές όμως η ΤΝ μπερδεύεται και μας επιστρέφει έναν αχταρμά που δεν έχει καμιά αντιστοιχία στην πραγματικότητα, μια κατασκευασμένη, ψευδή απάντηση δοσμένη όμως με την βαρετή στρωτή πρόζα της μηχανής.

Όταν ο προγραμματιστής ρωτάει μια εύκολη ερώτηση σε σχέση με το πρόγραμμα που γράφει, η ΤΝ κατά πάσα πιθανότητα θα απαντήσει σωστά γιατί έχει δει το πρόβλημα ήδη πολλές φορές. Όσο όμως μεγαλώνει η πρωτοτυπία ή η περιπλοκότητα του προγράμματος, τόσο πιθανότερο είναι το αποτέλεσμα να είναι λάθος ή φανταστικό. Άρα το αποτέλεσμα στην ερώτησή σας μπορεί να είναι φαινομενικά σωστό, αλλά θα έχει μέσα κρυμμένα λάθη. Όσο πιο περίπλοκο τόσο περισσότερα και μεγαλύτερα λάθη, τα οποία θα χρειαστείτε πολλές εργατώρες και πολλή γνώση για να διορθώσετε -συνήθως περισσότερη ώρα από όση θα δίνατε αν γράφατε το πρόγραμμά σας με το χέρι από την αρχή, μόνοι σας, ακυρώνοντας τον λόγο που εισάγατε αρχικά την ΤΝ. Δεν ακούγεται ως πολύ ορθολογική κατανομή πόρων…

Τέλος, ίσως η σημαντικότερη αυτή τη στιγμή εφαρμογή της ΤΝ να είναι η «ασφάλεια» (δηλαδή η αύξηση της κρατικής αυθαιρεσίας και της ανασφάλειας των πολιτών) και η «άμυνα» (δηλαδή η πολεμική επιθετικότητα), αυτό που έχει ονομαστει «αλγοριθμικός πόλεμος»).  Εκτός από το αμερικάνικο και το ισραηλινό κράτος, πολλές άλλες χώρες έχουν επενδύσει πολύ πάνω στην ανάπτυξη μεθόδων ΤΝ και μηχανικής μάθησης για πολεμικές χρήσεις -ειδικά μετά την επιτυχία των drones στις πολεμικές επιχειρήσεις στην Ουκρανία. 

Η Palantir είναι μια αμερικάνικη εταιρεία του χώρου, η οποία μάλιστα είχε πολύ περίεργα πάρε δώσε και με την ά[χ]ριστη κυβέρνησή μας με αφορμή την πανδημία. Η εταιρεία είναι το αποτέλεσμα της συνειδητής προσπάθειας του κράτους να εκχωρήσει στον ιδιωτικό τομέα τις υτηρεσίες του, εδώ τις μυστικές υπηρεσίες. Ο ιδρυτής της, ο Πίτερ Τιλ, είχε κάποτε ερωτηθεί αν η εταιρεία είναι απλώς μια εταιρεία-βιτρίνα της CIA. Απάντησε «όχι, η CIA είναι μια βιτρίνα για την Palantir». Το ευφυολόγημα, αν και υπερβολικό, έχει στοιχεία αλήθειας. Τα συστήματα ασφαλείας της Palantir είναι τόσο ολοκληρωμένα στα κρατικά συστήματα ασφαλείας των ΗΠΑ που δεν είναι εύκολο πάντα να καταλαβαίνεις ποιος κάνει κουμάντο, η κυβέρνηση ή ο Τιλ. Υπάρχουν σημαντικά τεκμήρια ότι ισχύει το δεύτερο.

Μάλιστα τα όρια μεταξύ αμερικάνικου δημοσίου, Palantir και ισραηλινών μυστικών υπηρεσιών φαίνεται πως είναι εντελώς διαπερατά και αυτό είναι επικίνδυνο για όλους μας. To mosaic, η πλατφόρμα παρακολούθησης της Palantir, είναι πλήρως ενσωματωμένο στα εργαλεία της Διεθνούς Υπηρεσίας Ατομικής Ενέργειας (ΙΑΕΑ) από το 2015. Η υπηρεσία το χρησιμοποιεί για την παρακολούθηση του πυρηνικού προγράμματος του Ιράν. Το πρόγραμμα σαρώνει το ίντερνετ, ψάχνει σε δορυφορικά στοιχεία, υποκλέπτει τηλεπικοινωνίες, σόσιαλ, κάμερες παρακολούθησης, απορροφά ακόμα και δεδομένα που τα δίνουν μυστικές υπηρεσίες, μεταξύ των οποίων και η Μοσάντ. Κατά τα φαινόμενα η Μοσάντ, με την μεσολάβηση των Βρετανών, «πληροφόρησε» το mosaic ότι το πρόγραμμα του Ιράν είναι κοντά στην ολοκλήρωσή του. Την «πληροφορία» αυτή την αναμετέδωσε και ο Τραμπ. Είναι ενδιαφέρον ότι αυτός προτίμησε τις πληροφορίες που φυτεύτηκαν από τη μυστική υπηρεσία μιας ξένης χώρας, παρά την επίσημη αμερικάνικη θέση όπως αυτή διατυπώθηκε από την υπεύθυνη για τις μυστικές υπηρεσίες, Αμερικανίδα υπουργό η οποία είπε ότι το Ιράν φαίνεται να μην επιδιώκει πυρηνικά όπλα.

Προσέξτε τώρα πόσο ανορθολογικό είναι στο σύστημα. Οι μυστικές υπηρεσίες, παραδοσιακά υποτίθεται ότι έπαιρναν αποφάσεις με βάση επαληθεύσιμα τεκμήρια: μαρτυρίες, προϊόντα κατασκοπείας κλπ. Τώρα πια μπορούν να βασίζονται στο αποτέλεσμα ανάλυσης ενός νευρωνικού δικτύου το οποίο μαζεύει αυτόματα πληροφορίες και δίνει αυτόματα οδηγίες. Τι γίνεται αν η ΤΝ δώσει ως αποτέλεσμα μια «παραίσθηση», αν πχ, αποφασίσει λανθασμένα ότι πρέπει να χτυπήσουμε αμάχους ενώ σκοπός μας ήταν να χτυπήσουμε στρατιωτικούς στόχους; Δεν μπορείτε εύκολα σε τέτοιες συνθήκες πίεσης να ελέγξετε αν το σύστημα σας προτείνει κάτι σύμφωνο με τους στόχους σας. Αν η ΤΝ σας πει «εντόπισα έναν ‘τρομοκράτη’, βρίσκεται σε αυτές τις συντεταγμένες, να τον χτυπήσω άμεσα πριν κρυφτεί ξανά;» θα του πείτε «χτύπα» για να μην χάσετε την ευκαιρία, χωρίς να έχετε ιδέα ποιος θα είναι το θύμα της δολοφονίας (και χωρίς να έχετε ευθύνη για αυτήν, το μηχάνημα τον σκότωσε, όχι εσείς). Οι χειριστές δεν ελέγχουν ούτε την διαδικασία συλλογής δεδομένων, ούτε τη διαδικασία επεξεργασίας τους, δεν έχουν την παραμικρή ιδέα αν το συμπέρασμα είναι σωστό ή οφείλεται σε «παραισθήσεις».

Και έχουμε δει ότι το μηχάνημα μπορεί να κάνει συχνά λάθος, από τη «λεβάντα», το σύστημα ταυτοποίησης στόχων στην Γάζα.  Όπως έχουν πει χιεριστές του συστήματος, όταν αυτό αποφασίσει ότι έχει βρει πού κρύβεται ένας στόχος δίνει αμέσως τις συντεταγμένες. Οι χειριστές το μόνο που ελέγχουν είναι αν ο στόχος έιναι άντρας ή γυναίκα -γιατί συχνά η «λεβάντα» (το σύστημα ελέγχου της Γάζας με χρήση ΤΝ) διαλέγει γυναίκες, ενώ η Χαμάς δεν έχει μαχήτριες, κάτι όμως που είναι σαφώς εγγεγραμμένο στα «βάρη» του συστήματος. Δηλαδή το σύστημα κάνει συστηματικά το ίδιο λάθος ξανά και ξανά. Δεν υπάρχει τρόπος να εκτιμήσουμε πόσοι άμαχοι  σκοτώθηκαν με αυτόν τον τρόπο…

Η λεγόμενη ΤΝ αυτή τη στιγμή είναι περισσότερο παιδί μιας απελπισμένης προσπάθειας του κεφαλαίου να βρει νέους τομείς υπεραξίωσης. Σε καμία περίπτωση δεν είναι (ακόμα) μια συνεκτική τεχνολογία για την αντικατάσταση εργασίας από μηχανές. Είναι ενδιαφέρον ότι από κατασκευής της, είναι πολύ δύσκολο να ελεγχθούν οι λειτουργίες της: η ΤΝ είναι ένα «μαύρο κουτί», βάζεις την ερώτηση παίρνεις την απάντηση, αντίθετα με τη μεγάλη πλειονότητα των τεχνολογικών προόδων στην ιστορία του καπιταλισμού. Σε αυτές πάντα είχε εύκολο και απεριόριστο έλεγχο ο ιδιοκτήτης τους καπιταλιστής. Εδώ ακόμα και αυτός ο έλεγχος είναι έμμεσος και διαμεσολαβημένος από τις στρατιές προγραμματιστών που ελέγχουν τη μηχανή. Έτσι εξηγούνται και οι πρόσφατες περιπέτειες του Μασκ με το Grok το οποίο αναβαθμίστηκε πρόσφατα, με αποτέλεσμα να γίνει φιλοναζιστικό, ρατσιστικό και υπέρμαχο διαφόρων ρατσιστικών θεωριών. Η κατακραυγή προκάλεσε περαιτέρω επεμβάσεις, σε έναν φαύλο κύκλο βελτιώσεων που ποτέ δεν βελτιώνουν το τελικό αποτέλεσμα αλλά προκαλούν και νέα προβλήματα κοκ.

Η τρέχουσα φούσκα της ΤΝ μας δίνει μια ενδιαφέρουσα μεταφορά. Η φούσκα θα λέγαμε ότι οφείλεται στην τυφλή, ανορθολογική πίστη στις αρχές λειτουργίας της παντοδύναμης αγοράς, που όπως είδαμε διέπεται από παρόμοιες αρχές με τα νευρωνικά δίκτυα. Η τυφλή πίστη στην παντοδύναμη Αγορά η οποία έχει την μαγική δύναμη να μπορεί να υπολογίζει την οικονομική δραστηριότητα πάντα στην βέλτιστη κατεύθυνση, είναι ομόλογη με την τυφλή πίστη στα συμπεράσματα ενός νευρωνικού δικτύου -το οποίο μπορεί και να έχει παραισθήσεις, να κάνει στοιχειώδη λάθη, ακριβώς όπως συμβαίνει και στην αγορά εξάλλου. Δεν γνωρίζουμε πώς μάζεψε τα δεδομένα του, δεν γνωρίζουμε πώς έβγαλε το  συμπέρασμα, δεν ελέγχουμε το αποτέλεσμα επειδή αυτό θα απαιτούσε εργασία άρα θα ακύρωνε τον λόγο που το χρησιμοποιήσαμε. Η ΤΝ, όπως και η αγορά, μας φαίνεται να διαθέτει μια τυφλή, τεράστια δύναμη σύνθεσης στοιχείων που δεν διαθέτει κανένα νοήμον όν· αυτό είναι το ιδεολογικό χνάρι του Χάγιεκ στην ΤΝ.

Η τυφλή πίστη στην Αγορά ή στην ΤΝ δεν είναι ούτε γνώση, ούτε ορθολογική απόφαση. Δεν διαφέρει από την πίστη σε έναν (μηχανικό) θεό. Αλλά η προσπάθεια χρήσης της ΤΝ για τη λήψη αποφάσεων που αφορούν ανθρώπινες ζωές (στην οικονομία, στον πόλεμο κοκ) είναι ένα βήμα παραπάνω: είναι η βύθιση σε έναν νέο, τυφλό, τεχνολογικό ανορθολογισμό.