16/12/2024
Οι ζωές των ανθρώπων και η δημοκρατία προσανατολίζονται όλο και περισσότερο από μηχανές. Η πρώτη συνέπεια είναι η αναγωγή του ατόμου στις μικροσυμπεριφορές του: οι ενέργειές μας αναλύονται συνεχώς αλλά το συνολικό νόημα αφαιρείται.
Υπάρχουμε όλο και λιγότερο ως άτομα ή κοινότητες και όλο και περισσότερο ως εικονικά προφίλ και avatar. Μια δεύτερη συνέπεια είναι εκείνη που ο Miguel Benasayag στο Η τυραννία του αλγορίθμου αποκαλεί την ακύρωση της ετερότητας: ένας τρομοκράτης, ένα «κίτρινο γιλέκο» ή ένας κάτοικος της Val Susa abitante della Val Susa σήμερα αντιμετωπίζεται με τον ίδιο τρόπο, απονομιμοποιείται με την αναγωγή του σε ένα σύνολο συμπτωμάτων προς αντιμετώπιση.
Το συμπέρασμα είναι ότι καμία σύγκρουση δεν γίνεται ανεκτή, ο άλλος είναι ένας βάρβαρος και μπορώ να εφαρμόσω τη βαρβαρότητα εναντίον του βαρβάρου.
Με την κυριαρχία των μηχανών (την οποία οι εποχές της πανδημίας φαίνεται να καθιστούν μόνο πιο εμφανή με την έξυπνη εργασία, την dad, τα βιοτεχνολογικά εμβόλια…), έχουμε περιέλθει σε μια νέα εποχή, στην οποία οι συνήθεις τρόποι δράσης μας λειτουργούν ελάχιστα.
Το τεχνητό έχει γίνει κυρίαρχο παντού, παρά το γεγονός ότι στην καθημερινή ζωή πολλά πράγματα εξακολουθούν να συνδέονται με γραμμικά συστήματα.
Πρέπει να μάθουμε να υπάρχουμε σε έναν τέτοιο κόσμο ως άνθρωποι, δηλαδή απρόβλεπτοι, περίπλοκοι και εύθραυστοι. «Είμαστε αντιμέτωποι με τον πειρασμό και την απόκλιση μιας διαχείρισης των πειθαρχικών κινδύνων μέσω των ψηφιακών τεχνολογιών, των οποίων η ψευδο-λογική γλώσσα είναι στην πραγματικότητα στο ίδιο επίπεδο με αυτή οποιουδήποτε χειρομάντη.
Η μεγάλη σημερινή πρόκληση είναι να κατανοήσουμε αυτήν την πολυπλοκότητα: σε υγειονομικό, οικολογικό, δημογραφικό, οικονομικό επίπεδο…». Απόσπασμα από το νέο βιβλίο του γαλλοαργεντινού φιλοσόφου και ψυχαναλυτή.
Εκτεταμένα αποσπάσματα από το κεφάλαιο «Θεωρία της δράσης», παρμένο από το Η τυραννία του αλγορίθμου (Ζωή και σκέψη) La tirannia dell’algortimo (Vita e pensiero): συζήτηση του Régis Meyran με τον Miguel Benasayag.
Αντιμέτωποι με την παρατήρηση του αποικισμού των έμβιων όντων από μηχανές και την ανάθεση των αποφάσεων στην τεχνητή νοημοσύνη, ποιες δυνατότητες υπάρχουν για να δράσουμε διαφορετικά;
Για την αντιμετώπιση του ζητήματος της δράσης, πρέπει να ληφθεί υπόψη ένα κεντρικό στοιχείο. Πρέπει να παραδεχτούμε την πραγματικότητα της αλγοριθμικής κυβερνητικής: οι ζωές των ατόμων και των κοινωνιών προσανατολίζονται και δομούνται από μηχανές.
Στην πραγματικότητα, ο αλγοριθμικός κόσμος δεν είναι ούτε υπέρ ούτε κατά των ζωντανών, του είναι αδιάφορος. Για παράδειγμα, πολλοί δικαστές στη Γαλλία ανησυχούν για το ενδεχόμενο μιας κίνησης προς την ίδρυση αλγοριθμικών δικαστηρίων, καθώς επιθυμούν να συνεχίσουν να λαμβάνουν αποφάσεις σύμφωνα με το εσωτερικό φόρουμ της ψυχής ή της συνείδησής τους.
Ωστόσο, η τεχνητή νοημοσύνη τους βοηθά ολοένα και περισσότερο στη συλλογή δεδομένων, στη σύνταξη φακέλων ή σε συλλογή υποθέσεων νομολογίας… Επομένως, η αλγοριθμική βοήθεια είναι ήδη μια πραγματικότητα στην εργασία των δικαστών.
Το πιο επικίνδυνο πράγμα, κατά τη γνώμη μου, είναι η προγνωστική δικαιοσύνη, η οποία έχει την απαίτηση, ισχυρίζεται πως εντοπίζει την πιθανή-δυνητική επικινδυνότητα ενός ατόμου ξεκινώντας από την ανάλυση μικρο-δεδομένων ή μικρο-συμπεριφορών.
Η παραμικρή αναφορά στη δικαιοσύνη θα μπορούσε να ληφθεί υπόψη από αλγόριθμους. Και μιλάω ακριβώς για μικροσυμπεριφορές, όχι για το ότι κάποιος έψαξε στο ίντερνετ πώς να φτιάξει μια βόμβα! Το πράγμα είναι πολύ πιο λεπτό: το μηχάνημα αναλύει μικρο-συμφέροντα – ηλεκτρονικές αγορές, ιστότοπους που συμβουλεύονται οι άνθρωποι κ.λπ. – και, από τη συσχέτισή τους, «αποφασίζει» αν το άτομο είναι επικίνδυνο ή όχι.
Θα σας δώσω ένα παράδειγμα: η Google έχει δημιουργήσει ένα σύστημα για να παρατηρεί τον τρόπο με τον οποίο κάποιος χρησιμοποιεί την πιστωτική του κάρτα σε ένα χρόνο, ικανό να προβλέψει με 85% αξιοπιστία εάν ο χρήστης της κάρτας θα χωρίσει τα επόμενα τρία χρόνια. .. Οι αλγόριθμοι λειτουργούν ξεκινώντας από αυτές τις μικροπληροφορίες που συλλέγονται μαζικά στον ψηφιακό κόσμο, οι οποίες, συνδυασμένες και συσχετισμένες μεταξύ τους, καθορίζουν τα προφίλ.
Αυτός είναι ο κίνδυνος, μου φαίνεται, εγγενής στην έννοια της «συμπεριφοράς», η οποία σχεδιάζει επαναλαμβανόμενες ρουτίνες επάνω σε μια ζωή που είναι πολύ πιο τυχαία από ό,τι υποθέτει το άθροισμα αυτών των ρουτινών…
Ναι, αλλά δεν είναι καθόλου το ζήτημα της συμπεριφοράς που διακυβεύεται εδώ. Εννοώ αυτό: η μηχανή στην πραγματικότητα συναρμολογεί μικρο-συμπεριφορές που θα μπορούσαν να χαρακτηριστούν ως προ-ατομικές, ένα σύνολο αριθμητικών ιχνών, συνηθειών, κανονικοτήτων, θραυσμάτων δραστηριοτήτων που δεν έχουν καμία σχέση με το αποτέλεσμα της ερμηνείας.
Στην περίπτωση ορισμένων ασθενειών, για παράδειγμα, η πρόθεση είναι να εντοπιστούν συσχετισμοί για να οριστεί μια προληπτική ιατρική, αλλά αυτό συμβαίνει με βάση δεδομένα που πολύ συχνά δεν έχουν κάποια σχέση με την υγεία του ατόμου!
Το γνωσιοθεωρητικό μοντέλο επάνω στο οποίο βασίζεται αυτή η κυβερνητικότητα είναι αυτό του αρθρωτού ανθρώπου, παρόμοιο με αυτό που προτείνει η μοριακή βιολογία. Το άτομο περιορίζεται όχι στις αποφάσεις του αλλά στις μικρο-συμπεριφορές του.
Η βιολογία δεν ενδιαφέρεται για την ίδια τη ζωή, αλλά για τα στοιχειώδη σωματίδια που συνδέονται μεταξύ τους. Στην περίπτωση της αλγοριθμικής κυβερνητικότητας είναι το ίδιο: μια τεράστια ποσότητα μικροπράξεων διαφορετικών τύπων εισάγονται στο μηχάνημα – όπου το άτομο περνά τις διακοπές του, ποιες διαδρομές ακολουθεί, ποιες τοποθεσίες συμβουλεύεται στο διαδίκτυο, ποιον τηλεφωνεί κ.λπ. – βάσει των οποίων είναι δυνατή η δημιουργία εικονικών προφίλ, τα οποία υποτίθεται ότι αποκαλύπτουν επικίνδυνα ή αποκλίνοντα άτομα.
Η κυβερνητικότητα, επομένως, δεν απευθύνεται πλέον στο άτομο (αν και η έννοια του ατόμου, έτσι όπως χρησιμοποιούνταν στο αρχαίο μοντέλο κυβερνητικότητας, που πηγαίνει να ψηφίσει με πλήρη συνείδηση ήταν εξίσου αμφισβητήσιμη).
Όλα τα δεδομένα που αποθηκεύονται είναι προ-ατομικά, επειδή οι άνθρωποι εξομοιώνονται μεταξύ τους και στη συνέχεια εξομοιώνονται με τα προφίλ τους. Δεν υπάρχει νόημα. Είναι ακριβώς η ίδια ιδέα που βρίσκεται στη θεωρία των μιμιδίων-meme του Richard Dawkins.
Είναι επομένως μια οπτική του ατόμου ως μηχανής;
Σίγουρα, οι οπαδοί της τεχνητής νοημοσύνης είναι πεπεισμένοι ότι το άτομο είναι μια μηχανή, ένα δοχείο διαφορετικών μικρο-συμπεριφορών, χωρίς ένα συνολικό νόημα. Δεν υπάρχουν πλέον ούτε άτομα, πληθυσμοί ή κοινότητες: υπάρχουν εικονικά προφίλ και είδωλα-avatar. Οι αλγόριθμοι βασίζονται στον προσδιορισμό των τάσεων: για παράδειγμα, τη βίαιη ή μη βίαιη δυνατότητα-δυναμικό ενός ατόμου.
[…]
Στο μυθιστόρημα του Philip K. Dick, Η Προτελευταία Αλήθεια, The Penultimate Truth, του 1964, οι άνθρωποι που καταφεύγουν σε υπόγειες «μυρμηγκοφωλιές» ακούνε σε γιγαντιαίες οθόνες τον πρόεδρό τους Talbot Yancy, ο οποίος είναι στην πραγματικότητα ένα ρομπότ, ελεγχόμενο από μια τεχνητή νοημοσύνη, στον οποίο δίνονται ψευδείς πληροφορίες ώστε να χτίσει έναν καθησυχαστικό λόγο… Κατά μία έννοια ο Ντικ προέβλεψε την τρέχουσα πραγματικότητά μας.
Ναι, είναι στην πραγματικότητα εμπνευσμένο από το μυθιστόρημα του αργεντινού συγγραφέα Adolfo Bioy Casares του 1940, Η εφεύρεση του Μορέλ La invención de Morel … Όπως και να έχει, τίθεται το ζήτημα της δράσης.
Ο θεσμός δεν έχει μπροστά του ανθρώπους που τον αμφισβητούν, αλλά κινήματα μικρο-συμπεριφορών που πρέπει να κυριαρχηθούν. Δεν υπάρχει καμία αναγνώριση της συγκρουσιμότητας, αφού η μηχανή εξαλείφει τον άλλο.
Η παραμικρή κριτική ερμηνεύεται ως ένα πρόβλημα, μια εμπλοκή που πρέπει να επιδιορθωθεί ή ως κάτι που πρέπει να εξαλειφθεί μέσω της σύγκρουσης και της καταστολής. Σε όλες τις περιπτώσεις, εάν οι αντιδράσεις στην κυβερνητική πολιτική δεν είναι καλές, δεν είναι λόγω μιας ιδεολογικής διαφωνίας, αλλά απλώς επειδή η επικοινωνία διεξήχθη άσχημα, διότι τα μιμίδια που χρησιμοποιήθηκαν δεν ήταν τα σωστά.
Χρησιμοποιώ λοιπόν τον όρο μετα-δημοκρατία, γιατί σε αυτό το πλαίσιο-περιβάλλον μπορείς να ψηφίσεις μόνο άτομα που έχουν το ίδιο πρόγραμμα. Από την άλλη, ακόμη και ο Ματέο Σαλβίνι, που στην Ιταλία έχει αντλήσει και διαδώσει ιδέες και στερεότυπα φασιστικού τύπου, ακολουθεί ουσιαστικά τους προσανατολισμούς της ευρωπαϊκής Τράπεζας…
Στη Γαλλία, ο Εμμανουέλ Μακρόν δηλώνει ότι ενδιαφέρεται για τις αποικιακές ευθύνες της Γαλλίας, αλλά όσον αφορά τους μετανάστες… μπορείς να πεις ότι κάνει κλαίγοντας αυτό που κάνει η κυρία Λεπέν γελώντας!
Συνεπώς η σύγκρουση, η διαμάχη που είναι απαραίτητη για τη δημοκρατία δεν υφίσταται πλέον;
Το ζήτημα είναι να γνωρίζεις πώς να παλέψεις ενάντια στη διαγραφή της ετερότητας. Ο Ντε Γκωλ είχε πραγματικούς αντιπάλους: τους αμερικανούς και τους κομμουνιστές. Στην Αργεντινή η στρατιωτική χούντα είχε μια ιδεολογία να υπερασπιστεί ενάντια στους επαναστάτες. Μερικοί στρατιωτικοί υπεύθυνοι για τα βασανιστήρια αγαπούσαν, μεταξύ μιας συνεδρίας και της άλλης, να εξηγούν στους κρατούμενους – ειδικά στους διανοούμενους – τα κίνητρα και τη σημασία της μάχης τους. Σήμερα η ετερότητα δεν λαμβάνεται πλέον υπόψη: υποστηρίζεται ότι ένας τρομοκράτης ριζοσπαστικοποιήθηκε για καθαρά ψυχολογικούς λόγους. Όταν οι δικαστές ήρθαν να με ρωτήσουν μια γνώμη για το θέμα της ριζοσπαστικοποίησης, να σχεδιάσουμε μια πορεία αποριζοσπαστικοποίησης, απάντησα ότι ίσως ήταν απαραίτητο να ληφθεί υπόψη και η ιδεολογική μεταβλητή, και να μην θεωρηθεί το πράγμα μοναχά ως ένα απλό σύμπτωμα. Ένας διαδηλωτής των «κίτρινων γιλέκων» αντιμετωπίζεται σήμερα με τον ίδιο τρόπο: απονομιμοποιείται με το να ανάγεται-μειώνεται σε ένα σύνολο συμπτωμάτων που πρέπει να αντιμετωπιστούν. Το συμπέρασμα είναι ότι καμία διαμάχη δεν γίνεται ανεκτή, θέλουν μοναχά τη σύγκρουση. Ο άλλος είναι ένας Βάρβαρος, και εναντίον του Βαρβάρου μπορώ να εφαρμόσω τη βαρβαρότητα.
[…]
Ποια σχέση υπάρχει μεταξύ της απουσίας συγκρουσιμότητας στις κοινωνίες μας και της τεχνητής νοημοσύνης;
Η εφαρμογή της «μηδενικής ανοχής» έναντι των συγκρούσεων υποστηρίζεται από το μηχάνημα. Η μηχανή θεωρείται απολύτως σωστή, αλλά οι άνθρωποι δεν είναι ποτέ αυστηρά σωστοί! Ένα μηχάνημα, εξ ορισμού, δεν μπορεί να κατανοήσει τις «ασαφείς», όχι ξεκάθαρες λογικές, τις ξεθωριασμένες: μπορεί να υπολογίσει, για παράδειγμα, ότι το 4 είναι διπλάσιο του 2, αλλά δεν μπορεί να γνωρίζει, για παράδειγμα, εάν ένα σπίτι είναι «μεγάλο», γιατί αυτό είναι «μεγάλο» σε σχέση με τι; Υπάρχει μια διάσταση υποκειμενικότητας στα έμβια όντα που ξεφεύγει από τη μηχανή. Ομοίως, σε νομικό επίπεδο, η μηχανή δεν μπορεί να λάβει υπόψη της τι είναι «νόμιμο» για μια κοινωνία, ωστόσο αυτή η νομιμότητα είναι το τσιμέντο της κοινωνίας. Αυτό που είναι θεμιτό-νόμιμο δεν συμπίπτει με αυτό που είναι νόμιμο [αυτό που έχει σχέση με το νόμο από άποψη τεχνική και επαγγελματική] και, αν το παραδεκτό, το εύλογο υποβιβαστεί-αναχθεί στο νόμιμο, η κοινωνία γίνεται αβίωτη. Το πραγματικό πρόβλημα της αλγοριθμικής κυβερνητικότητας δεν είναι πως το μηχάνημα μπορεί μια μέρα να δυσλειτουργήσει. το πρόβλημα είναι μάλλον ότι καθορίζει μη βιώσιμους κοινωνικούς προσανατολισμούς, χωρίς ψεγάδια. Εάν ένας δικαστής βρίσκεται μπροστά σε έναν άνθρωπο που έκλεψε σε ένα σούπερ μάρκετ, εκτός από το να πληροφορηθεί για το τι κλάπηκε, θα λάβει υπόψη και πολλά άλλα στοιχεία, όπως, για παράδειγμα, τη φτώχεια του ανθρώπου. Θα λάβει υπόψη τη βιογραφία και την υποκειμενικότητα αυτού του ατόμου. Θα λογαριάσει το γεγονός ότι σε κάθε κατακριτέα πράξη υπάρχουν έτσι κι αλλιώς σκοτεινά σημεία. Το μηχάνημα δεν μπορεί να τα λάβει όλα αυτά υπόψη.
Μα τότε, πώς να δράσουμε;
Όπως είδαμε, η αλγοριθμική κυβερνητικότητα διασφαλίζει ότι, μπροστά στην κρίση των κοινωνιών και των πολιτισμών, ο ανθρώπινος ορθολογισμός έχει μεταβιβαστεί-ανατεθεί στη μηχανή. Σε αυτό το νέο πλαίσιο, σε αυτό το περιβάλλον η δράση διακυβεύεται. Βρισκόμαστε επίσης αντιμέτωποι με μια καταστροφική κατάσταση σε οικονομικό, δημογραφικό και οικολογικό επίπεδο… Από την άλλη, αν σκεφτούμε με όρους περίπλοκων συστημάτων, συνειδητοποιούμε ότι ο Άνθρωπος δεν είναι ο μόνος παίκτης στον κόσμο. Ο Χάιζενμπεργκ έλεγε ότι όπου κοιτάζει ο Άνθρωπος, δεν βλέπει παρά μόνο τον Άνθρωπο… Στην πραγματικότητα, δεν είναι αλήθεια. Η ανθρώπινη δράση πρέπει να λαμβάνει υπόψη πολλά άλλα ενεργά μη ανθρώπινα στοιχεία. Κάθε ανθρώπινη δράση, στην πολιτική όσο και στην ιατρική, πρέπει να λαμβάνει υπόψη ότι η σκόπιμη δράση δεν είναι παρά ένας φορέας σε ένα μη υπολογίσιμο σύνολο άλλων φορέων, των οποίων η ρύθμιση δεν είναι προβλέψιμη. Θα υπάρξει μια αυτόνομη ρύθμιση της φύσης, αν θέλουμε, αλλά οι άνθρωποι δεν θα είναι πλέον παρόντες για να δώσουν μαρτυρία, να κάνουν τους μάρτυρες.
Δεν είναι εύκολο να διατηρείς την ελπίδα σε αυτόν τον κόσμο…
Ναι, πρέπει πραγματικά να ξέρουμε πώς να ζούμε σε έναν κόσμο χωρίς υποσχέσεις και ακόμη και την ιδέα της πρόνοιας [θείας]. Η ιδέα της πρόνοιας προϋποθέτει ότι βλέπουμε το κακό, ακόμη και στη χειρότερη μορφή του, και δεν το καταλαβαίνουμε, αλλά παρόλα αυτά πιστεύουμε ότι αυτό θα μας οδηγήσει σε ένα μεγαλύτερο καλό που θα θριαμβεύσει. Η νεωτερικότητα έχει δημιουργήσει το δικό της όραμα της πρόνοιας: είναι η τελεολογία, της οποίας ο ιστορικισμός είναι μια από τις ενσαρκώσεις. Η τελεολογία προϋποθέτει μια ανοδική, ανερχόμενη διαλεκτική και μια οριστικότητα-έναν απώτερο στόχο που θα επιλύσει τα προβλήματα που συναντώνται στην πορεία. Σήμερα η είδηση, το καινούργιο είναι ότι δεν έχουμε ούτε πρόνοια-ευλογία, ούτε τελεολογία, ούτε υποσχέσεις.
Αλλά πώς μας εμποδίζει η εποχή μας να σκεφτόμαστε τη δράση μας στον κόσμο, το πως ενεργούμε;
Έχουμε πέσει σε μια νέα εποχή, στην οποία ο συνηθισμένος τρόπος δράσης μας δεν λειτουργεί πια. Η πολυπλοκότητα έχει καταστεί κυρίαρχη σχεδόν παντού. Ας πάρουμε ως παράδειγμα την περίπτωση των αντιβιοτικών. Αυτός ο τύπος ιατρικής δημιουργήθηκε μέσα σε ένα γραμμικό μοντέλο του ζωντανού ως τόπος μάχης και κατάκτησης. Η ιδέα ήταν ότι υπάρχουν παθογόνοι παράγοντες και άλλοι που ενισχύουν το ανοσοποιητικό σύστημα, και αυτό το τελευταίο είναι σαν ένα φρούριο που επιτρέπει στους ανθρώπους να πολεμούν τους εισβολείς. Ως ένα βαθμό, αυτό είναι αλήθεια. Μα, όταν λαμβάνονται σε μεγάλες ποσότητες, μεμονωμένα και συλλογικά, τα αντιβιοτικά έχουν ιατρογενή αποτελέσματα και επιδεινώνουν το ανοσοποιητικό σύστημα, κάτι που δεν είχε προβλεφθεί. Αυτό δείχνει καλά πώς δεν μπορούμε να σκεφτόμαστε τη δράση αποκλειστικά με όρους αιτίου και αποτελέσματος σε σχέση με την αιτία. Η σημερινή επιστήμη δεν είναι πλέον μια επιστήμη που περιορίζεται στην ακρίβεια. Πρέπει να μπορεί, να είναι σε θέση να αντιμετωπίσει έναν ορισμένο βαθμό αβεβαιότητας.
Πράγματι, σε ένα άλλο επίπεδο (εκείνο της «μη άμεσης» ενημέρωσης-πληροφόρησης) κατακλυζόμαστε από δεδομένα χωρίς να μπορούμε να προσδιορίσουμε ένα αποτέλεσμα στα σίγουρα. Η εμπειρία δείχνει ότι υπάρχει μια συσχέτιση μεταξύ του καθημερινού καπνίσματος και της ανάπτυξης καρκίνου, αλλά τι επιφυλάσσει το μέλλον σε έναν καπνιστή που δεν έχει καρκίνο προς το παρόν; Θα συναντήσει πραγματικά αυτή την ασθένεια; Όντως, σήμερα, βρισκόμαστε μπροστά στο να παρασυρθούμε, μπροστά στον πειρασμό μιας διαχείρισης των πειθαρχικών κινδύνων μέσω των ψηφιακών τεχνολογιών, των οποίων η ψευδο-ορθολογική γλώσσα είναι στην πραγματικότητα στο ίδιο επίπεδο με αυτή κάθε χειρομάντισσας. Η μεγάλη τρέχουσα πρόκληση είναι να κατανοήσουμε αυτήν την πολυπλοκότητα: σε επίπεδο υγειονομικής περίθαλψης, οικολογικό, δημογραφικό και οικονομικό.
Μιχάλης ‘Μίκε’ Μαυρόπουλος Comune-info
