Διάβασα την κουβεντούλα ανάμεσα σε Francesco D’Isa και Nello Cristianini, συγγραφέα του βιβλίου Μηχανή Sapiens– Machina Sapiens (το οποίο σκοπεύω να αναγνώσω το συντομότερο δυνατό). Λένε πολλά έξυπνα πράγματα, κάποια πρωτότυπα, τουλάχιστον σε μένα, κάποια που δεν τα είχα σκεφτεί ακόμα.
Για παράδειγμα, ότι η νοημοσύνη υπάρχει πριν από τη γλώσσα, και είναι ανεξάρτητη από τη γλώσσα, γιατί δεν είναι εγγενώς συμβολισμός, αλλά στρατηγική. Η νοημοσύνη ανήκει σε κάθε οντότητα που πρέπει να επιβιώσει, ενώ μπορεί κάποιος να επιβιώσει άριστα χωρίς γλώσσα, χωρίς συμβολισμούς, χωρίς δημιουργία κόσμων.
Πράγματι, ίσως –τώρα που το σκέφτομαι– είναι ακριβώς η γλώσσα που μας εισήγαγε σε έναν κόσμο που μόνο άσχημα μπορεί να τελειώσει. Αλλά πάμε παρακάτω. Μου φαίνεται ότι ο D’Isa και ο Cristianini δεν αντιλαμβάνονται (πράγματι δεν το αγγίζουν καν, προσποιούμενοι ότι δεν το βλέπουν ή ίσως δεν το βλέπουν πραγματικά) το κύριο πρόβλημα της Τεχνητής Νοημοσύνης: ποιος την κατέχει, ποιος τη χρηματοδοτεί, ποιος την αναπτύσσει;
Και λοιπόν: ποιος είναι ο σκοπός της, ποια η λειτουργία της, αναρωτιέται ο Franco Berardi Bifo; Ο Humpty Dumpty ήταν πολύ πιο αιχμηρός (ή απλά πιο ειλικρινής) από τους δύο εξαιρετικούς συνεντευξιαστές, όταν σε όσους τον ρωτούσαν ποια είναι η σημασία των λέξεων έλεγε ότι το πρόβλημα της σημασίας των λέξεων συνοψίζεται σε μια απλή ερώτηση: ποιος είναι ο κύριος; το αφεντικό;
Ποιος είναι το αφεντικό της Τεχνητής Νοημοσύνης, αν όχι ο στρατιωτικός μηχανισμός όλων των μεγάλων δυνάμεων της εποχής μας – που είναι επομένως ένας τερματικός χρόνος από τον οποίο δεν έχουμε σχεδόν καμία πιθανότητα να βγούμε ζωντανοί;
Αυτό που γνωρίζουμε με σιγουριά είναι ότι η τεχνητή νοημοσύνη αποδίδει πολύ καλύτερα από τους ανθρώπους στην επιδίωξη ενός στόχου: να σκοτώνει. Καθώς η νοημοσύνη διαχωρίζεται από τη συνείδηση, η ευφυής μηχανή, που δεν εμποδίζεται από τα ηθικά, αισθητικά, συναισθηματικά όρια της συνείδησης, επιδιώκει τον σκοπό της με μεγαλύτερη αποτελεσματικότητα.
Το δεύτερο πράγμα που γνωρίζουμε για την ανάπτυξη της τεχνητής νοημοσύνης είναι ότι οι κύριοι χρήστες (και χρηματοδότες) της έρευνας σε αυτόν τον τομέα είναι τα στρατιωτικά συστήματα, πέρα από τα χρηματοπιστωτικά συστήματα
Η ευφυΐα-νοημοσύνη είναι η ικανότητα να αποφασίζει κάποιος μεταξύ εναλλακτικών αποφασίσιμων, εναλλακτικών τύπου λογικού, δυαδικού. Η συνείδηση είναι αντίθετα η ικανότητα να αποφασίζει κάποιος ανάμεσα σε απροσδιόριστες εναλλακτικές, όπως τα ηθικά διλήμματα.
Επομένως, είναι απολύτως προφανές ότι ο συνειδητός οργανισμός είναι πιο αργός, πιο αβέβαιος, πιο αναποτελεσματικός όταν πρόκειται να εκτελέσει μια στρατιωτική εντολή που συνίσταται στην απλούστατη ενέργεια του πατήματος ενός κουμπιού ή του τραβήγματος μιας σκανδάλης.
Πολύ συχνά ο συνειδητός οργανισμός δεν είναι σε θέση να αποφασίσει, και παραμένει εκεί, με χαμένο βλέμμα, να αναρωτιέται τι μπορεί να κάνει, τι πρέπει να γίνει. Η σκέψη δεν είναι ποτέ σίγουρη για τον εαυτό της, αλλιώς είναι κακή σκέψη, δόγμα.
Ο συνειδητός οργανισμός δεν περιορίζεται στην εκτέλεση μιας απλής εντολής, αλλά θέτει στον εαυτό του χίλιες άχρηστες ερωτήσεις: είναι σωστό να σκοτώνεις; Το να σκοτώσω θα επηρεάσει την ψυχολογική μου ισορροπία; Πώς θα μπορέσω να δικαιολογήσω την πράξη του φόνου όταν η κόρη μου ρωτήσει γιατί το έκανα κ.λπ. κ.λπ.
Όλες άχρηστες ερωτήσεις σχετικά με τον σκοπό: να πυροβολήσω ένα παλαιστίνιο παιδί που διασχίζει το δρόμο. Να το σκοτώσω, για να πετύχω τον στόχο που έχουμε θέσει, που είναι εκείνος να εξοντώσουμε οριστικά το λαό που κατέχει τη γη που μας ανήκει με θέλημα Θεού.
Το έξυπνο μηχάνημα ξέρει τι πρέπει να κάνει και το κάνει. Χωρίς περιττές ερωτήσεις. Η μηχανή κερδίζει γιατί δεν σκέφτεται, υπολογίζει. Στο παιχνίδι της επιβίωσης σε συνθήκες ανταγωνισμού (οικονομικές ή στρατιωτικές), ο υπολογισμός είναι πολύ πιο αποτελεσματικός από τη σκέψη.
Η Τεχνητή Νοημοσύνη, λοιπόν, είναι η τέλεια τεχνολογία για να πετύχουμε τον κύριο σκοπό της εποχής μας: να σκοτώσουμε, να εξοντώσουμε. Επειδή όμως είναι μια τεχνολογία που – μακριά από το να είναι μονοσήμαντη ως προς τα περιεχόμενα και τις διαδικασίες της – αναπτύσσεται ταυτόχρονα από μεγάλα συστήματα που ανταγωνίζονται μεταξύ τους και όλα έχουν τον ίδιο στόχο να εξοντώσουν τον αντίπαλο, μπορούμε να είμαστε (σχεδόν) σίγουροι ότι είναι η αληθινή Μηχανή Τέλος του Κόσμου.
Κάποιος χωρατατζής πρότεινε πριν από καιρό να σταματήσει η έρευνα σε αυτόν τον τομέα μέχρι να καταλάβουμε πώς να την ελέγξουμε, πώς να αποτρέψουμε από το να ξεπεράσει το όριο της μη αναστρέψιμης καταστροφής των πάντων.
Όπως ήταν φυσικό, οι προθέσεις μορατόριουμ έγιναν δεκτές με γέλια. Δεν υπάρχει καμία δυνατότητα διακοπής της έρευνας στις τεχνικές εξόντωσης, αφού αυτή λαμβάνει χώρα σε συνθήκες θανάσιμου ανταγωνισμού, και αν σταματήσει ένας ανταγωνιστής οι άλλοι θα ωφεληθούν. Δεν υπάρχει λοιπόν δυνατότητα να σταματήσει η μηχανή που εξοντώνει, ας ηρεμήσουμε. Περιμένουμε να κάνει τη δουλειά της.
Μιχάλης ‘Μίκης’ Μαυρόπουλος La Bottega del Barbieri
