του Μιχάλη Ψύλου, δημοσιογράφου
«Πολλοί πιστεύουν ότι με την τεχνητή νοημοσύνη αρχίζει η χρυσή εποχή του ολοκληρωτισμού», λέει ο Γιουβάλ Νόα Χαράρι, σε συνέντευξή του στη Handelsblatt. O διάσημος Ισραηλινός ιστορικός, φιλόσοφος και συγγραφέας παγκόσμιων best seller έχει εμπνεύσει με τις σκέψεις του επιχειρηματικούς ηγέτες και αρχηγούς κρατών. Είναι ιστορικός, αλλά δεν κοιτάζει μόνο το παρελθόν. Για αυτόν, η ενασχόληση με την ιστορία σημαίνει πάντα την αντιμετώπιση της αλλαγής.
Η δημοκρατία -λέει ο Χαράρι- βασίζεται στην τεχνολογία της πληροφορίας, γιατί η δημοκρατία δεν είναι τίποτα άλλο από μια μεγάλη συζήτηση. Ιστορικά, οι μεγάλες δημοκρατίες ήταν από καιρό αδύνατες επειδή δεν υπήρχε τεχνολογία που να οργανώνει συνομιλίες μεταξύ εκατομμυρίων ανθρώπων σε απόσταση χιλιάδων χιλιομέτρων . Αυτό κατέστη δυνατό μόνο στην ύστερη σύγχρονη περίοδο, μετά την εμφάνιση των σύγχρονων τεχνολογιών της πληροφορίας-εφημερίδες, ραδιόφωνο και τηλεόραση. Αυτά τα μέσα αποτελούσαν την τεχνολογική βάση για τη δημοκρατική συζήτηση. Τώρα αναδύεται μια νέα και ισχυρή τεχνολογία πληροφοριών, η τεχνητή νοημοσύνη ,που κατά κάποιο τρόπο κλονίζει τα θεμέλια της δημοκρατικής τάξης. Και αυτός είναι ο σεισμός που βιώνουμε αυτή τη στιγμή, τουλάχιστον όσον αφορά την κρίση της δημοκρατίας.
Τεχνολογία πρωταγωνιστής και όχι εργαλείο
Για πρώτη φορά αυτή η τεχνολογία δεν είναι πλέον εργαλείο, γίνεται πρωταγωνιστής: η τεχνητή νοημοσύνη εκτελεί ανεξάρτητες ενέργειες. Είναι η πρώτη τεχνολογία στην ανθρώπινη ιστορία που μπορεί να πάρει αποφάσεις και να αναπτύξει νέες ιδέες, ανεξάρτητα.
Μια πυρηνική βόμβα δεν μπορούσε να αποφασίσει τι θα βομβαρδίσει, σε αντίθεση με τα νέα, αυτόνομα οπλικά συστήματα.
Ένα τυπογραφείο αντέγραφε τις ανθρώπινες σκέψεις, αλλά δεν μπορούσε να αναπτύξει τις δικές του ιδέες. Η τεχνητή νοημοσύνη, από την άλλη πλευρά, είναι ικανή να δημιουργεί νέα κείμενα, εικόνες, βίντεο, φάρμακα, στρατιωτικές στρατηγικές και χρηματοοικονομικά μέσα. Η τεχνολογία μπορεί να μας χειραγωγήσει ανά πάσα στιγμή.
Αλλά και στον χρηματοπιστωτικό τομέα επίσης, με την τεχνητή νοημοσύνη, αυτόματα συστήματα στέλνουν δισεκατομμύρια δολάρια σε όλο τον κόσμο καθημερινά. Έτσι, αν αναπτυχθεί μια οικονομική τεχνητή νοημοσύνη και της ανατεθεί να βγάλει χρήματα, θα το κάνει.
«Φανταστείτε» λέει ο Χαράρι, ότι ζούμε σε έναν κόσμο όπου η τεχνητή νοημοσύνη εφευρίσκει εντελώς νέα χρηματοοικονομικά μέσα που είναι τόσο περίπλοκα που κανένας άνθρωπος δεν μπορεί να τα καταλάβει και να τα ρυθμίσει. Πρώτον, άνθρωποι ή εταιρείες κερδίζουν δισεκατομμύρια από αυτό. Αλλά τότε μπορεί να υπάρξει μια συντριβή – και κανείς δεν θα μπορεί να καταλάβει τι συμβαίνει. Και αυτό θα είναι ένα πολύ πιο πιθανό σενάριο Αποκάλυψης από την τεχνητή νοημοσύνη , από έναν «στρατό ρομπότ-δολοφόνων», που προβλέπουν κάποια σενάρια του Χόλιγουντ.
Η πρίζα
Κάποιοι θα πουν βέβαια ότι δεν θα υπάρξει πρόβλημα γιατί απλά θα βγάλουμε την …πρίζα. Αλλά η πρίζα πιθανότατα δεν θα τραβηχτεί τόσο γρήγορα, όταν η τεχνολογία παράγει δισεκατομμύρια σε όλο τον κόσμο.
«Δεν ανησυχώ για έναν μεγάλο υπολογιστή που θα προσπαθήσει να καταλάβει τον κόσμο. Αλλά για τα εκατομμύρια των γραφειοκρατών και των τραπεζιτών της τεχνητής νοημοσύνης που θα παίρνουν αποφάσεις για όλο και μεγαλύτερα κομμάτια της ζωής μας. Γιατί δεν θα καταλαβαίνουμε αρκετά πράγματα ώστε να μπορούμε πραγματικά να τα ρυθμίσουμε».
Οπως στην περίφημη «Δίκη» του Κάφκα, όπου ο επικεφαλής ταμίας μιας τράπεζας, συλλαμβάνεται απροσδόκητα από δύο άγνωστους πράκτορες μιας απροσδιόριστης υπηρεσίας για ένα απροσδιόριστο έγκλημα, που δεν αποκαλύπτεται ούτε σε αυτόν ούτε στον αναγνώστη. Ο ταμίας δεν φυλακίζεται, αλλά αφήνεται “ελεύθερος” και να περιμένει οδηγίες από την Επιτροπή Υποθέσεων, ώσπου τελικά δύο άνδρες φτάνουν στο διαμέρισμά του για να τον εκτελέσουν, «σαν σκυλί»!
«Οι δημοκρατίες είναι πολύ ευάλωτες»
Ο Βέλγος φιλόσοφος Μάρκ Κούκελμπεργκ, Καθηγητής Φιλοσοφίας Μέσων και Τεχνολογίας στο πανεπιστήμιο της Βιέννης γράφει στο βιβλίο του «The Political Philosophy of AI», ότι μπορούμε να μάθουμε πολλά από τη «Δίκη» του Κάφκα. Από τη μια πλευρά, υπάρχει αυτό το αίσθημα ότι χάνεσαι σε έναν λαβύρινθο. Υπάρχουν πολλές κρίσεις που συμβαίνουν ταυτόχρονα αυτή τη στιγμή. Οι άνθρωποι αισθάνονται να κατακλύζονται από δυνάμεις που δεν μπορούν πραγματικά να ελέγξουν.
Ο Κούκελμπεργκ ορίζει βασικές αρχές της δημοκρατίας που κινδυνεύουν από τη χρήση της τεχνητής νοημοσύνης.
«Ίσως το πιο σημαντικό: οι απειλές για την ελευθερία και την ισότητα. Η AI θέτει σε κίνδυνο την ελευθερία των ανθρώπων, όταν δεν είναι πλέον σε θέση να διαμορφώσουν τις δικές τους απόψεις, αλλά χειραγωγούνται – μέσω αναρτήσεων που δημιουργούνται αυτόματα στα μέσα κοινωνικής δικτύωσης…Η ισότητα, μια άλλη βασική δημοκρατική αρχή, απειλείται επίσης από τη χρήση της τεχνητής νοημοσύνης: Εάν η τεχνητή νοημοσύνη αξιολογεί, μέσω μεγάλων ποσοτήτων δεδομένων, ανεξάρτητα και χωρίς ανθρώπινη παρέμβαση, εάν κάποιος είναι φερέγγυος ή όχι, υπάρχει ο κίνδυνος να διαιωνιστεί και να ενισχυθεί η ανισότητα. Οπως ο «λάθος» ταχυδρομικός κώδικας, η «λάθος» εθνικότητα.
Το λάθος του αλγόριθμου
Ο Βέλγος καθηγητής αναφέρει την περίπτωση ενός εγχρώμου Αμερικανού που συνελήφθη χωρίς εξήγηση, επειδή ένας αλγόριθμος ταυτοποίησης προσώπου, τον αναγνώρισε κατά λάθος .
Ο Χαράρι από την πλευρά του, υποστηρίζει ότι στο μέλλον, ο πολιτισμός θα δημιουργείται και θα διαδίδεται όλο και περισσότερο από μη ανθρώπινη νοημοσύνη. Οι αλγόριθμοι όχι μόνο θε αναπτύσσουν χρηματοοικονομικά εργαλεία, αλλά και επιστημονικές θεωρίες, τραγούδια, ταινίες και θα είναι αυτοί που θα διαδίδουν τα πολιτιστικά μας αγαθά σε μεγάλες πλατφόρμες.
Στο μέλλον, διαφορετικά μέρη της ανθρωπότητας θα παγιδευτούν σε διαφορετικά «κουκούλια» πληροφοριών. Η τεχνολογία δεν πρέπει να θεωρείται δεδομένη ως δημοκρατική κοινωνία, αλλά οι άνθρωποι θα πρέπει να έχουν επιρροή στο τεχνολογικό μέλλον του πλανήτη. Όπως και στη «Δίκη», όλα είναι ρευστά, απροσδιόριστα, ασαφή και συγχρόνως, απειλητικά και επικίνδυνα. Τίποτα δεν είναι σταθερό, συγκεκριμένο και σαφές. Οι Δικαστές είναι πρόσωπα χαμένα στην απροσδιοριστία και στην αχλή. Ο «κατηγορούμενος» δεν τους βλέπει, ακούει μόνο γι αυτούς και ό,τι ακούει είναι πάντα τρομαχτικό. Εχει να αντιμετωπίσει μυστηριώδη πρόσωπα, κλητήρες, κατηγορούμενους και συνεργαζόμενους με ένα το παράπλευρο δικαστικό σύστημα, όλοι με αμφίβολες και σκοτεινές αρμοδιότητες. Το χάος περιέχει μια διαρκή απειλή, ένα συνεχή κίνδυνο και ο ταμίας νιώθει ανίκανος να το αντιμετωπίσει.
Ο Κάφκα αν ζούσε σήμερα ίσως να έγραφε ότι η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί με τον ίδιο τρόπο από ολοκληρωτικά καθεστώτα. Οι δημοκρατίες είναι άλλωστε ήδη πολύ ευάλωτες, αυτή τη στιγμή…
ΝΑΥΤΕΜΠΟΡΙΚΗ