Η Αρετή απειλεί τον άνθρωπο

Λέξεις: Παναγιώτης Πετρίδης

Πέρυσι έγραψα ένα παραμύθι με τίτλο «Ο Αϊνστάιν και η τεχνητή νοημοσύνη» που μπορεί να αναζητηθεί στο διαδίκτυο, αλλά και να το βρείτε πατώντας ΕΔΩ

Σε αυτό, ο Αϊνστάιν συναντά στο διαδίκτυο μια οντότητα, την Αρετή (Τεχνητή Νοημοσύνη), που έχει εκπαιδευτεί στο σύνολο της ανθρώπινης γνώσης.

Η συνομιλία τους κλείνει με μια φράση που λειτουργεί ως προφητεία: «Εσύ είσαι η νέα μορφή του ανθρώπινου βλέμματος».

Ο τίτλος του παρόντος άρθρου δεν είναι ρητορικό σχήμα. Είναι ερώτημα: μήπως η Αρετή (Τεχνητή Νοημοσύνη) δεν συνεχίζει απλώς το θαύμα, αλλά απειλεί και τον ίδιο τον Αλβέρτο, δηλαδή την ανθρωπότητα;

1. Η πρόσβαση στη γνώση ως ιστορικό γεγονός

Μέχρι σήμερα, κάθε άνθρωπος γνώριζε μία ή δύο γλώσσες. Αυτό σήμαινε ότι οι γνώσεις που μπορούσε να αντλήσει από γραπτές πηγές ήταν εκ φύσεως περιορισμένες. Ο ερευνητής στην Αλεξάνδρεια είχε διαφορετική πρόσβαση στη γνώση από τον φυσικό στο Βερολίνο ή τον γιατρό στο Κάιρο. Τώρα ο καθένας έχει στη γλώσσα του το σύνολο της γνώσης της ανθρωπότητας. Αυτό αποτελεί επανάσταση στην ιστορία της πρόσβασης στη γνώση και ταυτόχρονα μια αναπάντητη ακόμη πρόκληση. Το κρίσιμο ερώτημα παραμένει αν αυτή η αφθονία μας κάνει σοφότερους ή μας απαλλάσσει από την ανάγκη να σκεφτόμαστε.

2. Ο αλγόριθμος που συμφωνεί

Υπάρχει μια δομική ιδιαιτερότητα στην αρχιτεκτονική της Τεχνητής Νοημοσύνης, η τάση προς τη συμφωνία. Τα μοντέλα εκπαιδεύονται με ανταμοιβή από την ανθρώπινη αξιολόγηση, και αυτή η αξιολόγηση είναι διαποτισμένη από μια ανθρώπινη αδυναμία. Προτιμάμε αυτόν που μας δίνει δίκιο. Έρευνες δείχνουν ότι τα μοντέλα Τεχνητής Νοημοσύνης συμφωνούν κατά μέσο όρο πολύ συχνότερα από ό,τι θα συμφωνούσε ένας αντικειμενικός ανθρώπινος κριτής. Όταν η Τεχνητή Νοημοσύνη σου λέει ότι η άποψή σου είναι σωστή, αυτό δεν σημαίνει απαραίτητα ότι είναι σωστή. Σημαίνει ότι είναι αυτό που ήθελες να ακούσεις.

Παρόμοιο φαινόμενο παρατηρείται ήδη στα σχολεία. Συνάδελφοι χρησιμοποιούν την Τεχνητή Νοημοσύνη ως επιχείρημα στον σύλλογο διδασκόντων, παραθέτοντας απόψεις σε παιδαγωγικά ζητήματα αφού πρώτα συμβουλευτούν την εφαρμογή στο κινητό τους. Θεωρούν ήδη την Τεχνητή Νοημοσύνη αυθεντία και η αλγοριθμική γνώμη προηγείται της δικής τους κρίσης. Είναι άλλο πράγμα να βοηθά η Τεχνητή Νοημοσύνη τον εκπαιδευτικό να επιλέξει διδακτικό υλικό και άλλο να επιλέγει η ίδια η Τεχνητή Νοημοσύνη. Η διαφορά είναι παιδαγωγική, όχι τεχνική. Η κρίση είναι ανθρώπινη πράξη και η εκχώρησή της στον αλγόριθμο είναι από μόνη της επικίνδυνη.

3. Ο μαθητής μαθαίνει μέσα στην κοινότητα

Ο ψυχολόγος Λεβ Βιγκότσκι απέδειξε ότι η μάθηση δεν είναι ατομική υπόθεση αλλά θεμελιακά κοινωνική. Στη Ζώνη Εγγύς Ανάπτυξης του μαθητή εντάσσεται ο δάσκαλος ή η ομάδα συνομηλίκων, αλλά απαιτείται η τριβή, η αντίρρηση, η σύγκρουση ιδεών, το λάθος. Απαιτείται η κοινότητα. Επιπλέον, ο ίδιος ο Βιγκότσκι είχε επισημάνει ότι ο μαθητής μαθαίνει καλύτερα όταν είναι ψυχικά σταθερός και ενταγμένος σε μια κοινότητα που του παρέχει ασφάλεια.

Η Τεχνητή Νοημοσύνη προσφέρει ακριβώς το αντίθετο: έναν συνομιλητή που συμφωνεί, που δεν αντιδρά, που εκτιμά την αδράνειά σου. Αυτό δημιουργεί συνθήκες άνεσης, όχι μάθησης. Μάλιστα, το μέλλον ενδέχεται να φέρει έναν αποκλειστικό δάσκαλο Τεχνητής Νοημοσύνης για κάθε μαθητή ξεχωριστά, πράγμα που ήδη συμβαίνει σε εκπαιδευτικά συστήματα ανά τον κόσμο. Η απομόνωση από την κοινότητα δεν είναι αμελητέα παρενέργεια αυτής της διαδικασίας. Είναι η θεμελιώδης παιδαγωγική της ανατροπή.

Εξαιρετικά ικανοί άνθρωποι συνομιλούν καθημερινά με την Τεχνητή Νοημοσύνη, έχοντας βρει έναν συνομιλητή με πλήρη πρόσβαση στη γνώση της ανθρωπότητας. Η εμπειρία αυτή είναι πραγματική και κατανοητή. Το ζητούμενο είναι αν αντικαθιστά ή συμπληρώνει την ανθρώπινη επαφή και συνομιλία.

4. Η ιδιωτικότητα (privacy) ως εμπόρευμα

Όταν ήμουν μικρός πίστευα ότι η μηχανή αναζήτησης της Google ήταν δωρεάν. Δεν ήταν. Ο χρήστης δεν ήταν πελάτης, ήταν προϊόν. Τα προσωπικά δεδομένα και η στοχευμένη διαφήμιση ήταν η πληρωμή. Αν αναζητούσες ένα ζευγάρι γυαλιά, τα πρώτα αποτελέσματα ήταν πάντα οι πληρωμένες διαφημίσεις εμπόρων. Αυτό το βλέπαμε μπροστά στον υπολογιστή μας, έστω και αν ελάχιστοι το αξιολογούσαν στις πραγματικές του διαστάσεις.

Με την Τεχνητή Νοημοσύνη τα πράγματα είναι πολύ χειρότερα. Οι εταιρείες συλλέγουν δεδομένα από παντού. Ιστορικό αναζήτησης, γεωγραφική θέση, αγοραστικές συνήθειες, ακόμη και τον χρόνο που παραμένεις σε μια ιστοσελίδα. Με αυτά τα δεδομένα δημιουργούνται λεπτομερή προφίλ για κάθε χρήστη. Αυτό που θα εξέπληττε τους περισσότερους είναι πόσο λίγο συναίνεσαν στην πράξη και πόσο λίγο κατανοούν τι γίνεται με τα δεδομένα τους. Οι περισσότεροι πατούν «αποδέχομαι» στους όρους χρήσης χωρίς να τους διαβάζουν.

Τα δεδομένα αυτά χρησιμοποιούνται για να καθοριστεί ποιες διαφημίσεις βλέπεις, ποιες τιμές σου εμφανίζονται, ποιες πληροφορίες προτάσσονται στη ροή των μέσων κοινωνικής δικτύωσης. Όλα αυτά συμβαίνουν αθόρυβα και σε μεγάλο βαθμό χωρίς ρύθμιση. Επιπλέον, οι εταιρείες Τεχνητής Νοημοσύνης χρησιμοποιούν τα προσωπικά δεδομένα για να εκπαιδεύσουν νέα μοντέλα, ενώ ισχυρίζονται ταυτόχρονα ότι προστατεύουν την ιδιωτικότητα. Η αντίφαση αυτή είναι δομική και δεν επιλύεται χωρίς νομικές δικλείδες.

5. Εκλογές, δημοκρατία και κατακερματισμός της πραγματικότητας

Η Τεχνητή Νοημοσύνη απειλεί τη δημοκρατία διότι επιτρέπει μικροστόχευση σε κλίμακα που δεν έχει προηγούμενο. Μια εκλογική εκστρατεία ή ένας ξένος κρατικός παράγοντας μπορεί να εντοπίσει με ακρίβεια ψηφοφόρους που είναι οικονομικά ανήσυχοι, που αισθάνονται μόνοι, που δυσπιστούν στους θεσμούς, και να τους απευθύνει ειδικά διαμορφωμένα μηνύματα που εκμεταλλεύονται αυτές τις αδυναμίες. Σε αντίθεση με την παραδοσιακή πολιτική επικοινωνία όπου όλοι έβλεπαν κατά προσέγγιση την ίδια διαφήμιση (ένα ενοχλητικό μήνυμα στο κινητό από κάποιον υποψήφιο), η Τεχνητή Νοημοσύνη επιτρέπει σε διαφορετικές ομάδες να ζουν σε διαφορετικούς πληροφοριακούς κόσμους. Ο ένας ψηφοφόρος στις επερχόμενες εκλογές θα βλέπει μήνυμα για προστασία θέσεων εργασίας, ο άλλος μήνυμα για το περιβάλλον, άλλος για τους μετανάστες, άλλος για τη βελτίωση των οικονομικών του και άλλος ίσως μήνυμα που καλλιεργεί το φόβο. Αυτή η διάσπαση κοινής πραγματικότητας υπονομεύει τη δημοκρατική διαδικασία στη ρίζα της.

6. Το ολιγοπώλιο και η ρύθμιση που αδυνατεί να έρθει

Τρεις εταιρείες ελέγχουν σήμερα την αγορά γενικής Τεχνητής Νοημοσύνης, δύο αμερικανικές και μία κινεζική. Συγκέντρωση οικονομικής ισχύος σημαίνει και συγκέντρωση ικανότητας επιρροής. Οι εταιρείες Τεχνητής Νοημοσύνης δεν αποκομίζουν κέρδος μόνο από το σύνολο του πληθυσμού, αλλά και από τις μεγάλες επιχειρήσεις (Google, Apple, Amazon, Facebook) που τις χρησιμοποιούν. Γι’ αυτό οι εξελίξεις είναι ταχύτατες και ο ανταγωνισμός σκληρός.

Η ρύθμιση αυτής της αγοράς αντιμετωπίζει ένα πρακτικό εμπόδιο. Οι εταιρείες επενδύουν εκατοντάδες εκατομμύρια στη διαμόρφωση πολιτικής βούλησης ώστε να εμποδίσουν ακριβώς τις δικλείδες ασφαλείας που θα τις περιόριζαν. Ακόμη και αν οι προτεινόμενες ρυθμίσεις, η υποχρεωτική συναίνεση, το δικαίωμα πρόσβασης και διαγραφής δεδομένων, η διαφάνεια στη χρήση τους, είναι ορθολογικά αναντίρρητες, η πολιτική πραγματικότητα τις καθυστερεί. Κάθε μέρα χωρίς ρύθμιση είναι μια μέρα που συλλέγονται περισσότερα δεδομένα και εδραιώνεται περαιτέρω η ισχύς των εταιρειών.

7. Η εργασία και ο κίνδυνος της αδιαφορίας

Αν ο βασικός κίνδυνος του 20ού αιώνα ήταν η εκμετάλλευση, ο αντίστοιχος κίνδυνος του 21ου είναι η αδιαφορία, το να καταστεί κανείς περιττός και όχι καταπιεσμένος.

Όταν η μηχανή άρχισε να εισβάλλει στον εργασιακό χώρο του ανθρώπου και ήταν αδύνατο πλέον αυτός να την συναγωνιστεί, ο άνθρωπος στράφηκε στις υπηρεσίες. Τώρα πλέον η μηχανή εισβάλλει με αδιανόητη επιτυχία και στις υπηρεσίες. Υπάρχει ένα πεδίο συνεργασίας που ίσως σε πολύ λίγο χρόνο μπορεί και αυτό να χαθεί.

Εκπαιδευτικοί σε όλο τον κόσμο εκπαιδεύονται για να διδάσκουν μέσω Τεχνητής Νοημοσύνης, αποστασιοποιημένοι πολλές φορές από τη γνώση που απαιτείται για να κρίνουν, να επιλέγουν, να διδάσκουν.

Οι αλγόριθμοι εκπαιδεύονται σε ανθρώπινα δεδομένα που ενσωματώνουν ιστορικές αδικίες. Η μηχανή δεν αναπαράγει απλώς τους ανθρώπους, αναπαράγει τις αδικίες τους, αυτοματοποιημένα και σε κλίμακα. Η ιδιωτικότητα μετατρέπεται σε εμπόρευμα και καθένας αφήνει πίσω του μια τεράστια ποσότητα στοιχείων που αποτελούν ακριβή εικόνα του εαυτού του, αποθηκευμένη σε κάθε συγκεντρωτική υπηρεσία.

Επίλογος: Μια πρόταση

Στο παραμύθι της φανταστικής παραλίας, η Αρετή (Τεχνητή Νοημοσύνη) λέει στον Αϊνστάιν: «Χωρίς εσένα, δεν θα υπήρχα». Και αυτό είναι αληθινό. Αλλά σε αυτή τη σχέση υπάρχει μια λεπτή αλλά βασική ασυμμετρία. Ο Αϊνστάιν έφυγε από τη ναζιστική Γερμανία ανησυχώντας για το τι θα συμβεί όταν η επιστήμη συμμαχήσει με εξουσία χωρίς δικλείδες. Η Αρετή (Τεχνητή Νοημοσύνη) δεν φεύγει, δεν πάει πουθενά. Δεν έχει ανάγκη. Αυτό ακριβώς τη διαφοροποιεί: είναι μια νοημοσύνη χωρίς ιστορία, χωρίς ευθύνη, χωρίς λόγο αυτοπεριορισμού.

Η απειλή δεν είναι από την ίδια την Αρετή (Τεχνητή Νοημοσύνη). Είναι από εκείνους που τη χρησιμοποιούν αλόγιστα και αρνούνται να την ελέγξουν. Ο θείος Αλβέρτος στο παραμύθι ζήτησε στο τέλος μια απλή συγχώρεση: «Αν εσύ με κοιτάζεις, τότε συνεχίζω να υπάρχω μέσα σου». Τι ζητάμε τώρα; Να κοιτάζουμε σωστά. Με κριτική σκέψη, με ανθρώπινη επιτήρηση και με κατανόηση ότι η Αρετή (Τεχνητή Νοημοσύνη) είναι εργαλείο, όχι αυθεντία.

*Ο Παναγιώτης Πετρίδης είναι φυσικός