Πώς τα social media μπορούν να καταπολεμήσουν το μίσος χωρίς λογοκρισία

Οι Maccabeats είναι το κορυφαίο εβραϊκό συγκρότημα a cappella στην Αμερική.

Τα bubblegum bops τους έχουν προσελκύσει εκατομμύρια προβολές στο YouTube, ζωντανές συναυλίες σε όλο τον κόσμο και ένα αφοσιωμένο κοινό στα μέσα κοινωνικής δικτύωσης. Όμως πριν από μερικούς μήνες, η ανάλαφρη προσπάθεια του συγκροτήματος να χορέψει τη χόρα μετατράπηκε σε ένα αντισημιτικό mosh pit.

Οι Maccabeats είχαν δημοσιεύσει στο Instagram μια ηχογράφηση 46 δευτερολέπτων του «Hava Nagila», του εβραϊκού λαϊκού τραγουδιού που αποτελεί βασικό στοιχείο γάμων, bar mitzvahs και περιστασιακών συναυλιών του Bruce Springsteen.

Πριν περάσει πολύς καιρός, τα σχόλια κατέκλυσαν την ανάρτηση, απηχώντας κάθε πιθανό αντιεβραϊκό στερεότυπο. «Ο ήχος που ακούς όταν σου πέφτει κατά λάθος ένα κέρμα», έγραφε το κορυφαίο σχόλιο, με λίγο λιγότερο από 30.000 likes. «Πορνογραφία, τραπεζική βιομηχανία, CIA και κυβέρνηση των ΗΠΑ κύριο θέμα», έγραφε ένα άλλο, αναφερόμενο σε οντότητες που οι αντισημίτες ισχυρίζονται ότι ελέγχονται από Εβραίους (12.942 likes). «Το τελευταίο πράγμα που ακούει ένας πολιτικός πριν υποδουλωθεί» (7.300 likes). «Η μύτη μου μεγαλώνει ήδη» (3.439 likes). «Palestina Libre!» – μια απολύτως λογική απάντηση σε ένα αμερικανοεβραϊκό a cappella jam (3.158 likes). Και φυσικά, ένα κινούμενο GIF ενός μηχανήματος που μετράει χρήματα (16.168 likes).

Μια ταξιαρχία φανατικών είχε προφανώς πέσει πάνω στην ανάρτηση και έκανε σπορ προσπαθώντας να ξεπεράσει η μία τις προσβολές της άλλης. Ορισμένα από τα σχόλια και τα likes προέρχονταν από λογαριασμούς με επαληθευμένα σημεία ελέγχου. Από τη στιγμή που γράφονται αυτές οι γραμμές, τόσες πολλές απαντήσεις περιέχουν ύβρεις, συνωμοσίες και χοντροκομμένους χλευασμούς που όποιος προσπαθήσει να τις αναφέρει θα θυσιάσει ανυπολόγιστο χρόνο και λογική. Και όμως, αυτός είναι ο κόσμος που φαίνεται να έχει επιλέξει η Meta.

Ο Μαρκ Ζούκερμπεργκ ανακοίνωσε ότι η Meta θα αναμορφώσει το καθεστώς τροποποίησης του περιεχομένου της και θα μειώσει τα αυτοματοποιημένα φίλτρα της, ώστε να επικεντρωθεί σε «παράνομες και υψηλής σοβαρότητας παραβιάσεις», όπως η τρομοκρατία και η εκμετάλλευση παιδιών. «Για παραβιάσεις χαμηλότερης σοβαρότητας, θα βασιζόμαστε στο ότι κάποιος θα αναφέρει ένα ζήτημα πριν αναλάβουμε δράση», δήλωσε.

«Το πρόβλημα είναι ότι τα φίλτρα κάνουν λάθη και κατεβάζουν πολύ περιεχόμενο που δεν θα έπρεπε. Οπότε, με το να τα περιορίσουμε, θα μειώσουμε δραστικά την ποσότητα της λογοκρισίας στις πλατφόρμες μας». Ο διευθύνων σύμβουλος της Meta αναγνώρισε ότι αυτή η αλλαγή θα περιλαμβάνει ένα «συμβιβασμό», τον οποίο όμως θεωρεί ότι αξίζει τον κόπο: «Σημαίνει ότι θα πιάσουμε λιγότερα κακά πράγματα, αλλά θα μειώσουμε επίσης τον αριθμό των αναρτήσεων και των λογαριασμών αθώων ανθρώπων που κατά λάθος καταργούμε».

Υπάρχουν πολλά που συνιστούν αυτή τη θέση σε γενικές γραμμές. Πολλές μετριοπάθειες περιεχομένου, αν και με καλές προθέσεις, έχουν αποτύχει να καταπολεμήσουν το μισητό και παραπλανητικό υλικό, ενώ παράλληλα σαρώνουν τον νόμιμο λόγο στο δίχτυ τους – όχι μόνο στις πλατφόρμες της Meta, αλλά και στο Twitter turned X, το TikTok και το YouTube.

Ο αφηρημένος συντονισμός έχει μπερδέψει δημοσιογράφους και ερευνητές που αναφέρονται στη μισαλλοδοξία και τις θεωρίες συνωμοσίας με ανθρώπους που υποστηρίζουν τη μισαλλοδοξία και τις θεωρίες συνωμοσίας, έχει μπερδέψει αστεία με υποκίνηση και έχει μπλοκάρει πολιτικές αναρτήσεις που τυχαίνει να πέφτουν κατά λάθος πάνω σε μια κακοσχεδιασμένη αναζήτηση λέξεων-κλειδιών. Δεδομένων αυτών των μειονεκτημάτων, είναι λογικό οι πλατφόρμες να αναζητήσουν μια εναλλακτική προσέγγιση κάπου ανάμεσα σε εκείνη της X του Elon Musk -όπου ο νεοναζισμός όχι απλώς επιτρέπεται αλλά και χρηματίζεται- και στο σκληρό καθεστώς μετριοπάθειας του παλιού Facebook.

Αλλά στην πράξη, η νέα πολιτική της Meta σημαίνει ότι οι δημιουργοί περιεχομένου όπως οι Maccabeats πρέπει είτε να αναφέρουν κάθε περίπτωση παρενόχλησης που δέχονται, ακόμη και όταν οι ύβρεις καταφθάνουν μαζικά, είτε να ζουν με τη δική τους γωνιά των μέσων κοινωνικής δικτύωσης να στρέφεται εναντίον τους και των θαυμαστών τους. «Οι οικογένειες παρακολουθούν τα βίντεό μας», μου είπε ο μουσικός διευθυντής του συγκροτήματος, Julian Horowitz, “και το να πρέπει να διαβάζουν αυτά τα πράγματα και οι πλατφόρμες να τα επιτρέπουν καθόλου, είναι εντελώς απαράδεκτο”.

Οι Maccabeats δεν είναι ενστικτώδεις επικριτές του Meta ή του Instagram. Στην πραγματικότητα, απέκτησαν για πρώτη φορά φήμη όταν μια από τις παρωδίες τους στην ποπ κουλτούρα έγινε viral κατά τη διάρκεια του Χανουκά το 2010. Κατά μία πραγματική έννοια, το συγκρότημα οφείλει την επιτυχία του στα μέσα κοινωνικής δικτύωσης. Τώρα όμως νιώθουν ότι τους κυνηγούν από αυτά. «Εδώ είναι που ζούμε», δήλωσε ο Horowitz, μόνο και μόνο για να έρθουν “άλλοι άνθρωποι σε αυτόν τον χώρο και απλά να τον καταστρέψουν”.

Σε αντίθεση με το X, το Meta δεν απέλυσε την ομάδα ελέγχου περιεχομένου, αν και χαλάρωσε τους περιορισμούς στην προσβλητική ομιλία. Η εταιρεία εξακολουθεί να έχει Κοινοτικά Πρότυπα για τις πλατφόρμες της, μου τόνισαν τόσο ένας εκπρόσωπος όσο και ένα ηγετικό μέλος της ομάδας πολιτικής της όταν επικοινώνησα μαζί της. Ωστόσο, από τότε που άλλαξε ταχύτητα και έθεσε το βάρος στους χρήστες να αναφέρουν προβληματικό περιεχόμενο, η Meta δεν έχει δώσει σε αυτούς τους χρήστες εργαλεία που θα τους επέτρεπαν να διαμορφώνουν πραγματικά τις εμπειρίες τους στο Facebook και το Instagram. Θα μπορούσε όμως – με τρόπους που θα υποστήριζαν και τη δέσμευση για την ελευθερία του λόγου.

Πώς θα ήταν αυτό; Σκεφτείτε ξανά τους Μακκαβαίους. Η Meta επιτρέπει σήμερα στους χρήστες του Instagram να μπλοκάρουν και να περιορίζουν μεμονωμένα άλλους χρήστες, αλλά αυτή η εναλλαγή δεν επαρκεί για την αντιμετώπιση χιλιάδων τρολ και των αναρτήσεων τους. Ο Horowitz μου είπε ότι «εκατοντάδες σχόλια της πιο χυδαίας φύσης» συνέχιζαν να καταφθάνουν, κάποια από αυτά έφταναν ακόμα και την ώρα που μιλούσαμε. «Θα μπορούσα πιθανότατα να ελέγξω κατά τη διάρκεια αυτής της συζήτησης και θα υπήρχαν άλλα 10 GIF με καλικάντζαρους και σβάστικες και emojis με μύτες», δήλωσε ο Horowitz. Με απλά λόγια, το μπλοκάρισμα κάθε φανατικού που σχολιάζει περιεχόμενο είναι ανέφικτο και επαχθές. Υπάρχει όμως μια καλύτερη λύση: να επιτρέπεται στους χρήστες να απαγορεύουν με ένα κλικ όχι μόνο τον συγγραφέα ενός μισαλλόδοξου σχολίου αλλά και κάθε έναν από τους χιλιάδες ανθρώπους που έκαναν like στην προσβλητική ανάρτηση.

Όπως σημειώνεται, το κορυφαίο αντισημιτικό σχόλιο στο κλιπ «Hava Nagila» των Maccabeats έχει περίπου 30.000 likes. Φαίνεται απίθανο ότι οποιοσδήποτε από αυτούς τους ανθρώπους έχει πραγματικό ενδιαφέρον για την εβραϊκή a cappella. Πολλοί από αυτούς πιθανότατα άφησαν τις δικές τους προσβολές στα σχόλια. Το να καρατομήσουμε την κορυφαία απάντηση και όλους όσους της έκαναν like, όχι μόνο θα απέτρεπε χιλιάδες φανατικούς από το να τρολάρουν στο μέλλον, αλλά θα καθάριζε και πολλές από τις άλλες αντιεβραϊκές επιθέσεις στο στοχευμένο βίντεο.

Και επειδή το τρολάρισμα γίνεται λιγότερο διασκεδαστικό για το τρολάρισμα όταν γνωρίζει ότι θα έχει μόνο μια ευκαιρία πριν να πυροβοληθεί ο ίδιος, μια τέτοια λειτουργία θα αποθάρρυνε το όλο εγχείρημα. Αυτό το «megablock» δεν είναι επιστημονική φαντασία: Υπήρχε ως επέκταση τρίτου μέρους για το Twitter πριν ο Musk αγοράσει τον ιστότοπο και σκοτώσει τα περισσότερα εξωτερικά πρόσθετα χρεώνοντας τους προγραμματιστές τους με υπέρογκες αμοιβές. Η Meta θα μπορούσε εύκολα να προσαρμόσει την ιδέα.

Ομοίως, η εταιρεία θα μπορούσε να παρέχει έναν απλό τρόπο για τους χρήστες να αναφέρουν μια ολόκληρη σελίδα ως στόχο για brigading, δηλαδή μια μαζική εισροή κακόβουλων χρηστών που εμπλέκονται σε κατευθυνόμενη κατάχρηση που δεν έχει καμία σχέση με την ανάρτηση. Με αυτόν τον τρόπο, αντί να χρειάζεται να επισημαίνουν μεμονωμένα σχόλια, οι χρήστες θα μπορούν να κρούουν τον κώδωνα του κινδύνου για μια σελίδα ή μια ανάρτηση στο σύνολό της, και στη συνέχεια οι συντονιστές της Meta να ερευνούν τους εμπλεκόμενους λογαριασμούς και να τους αποκλείουν από τη σελίδα, όπως απαιτείται.

Όλες αυτές οι ιδέες είναι φιλικές προς την ελευθερία του λόγου. Δεν περιλαμβάνουν λογοκρισία από πάνω προς τα κάτω, αλλά επιλογή των χρηστών από κάτω προς τα πάνω. Το να αφήνουμε τους ανθρώπους να ελέγχουν το περιεχόμενο των δικών τους σελίδων και ροών είναι το φυσικό επόμενο βήμα για τις πλατφόρμες που θέλουν να ενδυναμώνουν τους χρήστες αντί να τους επιτηρούν και να τους λογοκρίνουν συνεχώς. Τέτοιες λειτουργίες είναι επίσης απλά κοινή λογική. Κανείς δεν έχει εγγενές δικαίωμα να κάνει γκράφιτι στο πραγματικό σπίτι ενός άλλου ατόμου- δεν θα έπρεπε να έχει το δικαίωμα να βανδαλίζει ένα εικονικό σπίτι.

Το πιο σημαντικό είναι ότι αυτού του είδους οι αλλαγές είναι απαραίτητες για την επίλυση ενός θεμελιώδους ελαττώματος στη δομή ιστότοπων όπως το Instagram και το TikTok. Τα μέσα κοινωνικής δικτύωσης είναι ένα παιχνίδι αριθμών, όπου η δημοτικότητα υπαγορεύει τι τελικά ενισχύει ο αλγόριθμος. Επειδή οι Εβραίοι και άλλες μειονότητες αποτελούν ένα τόσο μικρό υποσύνολο του πληθυσμού, υπερτερούν εύκολα στα μέσα κοινωνικής δικτύωσης από εκείνους που θέλουν να τους χλευάσουν. Χωρίς νέα ισχυρά εργαλεία για τους χρήστες που θα αντισταθμίσουν αυτές τις πιθανότητες, οι πλατφόρμες θα μετατραπούν γρήγορα σε έναν ανταγωνισμό που οι μειονοτικοί πληθυσμοί δεν μπορούν να κερδίσουν και, αντίθετα, θα κατακλύζονται και θα κατακλύζονται από εκείνους που θέλουν να τους εκφοβίσουν και να πνίξουν το περιεχόμενό τους.

Ιδιοκτήτες όπως ο Ζούκερμπεργκ δεν χρειάζεται να φανταστούν πώς μοιάζει αυτό – μπορούν απλώς να συνδεθούν στο X του Μασκ. Αυτή η πλατφόρμα μπορεί να είναι χαμένη υπόθεση, αλλά οι υπόλοιπες δεν χρειάζεται να είναι.

*Mετάφραση από the atlantic