Σεξουαλική κακοποίηση και πορνογραφία παιδιών: Η Meta και το Messenger κινούν τα νήματα;

“Έχω γυμνές φωτογραφίες της τάδε” ακούγαμε όταν πηγαίναμε σχολείο, και ξαφνικά σε αυτή την ατάκα υπήρχαν πάνω από πέντε “κι εγώ”. Κοπέλες έπεφταν θύματα διακίνησης πορνογραφικού υλικού χωρίς την θέληση τους, από τότε που η εποχή βάδιζε πλάι στα social media και όσα εκείνα εξελισσόντουσαν και δυνάμωναν, άλλο τόσο η διακίνηση που εντέλει γινόταν κακοποίηση ειδικότερα προς τα ανήλικα παιδιά εκλάμβανε τεράστιες διαστάσεις.

Πριν λίγες ημέρες, η δημοσιογραφική έρευνα του κορυφαίου ειδησεογραφικού κολοσσού Guardian, η οποία δημοσιεύθηκε πριν λίγες ημέρες,  αποκαλύπτει πώς ο ιντερνετικός κολοσσός της Meta, μέσω του Messenger και του Meta Pay, χρησιμοποιείται για την αγορά και διακίνηση υλικού σεξουαλικής κακοποίησης παιδιών.

Ήταν Νοέμβρης του 2022, όταν η αστυνομία στην Πενσυλβάνια συνέλαβε την 29χρονη Jennifer Louise Whelan και της απήγγειλε δεκάδες κατηγορίες για σοβαρά εγκλήματα, συμπεριλαμβανομένης της σεξουαλικής εμπορίας και της άσεμνης επίθεσης σε τρία μικρά παιδιά. Ένα μήνα νωρίτερα, η αστυνομία δήλωσε πως ανακάλυψε ότι η Whelan χρησιμοποιούσε τρία παιδιά ηλικίας έως έξι ετών, για την παραγωγή υλικού παιδικής πορνογραφίας και κακοποίησης παιδιών.Φέρεται ότι πουλούσε και έστελνε βίντεο και φωτογραφίες σε έναν άνδρα μέσω του Facebook Messenger. Ο φερόμενος ως αγοραστής, Μπράντον Γουόρεν, παραπέμφθηκε σε δίκη τον Φεβρουάριο του 2022, κατηγορούμενος για διανομή υλικού παιδικής πορνογραφίας. Και οι δύο τους, δήλωσαν αθώοι.

Σύμφωνα με τα δικαστικά έγγραφα που “ήρθαν στα χέρια της Guardian” υπήρχαν μηνύματα στο Facebook μεταξύ των δύο στα οποία ο Warren φέρεται να περιγράφει στην Whelan πώς θέλει να γυρίσει αυτά τα βίντεο. “Θα σου δώσω και κάτι παραπάνω αν το βίντεο είναι μεγάλης διαρκείας και πει αυτά που θέλω στην κάμερα.” λέει ο Warren στη Whelan, σύμφωνα με το έγγραφο ποινικής καταγγελίας που χρησιμοποιήθηκε για τη σύλληψή της.

Η Γουίλαν έλαβε πληρωμή για το υλικό παιδικής πορνογραφίας μέσω του Meta Pay, του συστήματος πληρωμών της Meta, σύμφωνα με την ποινική δίωξη εναντίον της. «Άλλα 250 σωστά; Heehee», φέρεται να έγραψε στον Warren αφού του έστειλε ένα βίντεο με την κακοποίηση ενός μικρού κοριτσιού.

Το Meta Pay, γνωστό ως Facebook Pay πριν την μετονομασία του το 2022, είναι μια ομότιμη υπηρεσία πληρωμών που επιτρέπει στους χρήστες να μεταφέρουν χρήματα μέσω των κοινωνικών δικτύων της εταιρείας.Οι χρήστες ανεβάζουν τις πιστωτικές τους κάρτες, τις χρεωστικές κάρτες ή τις πληροφορίες λογαριασμού PayPal στο Facebook Messenger ή στο Instagram για να στείλουν και να λάβουν χρήματα. Εκπρόσωπος της Meta επιβεβαίωσε ότι η εταιρεία είδε και ανέφερε πληρωμές μέσω του Meta Pay στο Facebook Messenger, για τις οποίες υπάρχουν υποψίες ότι συνδέονται με τη σεξουαλική εκμετάλλευση παιδιών.

«Η σεξουαλική εκμετάλλευση παιδιών είναι ένα φρικτό έγκλημα.Υποστηρίζουμε την επιβολή του νόμου στις προσπάθειές της να διώξει αυτούς τους εγκληματίες και επενδύουμε στα καλύτερα εργαλεία και στις ομάδες εμπειρογνωμόνων για τον εντοπισμό και την αντιμετώπιση ύποπτων δραστηριοτήτων. Η Meta αναφέρει κάθε προφανή σεξουαλική εκμετάλλευση παιδιών στο NCMEC -το Εθνικό Κέντρο για τα Εξαφανισμένα και Κακοποιημένα Παιδιά- συμπεριλαμβανομένων των περιπτώσεων που αφορούν συναλλαγές πληρωμών», δήλωσε εκπρόσωπος της Meta.

Η Meta αποτυγχάνει να εντοπίσει πληρωμές για υλικό κακοποίησης παιδιών, λένε οι συντονιστές της

Μέσω της εξέτασης εγγράφων και της συνέντευξης από πρώην συντονιστές περιεχομένου Meta, η έρευνα του Guardian διαπίστωσε ότι οι πληρωμές για περιεχόμενο σεξουαλικής κακοποίησης παιδιών που λαμβάνει χώρα στο Meta Pay πιθανότατα δεν εντοπίζονται και δεν αναφέρονται από την εταιρεία.

Τα δικαστικά έγγραφα δείχνουν ότι οι ενέργειες της Whelan και του Warren δεν εντοπίστηκαν ούτε επισημάνθηκαν από τον Meta. Αντιθέτως, το Kik Messenger, μια άλλη πλατφόρμα κοινωνικής δικτύωσης, ανέφερε ότι ο Γουόρεν είχε ανεβάσει βίντεο που ήταν ύποπτα για υλικό σεξουαλικής κακοποίησης παιδιών (Child Sexual Abuse Material – CSAM) για να το μοιραστεί με άλλους χρήστες. Αυτό προκάλεσε αστυνομική έρευνα στη Δυτική Βιρτζίνια, όπου ζει ο Γουόρεν. Οι ηλεκτρονικές του συσκευές κατασχέθηκαν και στη συνέχεια η αστυνομία ανακάλυψε τα οκτώ βίντεο και τις πέντε εικόνες που φέρεται να είχε αγοράσει από τη Γουίλαν μέσω του Facebook Messenger.

«Ανταποκριθήκαμε στην έγκυρη νομική διαδικασία», δήλωσε εκπρόσωπος της Meta, απαντώντας στα ευρήματα του Guardian ότι η εταιρεία δεν εντόπισε αυτά τα εγκλήματα.

Επιπλέον, δύο πρώην συντονιστές περιεχομένου Meta, που εργάστηκαν στην εταιρία μεταξύ 2019 και 2022, δήλωσαν στον Guardian ότι είδαν ύποπτες συναλλαγές να πραγματοποιούνται μέσω του Meta Pay που πίστευαν ότι σχετίζονται με τη σεξουαλική διακίνηση παιδιών, όμως, δεν μπόρεσαν να επικοινωνήσουν με τις ομάδες συμμόρφωσης του Meta Pay για να επισημάνουν αυτές τις πληρωμές.

«Υπήρχε η αίσθηση ότι το Meta Pay ήταν μια μέθοδος πληρωμής εύκολη στη χρήση, δεδομένου ότι αυτοί οι άνθρωποι επικοινωνούσαν μέσω Messenger. Τα ποσά που στέλνονταν μπορούσαν να είναι εκατοντάδες δολάρια κάθε φορά» λέει ένας πρώην συντονιστής, ο οποίος μίλησε στον Guardian υπό τον όρο της ανωνυμίας επειδή έπρεπε να υπογράψει συμφωνία εμπιστευτικότητας ως προϋπόθεση για την πρόσληψη. Ο συντονιστής, που απασχολούνταν για τέσσερα χρόνια μέχρι τα μέσα του 2022 από την Accenture, μία συνεργάτιδα εταιτία της Meta, εξέταζε τις αλληλεπιδράσεις μεταξύ ενηλίκων και παιδιών μέσω του Facebook Messenger για ακατάλληλο περιεχόμενο.

Οι πληρωμές για σεξ ή CSAM είναι συνήθως μόλις μερικές εκατοντάδες δολάρια ή λιγότερο σε περιπτώσεις που εξετάζονται από τον Guardian. Σύμφωνα με τον πρώην αναλυτή συμμόρφωσης της Meta, συναλλαγές τόσο μικρών ποσών είναι απίθανο να επισημανθούν για έλεγχο από τα συστήματα της Meta. Αυτό σημαίνει ότι οι πληρωμές που συνδέονται με παράνομες δραστηριότητες πραγματοποιούνται πιθανώς χωρίς να ανιχνεύονται, δήλωσαν ειδικοί σε θέματα οικονομικών εγκλημάτων.

Εκπρόσωπος της Meta δήλωσε ότι η εταιρεία χρησιμοποιεί έναν συνδυασμό αυτοματοποιημένης και ανθρώπινης εξέτασης για τον εντοπισμό ύποπτης οικονομικής δραστηριότητας στις συναλλαγές πληρωμών στο Messenger.

«Το μέγεθος της πληρωμής είναι μόνο ένα από τα σήματα που χρησιμοποιούν οι ομάδες μας για να εντοπίσουν δυνητικά ύποπτη δραστηριότητα και οι αναλυτές μας για τη συμμόρφωση έχουν εκπαιδευτεί να αξιολογούν μια ποικιλία σημάτων», δήλωσε ο εκπρόσωπος της Meta. «Εάν οι ομάδες μας είχαν λόγους να υποπτεύονται κάποια δραστηριότητα, ειδικά κάποια που να αφορά ένα παιδί και ακόμη και αν οι πληρωμές είναι μικρές, θα διερευνούνταν και θα αναφέρονταν κατάλληλα» συμπλήρωσε. Ο εκπρόσωπος δήλωσε επίσης ότι η εταιρεία έχει «μια ισχυρή κουλτούρα ‘βλέπω κάτι, λέω κάτι’».

Για τις περιπτώσεις όπου Αμερικανοί άνδρες στόχευαν ανήλικα κορίτσια στο εξωτερικό για «αποπλάνηση» µέσω διαδικτύου, οι πληρωμές θα μπορούσαν να είναι για πράγματα όπως η απόκτηση ενός τηλεφώνου και σχολικών ειδών, είπε ο συντονιστής.

«Τα περισσότερα από αυτά που είδαμε ήταν ηλικιωμένοι άνδρες από την Αμερική, που στόχευαν κορίτσια σε ασιατικές χώρες και συχνά ταξίδευαν εκεί», πρόσθεσε ο συντονιστής. «Όταν πρόκειται για εκμετάλλευση παιδιών και CSAM, όλα αφορούν πραγματικά μικρά ποσά», δήλωσε η Silvija Krupena, διευθύντρια της μονάδας οικονομικών πληροφοριών της RedCompass Labs, μιας εταιρείας χρηματοοικονομικών συμβουλών με έδρα το Λονδίνο. «Πρόκειται για ένα παγκόσμιο έγκλημα και εγκληματίες, με διαφορετικούς τύπους παραβατών. Σε χώρες με χαμηλό εισόδημα, όπως οι Φιλιππίνες, τα 20 δολάρια είναι πολλά χρήματα. Η παραγωγή γίνεται συνήθως σε αυτές τις χώρες. Πρόκειται για μικρά ποσά που μπορούν να περάσουν από τις ρωγμές όταν πρόκειται για τους παραδοσιακούς ελέγχους για το ξέπλυμα χρήματος», σημείωσε.

Η Meta έχει μια ομάδα περίπου 15.000 συντονιστών και αναλυτών συμμόρφωσης, οι οποίοι είναι επιφορτισμένοι με την παρακολούθηση των πλατφορμών της για επιβλαβές και παράνομο περιεχόμενο.Πιθανή εγκληματική συμπεριφορά υποτίθεται ότι επισημαίνεται από τη Meta και αναφέρεται στις αρμόδιες δικαστικές αρχές. Οι κανονισμοί για την καταπολέμηση της νομιμοποίησης εσόδων από παράνομες δραστηριότητες απαιτούν επίσης από τις επιχειρήσεις να εκπαιδεύουν το προσωπικό τους ώστε να έχουν πρόσβαση σε επαρκείς πληροφορίες, για να είναι σε θέση να εντοπίζουν πότε λαμβάνει χώρα παράνομη χρηματοδότηση.

Ωστόσο, οι εργαζόμενοι που παρακολουθούν τη δραστηριότητα συναλλαγών Meta Pay δεν λαμβάνουν ειδική εκπαίδευση για τον εντοπισμό και την αναφορά ροών χρημάτων που θα μπορούσαν να σχετίζονται με την εμπορία ανθρώπων, συμπεριλαμβανομένης της γλώσσας, κωδικές λέξεις και αργκό που χρησιμοποιούν συνήθως οι διακινητές, δήλωσε ένας πρώην αναλυτής συμμόρφωσης με τις πληρωμές της Meta Pay.

«Εάν ένας διακινητής ανθρώπων χρησιμοποιεί μια κωδική λέξη για την πώληση κοριτσιών, δεν το μάθαμε αυτό. Δεν εκπαιδευτήκαμε πραγματικά σε αυτά», δήλωσε ο πρώην αναλυτής της Meta. Eκπρόσωπος της Meta αμφισβήτησε τους ισχυρισμούς του πρώην αναλυτή συμμόρφωσης πληρωμών. «Οι αναλυτές συμμόρφωσης λαμβάνουν τόσο αρχική όσο και συνεχή εκπαίδευση σχετικά με τον τρόπο εντοπισμού δυνητικά ύποπτων δραστηριοτήτων – οι οποίες περιλαμβάνουν ενδείξεις πιθανής εμπορίας ανθρώπων και σεξουαλικής εκμετάλλευσης παιδιών. Το πρόγραμμά μας ενημερώνεται τακτικά ώστε να αντικατοπτρίζει τις τελευταίες οδηγίες από τις ρυθμιστικές αρχές του οικονομικού εγκλήματος και τους εμπειρογνώμονες ασφαλείας», δήλωσε ο εκπρόσωπος.

Τον Δεκέμβριο του 2023, η Meta ανακοίνωσε ότι είχε θέσει σε εφαρμογή κρυπτογράφηση από άκρο σε άκρο για τα μηνύματα που αποστέλλονται στο Facebook και μέσω του Messenger.Η κρυπτογράφηση αποκρύπτει το περιεχόμενο των μηνυμάτων από οποιονδήποτε άλλον εκτός από τον αποστολέα και τον προοριζόμενο παραλήπτη, μετατρέποντας κείμενο και εικόνες σε μη αναγνώσιμα κρυπτογραφήματα που ξεκρυπτογραφούνται κατά την παραλαβή.

Ωστόσο, η κίνηση αυτή θα μπορούσε επίσης να επηρεάσει την ικανότητα της εταιρείας να αποτρέπει παράνομες συναλλαγές στο Meta Pay. Εμπειρογνώμονες σε θέματα ασφάλειας των παιδιών, φορείς χάραξης πολιτικής, γονείς και αστυνομικές αρχές επέκριναν την κίνηση αυτή, υποστηρίζοντας ότι η κρυπτογράφηση εμποδίζει τις προσπάθειες διάσωσης των θυμάτων εμπορίας παιδιών για σεξουαλική εκμετάλλευση και τη δίωξη των θυτών.

Εκπρόσωπος της Meta δήλωσε ότι η απόφαση για τη μετάβαση στην κρυπτογράφηση ήταν «για να παρέχει στους ανθρώπους ιδιωτικότητα» και ότι η εταιρεία ενθαρρύνει τους χρήστες να αναφέρουν μόνοι τους στην εταιρεία ιδιωτικά μηνύματα που σχετίζονται με την εκμετάλλευση παιδιών.

«Η μετάβαση σε ένα περιβάλλον κρυπτογραφημένων μηνυμάτων δεν σημαίνει ότι θα θυσιάσουμε την ασφάλεια και έχουμε αναπτύξει πάνω από 30 εργαλεία ασφαλείας, τα οποία λειτουργούν όλα σε κρυπτογραφημένα μηνύματα», δήλωσε ο εκπρόσωπος.

«Τώρα έχουμε κάνει τα εργαλεία αναφοράς μας πιο ευανάγνωστα, έχουμε μειώσει τον αριθμό των βημάτων για την αναφορά και έχουμε αρχίσει να ενθαρρύνουμε τους εφήβους να κάνουν αναφορά σε σχετικές στιγμές».

Σημειώνεται ότι η Meta Pay υπόκειται -εν γνώσει των χρηστών- στους τραπεζικούς κανονισμούς των ΗΠΑ για την καταπολέμηση του ξεπλύματος χρήματος, οι οποίοι απαιτούν από τις επιχειρήσεις να αναφέρουν την παράνομη χρηματοδότηση στο Δίκτυο Καταπολέμησης Χρηματοοικονομικών Εγκλημάτων (FinCEN) του υπουργείου Οικονομικών των ΗΠΑ.

Οι σιωπηλές εργασίες αποτρέπουν την επισήμανση ύποπτων συναλλαγών, λένε πρώην συντονιστές. Η δουλειά τους περιελάμβανε έλεγχο περιεχομένου που επισημάνθηκε ως ύποπτο από χρήστες και λογισμικό τεχνητής νοημοσύνης και λήψη γρήγορων αποφάσεων για το αν θα αγνοήσουν, θα αφαιρέσουν ή θα κλιμακώσουν το περιεχόμενο στο Meta μέσω ενός προγράμματος λογισμικού.Λένε ότι δεν μπορούσαν να επικοινωνήσουν με τους αναλυτές συμμόρφωσης του Meta Pay σχετικά με ύποπτες συναλλαγές που είδαν.

«Δεν μας επετράπη να επικοινωνήσουμε με τους υπαλλήλους του Facebook ή άλλες ομάδες», είπε ένας πρώην συντονιστής. «Οι διευθυντές μας δεν μας είπαν γιατί συνέβη αυτό».Η Gretchen Peters, η οποία είναι η εκτελεστική διευθύντρια της Alliance to Counter Crime Online, έχει τεκμηριώσει την πώληση ναρκωτικών, συμπεριλαμβανομένης της φαιντανύλης, στις πλατφόρμες της Meta.

Ένας εκπρόσωπος της Meta είπε ότι η εταιρεία απαγορεύει την πώληση ή την αγορά ναρκωτικών στις πλατφόρμες της και αφαιρεί αυτό το περιεχόμενο όταν το βρει. «Η Meta συμμορφώνεται με όλους τους ισχύοντες νόμους των ΗΠΑ κατά του ξεπλύματος χρήματος. Είναι επίσης αναληθής η άποψη ότι υπάρχει έλλειψη επικοινωνίας μεταξύ των ομάδων.» », είπε ο εκπρόσωπος.

Μετάφραση από Guardian