Νέος εφιάλτης στα σχολεία: Οι έφηβοι φτιάχνουν γυμνές φωτογραφίες με Τεχνητή Νοημοσύνη

Μία νέα «επιδημία» φαίνεται να δημιουργεί η Τεχνητή Νοημοσύνη, αυτή των ψεύτικων γυμνών φωτογραφιών, η οποία έχει γίνει ο νέος εφιάλτης μαθητών, γονιών και δασκάλων στα σχολεία.

«13χρονοι ανέβασαν ψεύτικες γυμνές φωτογραφίες συμμαθητριών τους» και παρόμοιοι τίτλοι ειδήσεων έχουν γίνει πλέον η νέα πραγματικότητα, με την Τεχνητή Νοημοσύνη να πυροδοτεί το επικίνδυνο αυτό φαινόμενο, αφού όχι μόνο το «επιτρέπει», αλλά είναι ο τεχνολογικός «αυτουργός» του εγκλήματος.

Το φαινόμενο ξεκίνησε στις ΗΠΑ και γρήγορα εξαπλώθηκε και στις υπόλοιπες χώρες που χρησιμοποιούν Τεχνητή Νοημοσύνη, συμπεριλαμβανομένης της Ελλάδας, όπου το πρώτο περιστατικό σε σχολείο καταγράφηκε πριν από τρία χρόνια.

Θύμα ήταν μια ανήλικη μαθήτρια και δράστης ένας συμμαθητής της, ο οποίος είχε αποσπάσει φωτογραφίες από το προφίλ της κοπέλας στα social media και τα είχε επεξεργαστεί με τέτοιο τρόπο ώστε να φαίνεται πως η ανήλικη συμμετείχε σε βίντεο ερωτικού περιεχομένου.

Πώς λειτουργεί

Τεχνολογίες όπως οι “generative adversarial networks” (GANs), επιτρέπουν τη δημιουργία υπερρεαλιστικών εικόνων και έχουν γίνει πιο προσιτές και εύχρηστες, με αποτέλεσμα να χρησιμοποιούνται από εφήβους για να δημιουργήσουν εικόνες που μπορεί να περιλαμβάνουν γυμνό περιεχόμενο.

Πολλές φορές, η τροποποίηση της εικόνας γίνεται από ένα πρόγραμμα που χρησιμοποιεί το μοντέλο της τεχνητής νοημοσύνης, σκανάρει εικόνες και μέσω ενός αλγόριθμου, αντιλαμβάνεται το σχήμα και τις αναλογίες του γυμνού σώματος που ταιριάζει σχεδόν απόλυτα στον εικονιζόμενο.

Μία από τις δημοφιλέστερες ιστοσελίδες που χρησιμοποιεί τέτοιου είδους προγράμματα είναι η Deepsukebe. Συγκεκριμένα χρησιμοποιεί μια νέα τεχνολογία που επιτρέπει στους χρήστες να “γδύνουν” επώνυμους αλλά και ανθρώπους της διπλανής πόρτας.

Η Deepsukebe έχει βρεθεί στο στόχαστρο χιλιάδων επικριτικών σχολίων καθώς θεωρήθηκε ότι τέτοιες ενέργειες αποτελούν παραβίαση των ατομικών δικαιωμάτων. Οι δημιουργοί της ιστοσελίδας από την πλευρά τους, υποστήριξαν ότι δεν αποθηκεύουν τις επεξεργασμένες φωτογραφίες.

Μόνο τον περασμένο μήνα υπήρξαν περισσότερες από 3 εκατομμύρια επισκέψεις στο Clothoff, σύμφωνα με την Graphika, μια εταιρεία που αναλύει τα κοινωνικά δίκτυα. Η ιστοσελίδα προσφέρει τη δυνατότητα «γυμνισμού» τόσο ανδρών όσο και γυναικών, αλλά τα γυναικεία γυμνά είναι πολύ πιο δημοφιλή.

Οι επισκέπτες της ιστοσελίδας μπορούν να ανεβάσουν μια φωτογραφία ή να λάβουν μια δωρεάν επίδειξη, στην οποία εμφανίζεται η εικόνα μιας γυναίκας με ρούχα και μετά από λίγα δευτερόλεπτα εμφανίζεται γυμνή. Τα αποτελέσματα φαίνονται πολύ αληθινά.

Οι χρήστες του Clothoff ενημερώνονται ότι πρέπει να είναι 18 ετών ή μεγαλύτεροι για να εισέλθουν στον ιστότοπο και ότι δεν μπορούν να χρησιμοποιήσουν φωτογραφίες άλλων ανθρώπων χωρίς άδεια. Ο ιστότοπος ισχυρίζεται ότι «η επεξεργασία ανηλίκων είναι αδύνατη».

Μια έρευνα του 2023 από το Παρατηρητήριο Διαδικτύου του Στάνφορντ διαπίστωσε ότι ορισμένα μοντέλα τεχνητής νοημοσύνης χρησιμοποιούν μια βάση δεδομένων με υπάρχον υλικό σεξουαλικής κακοποίησης παιδιών για τη δημιουργία νέων εικόνων. Αυτό σημαίνει ότι υπάρχουν πραγματικά παιδιά που εκμεταλλεύονται για να δημιουργήσουν σεξουαλικά σαφείς εικόνες περισσότερων παιδιών.

Η έρευνα δείχνει επίσης ότι η σεξουαλική κακοποίηση και παρενόχληση είναι ένα έμφυλο κοινωνικό φαινόμενο. Οι γυναίκες και τα κορίτσια πλήττονται δυσανάλογα. Οι άνδρες και τα αγόρια είναι συντριπτικά πιο πιθανό να διαπράξουν αυτά τα εγκλήματα.

Μία αυστραλιανή μελέτη για την παιδική κακοποίηση διαπίστωσε ότι οι έφηβοι αποτελούν σημαντικό ποσοστό των δραστών σεξουαλικής κακοποίησης και σεξουαλικής παρενόχλησης παιδιών. Τα αποτελέσματα, που συλλέχθηκαν το 2021, έδειξαν ότι αυτό το φαινόμενο έχει αυξηθεί με την πάροδο του χρόνου.

Επειδή είναι τεχνητή νοημοσύνη δεν σημαίνει ότι είναι ΟΚ

Η κοινοποίηση γυμνών φωτογραφιών ανηλίκων (κάτω των 18 ετών), χωρίς συγκατάθεση (ανεξάρτητα από την ηλικία) είναι κακοποίηση με βάση την εικόνα – ακόμη και αν έχει χρησιμοποιηθεί τεχνητή νοημοσύνη ή αν οι εικόνες έχουν τροποποιηθεί με κάποιο τρόπο.

Ο Επίτροπος του eSafety, τονίζει ότι εξακολουθεί να είναι κακοποίηση, εάν η εικόνα ή το βίντεο είναι: 

«τροποποιημένο ή ψεύτικο με τρόπο που κάνει τους ανθρώπους να νομίζουν ότι είστε εσείς, ακόμη και όταν δεν είστε (όπως ένα γυμνό πρόσωπο κάποιου άλλου που έχει επισημανθεί με το όνομά σας)»

Όπως εξηγεί ο επίτροπος, υπάρχουν ποινικοί νόμοι που καλύπτουν αυτή την κατάχρηση και η αστυνομία μπορεί να είναι σε θέση να ερευνήσει.

Εκτός όμως από τα νομικά ζητήματα, αυτή η κατάχρηση είναι επίσης εξαιρετικά επιζήμια και οδυνηρή για τους εμπλεκόμενους, ειδικά όταν αυτοί είναι ευάλωτοι έφηβοι.

Ντροπή και φόβος για τα θύματα

Στους ανθρώπους που απεικονίζονται στις ψεύτικες γυμνές εικόνες, οι οποίες είναι συνήθως νεαρές γυναίκες, προκαλούνται αισθήματα ντροπής και φόβου, μέσα από τη διαρροή τους.

Πολλές φορές μάλιστα, οι φωτογραφίες που διαρρέονται μέσα από ομαδικές συνομιλίες, κάνουν τις κοπέλες να νιώθουν ταπεινωμένες, με κανέναν έλεγχο της κατάστασης, καθώς νιώθουν ότι δεν μπορούν να αποδείξουν την αλήθεια και τους γονείς τους να μην έχουν την παραμικρή ιδέα.

Ακόμη, τα πρόσωπα που έχουν πέσει θύματα αυτών των ΑΙ εικόνων, υφίστανται επικρίσεις και εκφοβισμό, σύμφωνα με συνεντεύξεις και έρευνες που διενήργησε η Human Factor, μια εταιρεία στρατηγικής επίλυσης συγκρούσεων, τα ιδρυτικά στελέχη της οποίας πέρασαν χρόνο με μαθητές.

«Τις αντιμετώπισαν σαν να ήταν πρόστυχες, παρότι είπαν ότι οι φωτογραφίες δεν είναι αληθινές» είπε ένας έφηβος από το Λας Βέγκας, που πήρε μέρος στο ερευνητικό πρότζεκτ. «Ο,τι και να γίνει, πάντα θα υπάρχουν κάποιοι που δεν θα τις πιστεύουν».

Οταν οι μαθητές ερωτήθηκαν ποιος επηρεάζεται περισσότερο από τις ψεύτικες γυμνές φωτογραφίες, το πρόσωπο που τις δημιούργησε ή το θύμα που εικονίζεται σε αυτές, το 73% απάντησε «το θύμα».

«Ακόμα και αν αποδειχθεί ότι η εικόνα είναι ψεύτικη, το άτομο δέχεται και πάλι εκφοβισμό και κοροϊδία» ανέφερε ένας μαθητής από το Ελντοράντο του Ιλινόις.

«Η ηθική τους αμφισβητείται» σχολίασε ένας μαθητής στο Σιλ της Αλαμπάμα.

Μέχρι πρόσφατα, λίγοι μαθητές γνώριζαν ότι φωτογραφίες τους στα social media μπορούν να μετατραπούν σε γυμνές από άλλα παιδιά που χρησιμοποιούν τεχνητή νοημοσύνη. Δεκάδες εργαλεία «αλλαγής προσώπου» και «αφαίρεσης ρούχων» είναι τώρα διαθέσιμα online με μικρό ή καθόλου αντίτιμο.

Τα δύο τρίτα των μαθητών που συμμετείχαν στην έρευνα της Human Factor είπαν ότι το πιθανότερο θα ήταν να υποθέσουν ότι μια φωτογραφία είναι αληθινή αν φαίνεται αληθινή, ειδικά στις περιπτώσεις που πιστεύουν ότι το θύμα είναι ο τύπος του ανθρώπου που θα έκανε share μια γυμνή του φωτογραφία. Μόνο το ένα τρίτο των συμμετεχόντων είπαν ότι θα ρωτούσαν το εικονιζόμενο πρόσωπο αν η φωτογραφία είναι αληθινή.

Οι ερευνητές διαπίστωσαν επίσης ότι, πρακτικά, οι μόνοι που μπορούν να αναφέρουν τέτοια περιστατικά στις αρχές είναι οι συμμαθητές των θυμάτων, καθώς οι φωτογραφίες είτε διαμοιράζονται σε ιδιωτικά group chats είτε σε πλατφόρμες από τις οποίες τα μηνύματα εξαφανίζονται μετά από λίγο, όπως είναι το Snapchat.

Οι γονείς βλέπουν τις φωτογραφίες αυτές σπάνια ή και ποτέ, εκτός και αν παρακολουθούν πολύ στενά τις συνομιλίες των παιδιών τους.

Από τη στιγμή που δεν υπάρχει εποπτεία από κάποιον ενήλικο, οι ψεύτικες φωτογραφίες μπορούν να εξαπλωθούν γρήγορα χωρίς ιδιαίτερη δυσκολία. Οι μαθητές του δείγματος είπαν ότι δεν θα ανέφεραν αυτές τις φωτογραφίες στη διεύθυνση του σχολείου, αν τις έβλεπαν σε μια ομαδική συνομιλία, από φόβο μην μπλέξουν. Είπαν επίσης ότι θα έρχονταν σε αντιπαράθεση με το άτομο που είχε κατασκευάσει τις φωτογραφίες μόνο αν το ήξεραν καλά.

Το νομοθετικό πλαίσιο στην Ελλάδα

Στην Ελλάδα δεν υπάρχει συγκεκριμένη νομοθεσία η οποία να καλύπτει τις deepfake εικόνες, οι οποίες αντιμετωπίζονται υπό το πρίσμα των γενικότερων νομικών πλαισίων που αφορούν την προστασία των προσωπικών δεδομένων, την ποινική νομοθεσία για τη διάδοση ακατάλληλου υλικού και την παραβίαση δικαιωμάτων πνευματικής ιδιοκτησίας.

Ωστόσο, καθώς τα εγκλήματα παραβίασης δεδομένων έχουν τριπλασιαστεί την τελευταία δεκαετία, η κυβέρνηση σχεδιάζει έναν νέο νόμο ώστε να τιμωρούνται οι δράστες των deepfake.

«Η τεχνητή νοημοσύνη έχει λύσει τα χέρια των απατεώνων έτσι ώστε όλοι να ξέρουν να χειρίζονται τα συστήματα πάρα πολύ απλά και παίρνουν το πρόσωπό σου από φωτογραφίες και στη συνέχεια το προσθέτουν σε ένα ερωτικό βίντεο. Έπειτα το μοιράζονται σε διάφορες πλατφόρμες με απώτερο σκοπό την εκδίκηση, τα λίτρα ή ακόμα και για… πλάκα» αναφέρει στο Εuronews ο Εμμανουήλ Σφακιανάκης ιδρυτής του Διεθνούς Ινστιτούτου για την Κυβερνοασφάλεια. 

«Στα σχολεία έχουμε εκατοντάδες θύματα παιδάκια τα οποία τους παίρνουν το πρόσωπο τους το προσαρμόζουν σε ένα ερωτικό βίντεο και μετέπειτα το διακινούν σε σχολεία και τάξεις», τονίζει ο ίδιος.

Τι μπορούν να κάνουν οι γονείς

Οι γονείς πρέπει να δώσουν χώρο στα παιδιά τους να μιλήσουν για δύσκολα και ανησυχητικά πράγματα.

Αυτό μπορεί να γίνει ως εξής:

1. Μιλώντας νωρίς

Βοηθήστε το παιδί σας να νιώσει άνετα να σας μιλήσει, ξεκινώντας τις συζητήσεις από νωρίς. Οι συζητήσεις σχετικά με τη σωματική αυτονομία και τα όρια μπορούν να ξεκινήσουν στο δημοτικό σχολείο. Καθώς το παιδί σας μεγαλώνει, μπορούν επίσης να ξεκινήσουν συζητήσεις σχετικά με τη συναίνεση, τις υγιείς σχέσεις, το πορνό και το sexting. Ακούστε τι έχει να πει το παιδί σας

2. Με τακτικές συζητήσεις 

Δεν μπορούμε να περιμένουμε από τα παιδιά να καλωσορίσουν ή να ανταποκριθούν καλά στις ερωτήσεις των γονέων την πρώτη φορά ή κάθε φορά. Γι’ αυτό κρατήστε τις συζητήσεις σύντομες και τακτικές. Να καθοδηγείστε από το παιδί σας.

3. Ενεργώντας στις ανησυχίες

Μείνετε ήρεμοι, μιλήστε και ακούστε το παιδί σας. Επικεντρωθείτε στην ευημερία του ρωτώντας το πώς αισθάνεται και τι μπορείτε να κάνετε για να το υποστηρίξετε. Αναζητήστε επίσης ενδείξεις ότι μπορεί να χρειάζονται περαιτέρω υποστήριξη, όπως να μιλήσουν στο σχολείο τους, στην αστυνομία ή να κάνουν αναφορά στην Επιτροπή Ηλεκτρονικής Ασφάλειας.

Τι μπορούν να κάνουν τα σχολεία

Τα σχολεία αποτελούν επίσης σημαντικό μέρος της αντίδρασης της κοινότητας. Τα σχολικά προγράμματα που στοχεύουν στην αντιμετώπιση της σεξουαλικής βίας και των πολιτισμικών προτύπων γύρω από το φύλο μπορούν να είναι αποτελεσματικά.

Ορισμένα πράγματα που μπορούν να κάνουν τα σχολεία περιλαμβάνουν:

1. Παροχή κατάρτισης και πόρων για το προσωπικό

Το προσωπικό χρειάζεται σαφείς πολιτικές και διαδικασίες σχετικά με τον τρόπο αποτελεσματικής αντίδρασης και αναφοράς στις αρμόδιες αρχές όταν υπάρχει σεξουαλική παρενόχληση, επίθεση ή κακοποίηση παιδιών.

2. Ολοκληρωμένη σεξουαλική διαπαιδαγώγηση των μαθητών

Οι έρευνες δείχνουν ότι η σεξουαλική αγωγή μπορεί να συμβάλει στην πρόληψη επιβλαβών συμπεριφορών, διδάσκοντας στα παιδιά και τους νέους υγιείς σχέσεις, όρια και συγκατάθεση με επίγνωση και ενθουσιασμό. Η εκπαίδευση αυτή πρέπει να περιλαμβάνει την εξέταση της πορνογραφίας, του sexting και της ασφάλειας στο διαδίκτυο.

3. Παροχή ισχυρής σχολικής ηγεσίας

Οι ηγέτες είναι υπεύθυνοι για την κουλτούρα και τις πρακτικές των σχολείων τους. Πρέπει να υιοθετούν προσέγγιση μηδενικής ανοχής σε οτιδήποτε ομαλοποιεί τα στερεότυπα, τα εξευτελιστικά σχόλια, τη βία ή τον μισογυνισμό. Τα παιδιά σε ένα σχολείο θα πρέπει να έχουν τη δυνατότητα να εκφράζουν τις ανησυχίες τους στους ενήλικες και να γνωρίζουν ότι θα τα ακούσουν και θα τα πιστέψουν.

*Με πληροφορίες από Guardian, The Wall Street Journal, CBS News