Deepfake: Εκεί που το ψέμα γίνεται αλήθεια και απειλεί
Η τρομακτική εξέλιξη της τεχνητής νοημοσύνης, στην οποία εμπλέκονται πορνογραφία και πολιτικοί ηγέτες - Η νέα νομοθεσία υπό συζήτηση στην ΕΕ
Η έκρηξη της τεχνολογίας και συγκεκριμένα της τεχνητής νοημοσύνης έχει φέρει μαζί της και ένα νέου είδους… εγκλήματος, που ονομάζεται deepfake.
Τα deepfake αποτελούν πλαστά βίντεο, τα οποία έχουν δημιουργηθεί μέσα από αλγόριθμους τεχνητής νοημοσύνης και συνήθως στοχεύουν στη δημιουργία σεξουαλικού περιεχομένου ή πολιτικής παραπληροφόρησης. Χρησιμοποιούνται σε μεγάλο βαθμό για δημιουργία υλικού σεξουαλικής κακοποίησης παιδιών, πορνογραφικών βίντεο διασημοτήτων, πορνό εκδίκησης, ψευδών ειδήσεων, φάρσες, εκφοβισμού και οικονομικής απάτης. Μέσα από τα deepfake, παραποιείται ένα βίντεο, βάζοντας το πρόσωπο ενός ατόμου στο σώμα κάποιου άλλου, προσαρμόζοντας τη φωνή, τις εκφράσεις και την κίνηση. Έτσι, δημιουργείται ένα ψεύτικο πρόσωπο, το οποίο μοιάζει όμως σε τρομακτικό βαθμό όμως, να είναι αληθινό.
Υπάρχουν πλέον δεκάδες εφαρμογές, επί πληρωμή και μη, που οποιοσδήποτε, μπορεί να δημιουργήσει ένα deepfake βίντεο. Η τεχνολογία επιτρέπει τη δημιουργία ενός deepfake βίντεο 60 δευτερολέπτων από μια καθαρή εικόνα σε λιγότερο από 25 λεπτά – χωρίς κόστος. Συχνά χρησιμοποιώντας εικόνες που προέρχονται από ιδιωτικούς και δημόσιους λογαριασμούς μέσων κοινωνικής δικτύωσης, καθημερινά περισσότερες από 100.000 κατασκευασμένες εικόνες και βίντεο με σεξουαλικό περιεχόμενο διαδίδονται παγκοσμίως. Οι σύνδεσμοι παραπομπής προς τις εταιρείες, που παρέχουν αυτές τις εικόνες έχουν αυξηθεί κατά 2.408% από έτος σε έτος.
Deepfake πορνογραφικό υλικό και διασημότητες
Σήμερα, η επικίνδυνη αυτή απάτη μέσω του διαδικτύου, αφορά κυρίως τη μη συναινετική πορνογραφία. Φυσικά, δεν αποτελεί έκπληξη ότι οι γυναίκες ήταν τα θύματα στο 99% των καταγεγραμμένων περιπτώσεων, σύμφωνα με την Guardian. Οποιαδήποτε γυναίκα έχει δημόσιο πρόσωπο online, απειλείται με το να πρωταγωνιστήσει σε βίντεο πορνογραφικού υλικού, όπου έχει αντικατασταθεί το πρόσωπο μιας άλλης γυναίκας με το δικό της. Συνήθως θύματα βαθιάς ψεύτικης πορνογραφίας είναι διάσημα πρόσωπα, που περιλαμβάνουν γυναίκες ηθοποιούς, τηλεοπτικούς αστέρες, μουσικούς και youtubers.
Σύμφωνα με την Guardian, το 2016, οι ερευνητές εντόπισαν ένα ψεύτικο βίντεο πορνογραφίας στο διαδίκτυο. Τα πρώτα τρία τέταρτα του 2023, 143.733 νέα βαθιά ψεύτικα πορνογραφικά βίντεο ανέβηκαν στους 40 πιο χρησιμοποιούμενους ιστότοπους βαθιάς ψευδούς πορνογραφίας – περισσότερα από όλα τα προηγούμενα χρόνια μαζί.
Μια πρόσφατη έρευνα του Channel 4 βρήκε deepfakes περισσότερων από 4.000 διασημοτήτων στο ίντερνετ. Τον Ιανουάριο, ένα μη συναινετικό deepfake της Taylor Swift έγινε viral στο Facebook, το Instagram και πολύ περισσότερο στο X (πρώην Twitter) , όπου μια ανάρτηση συγκέντρωσε περισσότερες από 45 εκατομμύρια προβολές. Το Χ κατέφυγε στον περιορισμό του ονόματος της τραγουδίστριας από τη λειτουργία αναζήτησης, αλλά οι δημοσιεύσεις συνέχισαν να κυκλοφορούν. Παρά το γεγονός ότι οι πλατφόρμες δυσκολεύονταν να αφαιρέσουν αυτό το περιεχόμενο, οι θαυμαστές της Swift ανέλαβαν να αναφέρουν και να μπλοκάρουν τους λογαριασμούς που μοιράζονταν την εικόνα. Τον Μάρτιο, σε μία εφαρμογή για deep fake που έτρεψε σε Facebook και Instagram, παρουσιάζονταν γυμνές ψεύτικες εικόνες, της ηθοποιού Jenna Ortega. Στην Ινδία, τα deepfakes έχουν στοχεύσει μεγάλες ηθοποιούς του Bollywood, όπως η Priyanka Chopra Jonas, η Alia Bhatt και η Rashmika Mandann.
Θύματα των deepfake έχουν πέσει και γνωστοί διάσημοι άνδρες του Hollywood, όπως είναι ο Morgan Freeman και ο Tom Cruise. Ένα εξαιρετικά πιστικό deepfake του Freeman, που κοινοποιήθηκε για πρώτη φορά από το ολλανδικό deepfake κανάλι YouTube, Diep Nep πέρυσ και πρόσφατα επανεμφανίστηκε στο Twitter, κέρδισε πάνω από 6,5 εκατομμύρια προβολές. Ο κόσμος του X τρελάθηκε με το εν λόγω βίντεο και εξέφρασε τη σοβαρή ανησυχία για τις συνέπειες που μπορεί να έχουν τέτοιου είδους κακόβουλα μέσα στο μέλλον.
Το 2021, βίντεο με τον Τομ Κρουζ άρχιζαν να εμφανίζονται στο Tik Tok, στα οποία ο ηθοποιός ήταν απλά… περίεργος. Στα βίντεο που συγκέντρωσαν εκατομμύρια προβολές, ο ηθοποιός χάζευε σε πολυτελές κατάστημα με ανδρικά ρούχα, έκανε κόλπα με κέρματα, δάγκωνε γλειφιτζούρι και έμενε έκπληκτος, βρίσκοντας μια τσίχλα στο κέντρο του. Παρά το γεγονός ότι τα συγκεκριμένα βίντεο δημιουργήθηκαν για χιουμοριστικό σκοπό, τα αποτέλεσμα συνεχίζουν να παραμένουν άκρως αληθοφανή και ταυτόχρονα τρομακτικά.
Τα deepfake στην πολιτική παραπληροφόρηση
Τα deepfakes δημιουργούνται σε μεγάλο βαθμό και για τη διάδοση ψευδών πολιτικών ειδήσεων, επηρεάζοντας κυρίως τις περιόδους των εκλογών σε όλον τον κόσμο, ειδικότερα τα τελευταία χρόνια. Δεν είναι λίγα τα ψεύτικα βίντεο που κυκλοφορούν στο διαδίκτυο με τα πρόσωπα και τις φωνές πολιτικών αρχηγών παγκοσμίως, να παριστάνουν ή να εκφωνούν κάτι που δεν ισχύει. Ένα πρόσφατο ανησυχητικό παράδειγμα αποτελεί αυτό του προέδρου των ΗΠΑ, Τζο Μπάιντεν, όταν μια ψεύτικη εκδοχή της φωνής του είχε χρησιμοποιηθεί σε αυτομάτως δημιουργούμενες ρομποκλήσεις, για να αποθαρρύνουν τους Δημοκρατικούς να συμμετάσχουν στις προκριματικές εκλογές στο Νιου Χάμσαϊρ.
Ο πρόεδρος των ΗΠΑ συγκεκριμένα, έχει πέσει αρκετές φορές θύμα ψευδών βίντεο, με ακόμα ένα παράδειγμα να αποτελεί το βίντεο που λέει λανθασμένα ότι η Ρωσία έχει καταλάβει το Κίεβο για 10 χρόνια, μπερδεύοντας την ουκρανική πρωτεύουσα με την προσαρτημένη χερσόνησο της Κριμαίας.
Το 2022 κυκλοφόρησε ένα deepfake βίντεο με τον Ουκρανό πρόεδρο Βολοντιμίρ Ζελένσκι, να ζητά από τα στρατεύματά του να παραδοθούν.
Τέτοια περιστατικά μπορούν να αποβούν άκρως επιζήμια σε τοπικό και διεθνή επίπεδο, επηρεάζοντας μοιραία την κοινή γνώμη αλλά και τα αποτελέσματα των εκλογών.
Τι συμβαίνει στην Ελλάδα
Όπως αναφέρει το Εuronews στην Ελλάδα το πρώτο περιστατικό χρήσης τεχνητής νοημοσύνης για τη δημιουργία πλαστού ερωτικού βίντεο (deep fake) καταγράφτηκε πριν από περίπου τρία χρόνια. Θύμα ήταν μια ανήλικη μαθήτρια και δράστης ένας συμμαθητής της.
Η παρουσιάστρια του ΕΡΤNews Αντριάννα Παρασκευοπούλου έπεσε θύμα του deepfake και τόνισε: «Ήταν σοκαριστικό γιατί ήμουν εγώ, το πρόσωπό μου, ήταν η φωνή μου ήταν το περιβάλλον της δουλειάς μου δηλαδή το δελτίο ειδήσεων της ΕΡΤ μέχρι που στα πρώτα δευτερόλεπτα όταν υπήρχε και η απάντηση του συνεντευξιαζόμενου αναρωτήθηκα αν έχω κάνει ποτέ τέτοια συνέντευξη που αποκλείεται ποτέ στη ζωή μου να είχα πει κάτι τέτοιο».
Το δεύτερο σοκ ήρθε όταν η παρουσιάστρια της εκπομπής «Συνδέσεις» Χριστίνα Βίδου επικοινώνησε με τις Αρχές και δήλωσε «Μου είπαν να σου πω κάτι ρε Χριστίνα; Δεν πρόκειται να βρεις άκρη. Γιατί αυτή τη στιγμή αυτοί ας τους πούμε χάκερς είναι ένα μεγάλο δίκτυο δεν είναι κάτι που λειτουργεί και η έδρα του είναι εδώ μόνο στην Ελλάδα. Μπορεί αυτό το δίκτυο να έχει σέρβερς σε πάρα πολλές χώρες».
Ο Γιάννης Αντετοκούμπο μέσω του δελτίου ειδήσεων του EΡΤNEWS και τη Βούλα Μαλλά, εμφανίζεται ξαφνικά να μοιράζει αφειδώς εκατομμύρια.
Ο λογαριασμός DeepFake.gr στο instagram αποτελεί μία από τις δημοφιλέστερες πηγές για ψευδή βίντεο πολιτικών και celebrities στην Ελλάδα, με κύριο σκοπό τη σάτιρα και το χιούμορ, συνδυάζοντας τα πρόσωπα με viral καταστάσεις του διαδικτύου. Στα βίντεο απεικονίζονται πολύ συχνά πολιτικοί ηγέτες, όπως ο Στέφανος Κασσελάκης, αλλά και ο ίδιος ο Πρωθυπουργός, με τα πρόσωπά τους στα σώματα άλλων viral δημοσίων προσώπων της επικαιρότητας, όπως για παράδειγμα αυτό της Μαρίνας Σάττι.
Δείτε αυτή τη δημοσίευση στο Instagram.
Δείτε αυτή τη δημοσίευση στο Instagram.
Δείτε αυτή τη δημοσίευση στο Instagram.
Το νομοθετικό πλαίσιο σε ΕΕ και Ελλάδα
H δημιουργία των deepfake είναι πιθανό να αποτελέσει ποινικό αδίκημα στην Αγγλία και την Ουαλία, σύμφωνα με σχέδιο νόμου που είναι υπό συζήτηση. Το νομοσχέδιο προβλέπει ότι όποιος δημιουργεί μια τέτοια εικόνα ή βίντεο ενός άλλου ενήλικα χωρίς τη συγκατάθεσή του, ακόμη και αν δεν σκοπεύει να το μοιραστεί, θα είναι αντιμέτωπος με τη Δικαιοσύνη και θα τιμωρείται με πρόστιμο, ανακοίνωσε την Τρίτη το βρετανικό υπουργείο Δικαιοσύνης.
Η απαγόρευση αφορά και οπτικό υλικό στο οποίο το υποκείμενο δεν εμφανίζεται σε ερωτικές πράξεις.
Στην Αγγλία και την Ουαλία να μοιράζεται κανείς πορνογραφικά deepfakes χωρίς τη συγκατάθεση του υποκειμένου που εμφανίζεται σε αυτά, σημειώνει το CNN. Οι δράστες αντιμετωπίζουν ποινή φυλάκισης. Η δημιουργία των deepfake από ανήλικους ήδη αποτελεί ποινικό αδίκημα.
Για το ίδιο ζήτημα υπάρχει κινητοποίηση και στις ΗΠΑ, όπου βουλευτές και από τα δύο κόμματα παρουσίασαν νομοσχέδιο με το οποίο θα μπορούν τα θύματα των deepfake να μηνύουν όσους τα μοιράζουν χωρίς τη θέλησή τους. Ανάλογη πρόταση για την ποινικοποίηση των deepfake έχει γίνει και στην ΕΕ.
Στην Ελλάδα τα εγκλήματα παραβίασης δεδομένων τα τελευταία χρόνια έχουν τριπλασιαστεί, με τα deepfake να κατακτούν κυρίαρχη θέση. Για αυτόν τον λόγο Ο υφυπουργός Ψηφιακής Διακυβέρνησης, Κώστας Κυρανάκης, μίλησε πρόσφατα στον ΣΚΑΪ, για τον ευρωπαϊκό κανονισμό DSA, τον έλεγχο του παράνομου περιεχομένου στο διαδίκτυο και τις παγκόσμιες μεγάλες πλατφόρμες, λέγοντας χαρακτηριστικά ότι: «Θα παρακολουθούνται από την ΕΕ και κάθε φορά που υπάρχει παραβίαση ευρωπαϊκής νομοθεσίας, θα παρεμβαίνει ειδικός μηχανισμός και θα κατεβαίνει το παράνομο περιεχόμενο. Ο χρήστης στην Ελλάδα μπορεί να καταγγέλλει στην Εθνική Αρχή Τηλεπικοινωνιών ότι θεωρεί παράνομο και μετά η καταγγελία του θα ερευνάται από τις αρμόδιες ελληνικές και ευρωπαϊκές αρχές. Ο έλεγχος αυτός στοχεύει κυρίως στην αποτροπή των deep fakes απατών σε βάρος προσώπων, ενόψει και των εκλογών αυτή τη χρονιά».
*Με πληροφορίες από Guardian, Wired, ertnews
