Πώς σπάμερ και απατεώνες εκμεταλλεύονται τις εικόνες τεχνητής νοημοσύνης και μαζεύουν κοινό

Τα μοντέλα κειμένου σε εικόνα, όπως το DALL-E και το Midjourney, μπορούν να παράγουν εντυπωσιακές, μερικές φορές ακόμη και φωτορεαλιστικές εικόνες.

Προηγούμενες μελέτες του Stanford Internet Observatory αναφέρουν πως υπάρχουν πολύ σοβαρές επιπτώσεις για την ασφάλεια των παιδιών και τις μη συναινετικές προσωπικές εικόνες.

Ερευνητές και υπεύθυνοι κανονισμών, έχουν εκφράσει φόβους, που αφορούν στην κατάχρηση ψευδών πληροφοριών στον πολιτικό λόγο.

Σε μια νέα δημοσίευση, ωστόσο, η συζήτηση αφορά σε κάτι εντελώς διαφορετικό: σπαμ, απάτες και ο “γαριδο-Ιησούς”:

WHAT IS HAPPENING ON FACEBOOK pic.twitter.com/6XzTV5eBd3

— Jorge Murillo 💙 (@TheHornetsFury) March 13, 2024

Τι είναι αυτό όμως και γιατί συμβαίνει;

Η ικανότητα να παράγουμε συναρπαστικές, καινοτόμες και καθηλωτικές εικόνες, φθηνά και άμεσα, ενώ ταυτόχρονα διπλασιάζοντας τους αριθμούς των like, των σχολίων και των προβολών τέτοιου είδους αναρτήσεων, φαντάζει δελεαστικό και σε απατεώνες του διαδικτύου.

Αυτοί οι καινοτόμοι “ηθοποιοί”, υποκινούμενοι από τη θέληση για κέρδος και φήμη, χρησιμοποιούν εικόνες επεξεργασμένες από την τεχνητή νοημοσύνη, προκειμένου να κερδίσουν όσα επιθυμούν, ενώ οι εφαρμογές για να το επιτύχουν αυτό είναι πλέον εύκολα προσβάσιμες από μεγάλη μερίδα του κοινού.

Το Facebook, ειδικά, φαίνεται πως προτείνει ενεργά το περιεχόμενό τους, προωθώντας το στην αρχική σελίδα πολλών χρηστών του μέσου δικτύωσης. Το 2016, τα “fake news” που δημιουργήθηκαν από εφήβους στην Π.Γ.Δ.Μ. και σχεδιάστηκαν για να ταιριάζουν με τους αλγόριθμους του Facebook, συγκέντρωσαν εκατομμύρια κλικ επισκεψιμότητας.

Για να κατανοήσει κανείς πώς η τεχνολογία χρησιμοποιείται για αναβάθμιση σελίδων και ενσωματώνεται σε σπαμ και απάτες, εξετάστηκαν από το Πανεπιστήμιο του Stanford, περισσότερες από 100 σελίδες στο Facebook, που η καθεμία δημοσίεσε περισσότερες από 50, επεξεργασμένες από το AI, εικόνες.

Στα προφανή κίνητρα συμπεριλαμβάνεται η κατεύθυνση του κοινού σε ιστότοπους εκτός πλατφόρμας, η πώληση προϊόντων και η αύξηση ακολούθων. Η έρευνα επικεντρώθηκε στους αποστολείς ανεπιθύμητης αλληλογραφίας, τους οποίους όρισε ως “λογαριασμούς που “έσπρωχναν” το κοινό τους σε τυχαίες ιστοσελίδες” και απατεώνες που προσπαθούσαν να πουλήσουν προϊόντα, τα οποία φαίνεται να μην υπάρχουν, είτε αποσκοπούσαν στην παραπλάνηση του κοινού, στα σχόλια. Αυτές οι εικόνες, αντιπροσωπεύουν εκατομμύρια αλληλεπιδράσεις και παρουσιάζονται μέσα από το περιεχόμενο του Facebook, σε χρήστες οι οποίοι δεν ακολουθούν την συγκεκριμένη σελίδα.

Ενώ ο “γαριδο-Ιησούς” είναι (ίσως) μια καλλιτεχνική φαντασίωση, που δημιουργήθηκε από μια σελίδα, η οποία προηγουμένως μοιραζόταν συνδέσμους clickbait σε μια φάρμα περιεχομένου, τα σχόλια σε πολλές από τις εικόνες που δημιουργούνται από AI πιο πεζών πραγμάτων, όπως οικιακά είδη, σπίτια ή έργα τέχνης που υποτίθεται ότι δημιουργήθηκαν από παιδιά, υποδηλώνουν ότι πολλοί χρήστες δεν γνωρίζουν τη συνθετική προέλευση, αν και ένα υποσύνολο χρηστών δημοσιεύει σχόλια ή infographics, που προσπαθούν να προειδοποιήσουν άλλους χρήστες.

Η έρευνα του Stanford υπογραμμίζει τις συνήθεις, αλλά αδιαφανείς χρήσεις εικόνων που δημιουργούνται από AI στο Facebook και την ανάγκη για καλύτερες μεθόδους προέλευσης και διαφάνειας.

Στοιχεία έρευνας Πανεπιστημίου του Stanford:

• Μελετήθηκαν 120 σελίδες στο Facebook, με τουλάχιστον 50 εικόνες τεχνητής νοημοσύνης , αναρτημένες στο προφίλ τους. Οι σελίδες αυτές, ταξινομήθηκαν σε κατηγορίες σπαμ, απάτης και “άλλων δημιουργών”. Ορισμένες ήταν συντονισμένες ομάδες σελίδων που διευθύνονταν από τους ίδιους χειριστές.
• Οι εικόνες είχαν εκατομμύρια αλληλεπιδράσεις με χρήστες. Μια δημοσίευση που εμπεριέχει εικόνα επεξεργασμένη από AI, ήταν στις 20 πιο προβεβλημένες δημοσιεύσεις στο περιεχόμενο του Facebook, το 2023.
• Οι σπαμ σελίδες, χρησιμοποιήσαν clickbait τακτικές και αποπειράθηκαν να κατευθύνουν τους χρήστες σε άλλες ιστοσελίδες, με χαμηλότερης ποιότητας περιεχόμενο. Προσπάθησαν να πουλήσουν προϊόντα που δεν υπήρχαν και να παρακινήσουν τους χρήστες να μοιραστούν προσωπικά τους στοιχεία και πληροφορίες.
• Επεξεργασμένες εικόνες από τεχνητή νοημοσύνη, παρουσιάζονται στο περιεχόμενο του Facebook και σε χρήστες, οι οποίοι δεν ακολουθούν τις συγκεκριμένες σελίδες. Οι ερευνητές υποπτεύονται, πως τέτοιες εικόνες παρουσιάζονται σε μη ακολούθους τους, διότι ο αλγόριθμος του προγράμματος τις προωθεί, πιστεύοντας πως θα αποκτήσει μεγαλύτερη απήχηση. Τα σχόλια των εικόνων αυτών, υποδηλώνουν ότι πολλοί χρήστες δεν γνωρίζουν την προέλευση των εικόνων.
• Ορισμένες σελίδες που μελετήθηκαν, χρησιμοποίησαν γνωστές παραπλανητικές μεθόδους, όπως κλοπή στοιχείων λογαριασμών ή εξαγορά, ενώ παρουσίασαν ύποπτη αύξηση ακολούθων.

πηγή: (stanford.edu)