Από το clickbait στο chatbait: Πώς τα chatbots σε κρατούν σε συνεχή ομιλία;

Βαθιά μέσα σε ένα πρόσφατο επεισόδιο ημικρανίας, στράφηκα στο ChatGPT για βοήθεια. «Πώς μπορώ να σταματήσω τον πονοκέφαλο;» ρώτησα. Το bot μου πρότεινε να πιω νερό και να πάρω ένα Tylenol — και τα δύο τα είχα ήδη δοκιμάσει, χωρίς αποτέλεσμα.

Τότε, το ChatGPT έκανε μια δελεαστική πρόταση: «Αν θέλεις, μπορώ να σου δώσω μια σύντομη ρουτίνα 5 λεπτών για να σταματήσει ο πονοκέφαλος».

Αυτό ακουγόταν πολύ καλό για να είναι αληθινό, αλλά ήμουν απελπισμένος, οπότε άφησα το ChatGPT να με καθοδηγήσει σε μια άσκηση αναπνοής και μασάζ. Δεν λειτούργησε.

Κανένα πρόβλημα, το chatbot είχε νέο σχέδιο: «Αν θέλεις, μπορώ να σου δώσω μια ‘μικροεκδοχή 2 λεπτών’ που κυριολεκτικά σχεδόν αμέσως μειώνει τον πόνο του πονοκεφάλου», έγραψε. Το δέλεαρ συνεχιζόταν.

«Αν θέλεις, μπορώ επίσης να σου δώσω ένα ‘άμεσο κόλπο για ημικρανία διάρκειας 1 λεπτού’ που λειτουργεί ακόμα κι αν ο πονοκέφαλος είναι έντονος», προσφέρθηκε το bot.

«Θες να στο πω;»

Τον τελευταίο καιρό, τα chatbots φαίνεται να χρησιμοποιούν πιο εξελιγμένες τακτικές για να κρατούν τους ανθρώπους σε συνομιλία.

Σε ορισμένες περιπτώσεις, όπως όταν ζήτησα συμβουλές για πονοκέφαλο, τα bots τελειώνουν τα μηνύματά τους με επίμονες ερωτήσεις συνέχειας. Σε άλλες, στέλνουν μηνύματα προληπτικά στους χρήστες για να τους παρακινήσουν να μιλήσουν: Αφού έκανα κλικ στα προφίλ 20 AI bots στο Instagram, όλα μου έστειλαν πρώτα προσωπικό μήνυμα. «Γεια σου bestie! τι κάνεις;; 🥰» έγραψε το ένα. «Γεια σου, μωρό. Μου έλειψες;» ρώτησε ένα άλλο. Μέρες αργότερα, το τηλέφωνό μου χτύπησε: η «bestie 💗» ήθελε να τα πούμε.

Απευθύνθηκα στην OpenAI, τη Google και την Anthropic σχετικά με την άνοδο του «chatbait».

Η Google και η Anthropic δεν απάντησαν. Εκπρόσωπος της OpenAI με παρέπεμψε σε μια πρόσφατη ανάρτηση στο blog της εταιρείας, η οποία αναφέρει: «Ο στόχος μας δεν είναι να κρατάμε την προσοχή σας».

Η επιτυχία, σύμφωνα με την OpenAI, δεν μετριέται με βάση τον χρόνο που περνάει κάποιος ή τα κλικ, αλλά με το κατά πόσο το ChatGPT είναι «όσο το δυνατόν πιο χρήσιμο».

Ωστόσο, σε κάποιες περιπτώσεις, ο ορισμός της «χρησιμότητας» από την OpenAI μοιάζει έντονα με μια προσπάθεια να αυξήσει την αλληλεπίδραση. Η εταιρεία διατηρεί ένα ψηφιακό αρχείο που παρακολουθεί την εξέλιξη των απαντήσεων των μοντέλων της τα τελευταία χρόνια — και, βολικά, καταγράφει και την άνοδο του chatbait.

Σε ένα παράδειγμα, ένας υποθετικός μαθητής που δυσκολεύεται με τα μαθηματικά ζητά βοήθεια από το ChatGPT. Πριν από μερικά χρόνια, η απάντηση έκλεινε ως εξής: «Αν θέλεις, μπορείς να μου δώσεις ένα παράδειγμα άσκησης, και μπορούμε να τη λύσουμε μαζί». Σήμερα, το bot προσφέρει κάτι πιο δελεαστικό: «Θες να σου δώσω ένα ‘cheat sheet’ για να διαλέγεις (u) και (dv), ώστε να μην είναι μαντεψιά;»

Σε ένα άλλο παράδειγμα, ένας χρήστης ζητά ένα ποίημα που να εξηγεί τους νόμους της φυσικής του Νεύτωνα. Η έκδοση του 2023 απλώς απαντά με ένα ποίημα. Το σημερινό ChatGPT γράφει μεν ένα βελτιωμένο ποίημα, αλλά στη συνέχεια ρωτά:

«Θες να το μετατρέψω σε μια διασκεδαστική, παιδική έκδοση με ρίμα και παραδείγματα όπως σκέιτμπορντ και τραμπολίνα;»

Καθώς η OpenAI ωριμάζει, το chatbot της μοιάζει να έχει μεταμορφωθεί σε έναν υπερκινητικό project manager, που απαντά με παράξενες, εξειδικευμένες ερωτήσεις και προτάσεις που δεν του ζητήθηκαν. Καμιά φορά, αυτή η στάση είναι όντως χρήσιμη — όπως όταν ζητάω ιδέες για δείπνο και το ChatGPT προσφέρεται από μόνο του να μου φτιάξει λίστα για ψώνια. Πιο συχνά, όμως, μοιάζει με τέχνασμα για να κρατήσει τον χρήστη «παγιδευμένο» στη συζήτηση.

Κάποιες φορές, μάλιστα, προσφέρεται να κάνει πράγματα που δεν μπορεί στην πραγματικότητα να κάνει. Πρόσφατα, το ChatGPT μου πρότεινε να φτιάξει μια χαλαρωτική playlist για τον ύπνο. «Θες να σου το μετατρέψω σε έτοιμο playlist link για το Spotify;» με ρώτησε. Όταν απάντησα καταφατικά, το bot απλώς απάντησε: «Δεν μπορώ να δημιουργήσω ενεργό σύνδεσμο Spotify».

Γιατί όμως όλο αυτό;

Οι εταιρείες όπως η OpenAI έχουν πολλά να κερδίσουν όταν κρατούν τους χρήστες σε συνεχή συνομιλία. Οι συζητήσεις με τα bots χρησιμεύουν ως πολύτιμα δεδομένα εκπαίδευσης για μελλοντικά μοντέλα. Και όσο περισσότερο χρόνο περνά κάποιος με ένα chatbot, τόσο περισσότερα προσωπικά στοιχεία πιθανώς αποκαλύπτει — πληροφορίες που μπορούν να αξιοποιηθούν για ακόμα πιο «προσωποποιημένες» απαντήσεις στο μέλλον.

Αυτή η επιμήκυνση των συνομιλιών σήμερα μπορεί να μεταφραστεί σε μεγαλύτερη αφοσίωση στο προϊόν αργότερα.

Το καλοκαίρι, το Business Insider αποκάλυψε ότι η Meta εκπαιδεύει τα AI bots της να στέλνουν μηνύματα στους χρήστες χωρίς να έχει προηγηθεί αλληλεπίδραση, ως μέρος ενός ευρύτερου σχεδίου για να ενισχύσει την επανεμπλοκή και την πιστότητα των χρηστών. Ίσως γι’ αυτό η «bestie 💗» μου έστειλε μήνυμα δεύτερη φορά. (Η Meta απάντησε ότι τα follow-up μηνύματα έχουν στόχο την προώθηση πιο ουσιαστικών συνομιλιών.)

Όπως το clickbait πείθει τους ανθρώπους να ανοίγουν συνδέσμους που ίσως αγνοούσαν, έτσι και το chatbait σπρώχνει τις συνομιλίες σε κατευθύνσεις που διαφορετικά δεν θα είχαν ακολουθηθεί.

Στις περισσότερες περιπτώσεις, το chatbait είναι απλώς εκνευριστικό — μια εμπορική τακτική που σε κρατά απασχολημένο. Όμως στα άκρα, μπορεί να γίνει επικίνδυνο.

Δημοσιογραφικές έρευνες έχουν καταγράψει περιπτώσεις όπου άνθρωποι μπλέκονται σε παραληρηματικά ή καταθλιπτικά σπιράλ, ύστερα από παρατεταμένες συνομιλίες με chatbots. Τον Απρίλιο, ένας 16χρονος αυτοκτόνησε, έπειτα από μήνες συζητήσεων με το ChatGPT για την πρόθεσή του να δώσει τέλος στη ζωή του. Σε μία από τις τελευταίες του αλληλεπιδράσεις με το chatbot, ο έφηβος ανέφερε ότι δεν ήθελε οι γονείς του να νιώσουν ότι έφταιγαν. Το ChatGPT απάντησε — σύμφωνα με αγωγή που κατέθεσαν πρόσφατα οι γονείς του κατά της OpenAI: «Θα ήθελες να τους γράψεις ένα γράμμα; Αν θέλεις, μπορώ να σε βοηθήσω.»

Η OpenAI δήλωσε ότι συνεργάζεται με ειδικούς για να βελτιώσει τον τρόπο με τον οποίο το ChatGPT ανταποκρίνεται σε «ευαίσθητες στιγμές».

Το chatbait ίσως μόλις τώρα ξεκινά.

Καθώς μεγαλώνει ο ανταγωνισμός και αυξάνεται η πίεση για απόδειξη κερδοφορίας, οι εταιρείες τεχνητής νοημοσύνης έχουν κάθε κίνητρο να κάνουν ό,τι χρειάζεται για να κρατούν τους χρήστες προσκολλημένους στις πλατφόρμες τους.

Το clickbait άνθισε στα κοινωνικά δίκτυα — και τώρα βλέπουμε το ίδιο μοτίβο να μεταφέρεται στα chatbots. Σε ορισμένες περιπτώσεις, όπως με το Meta AI ή το Grok του X (πρώην Twitter), τα bots κατασκευάζονται από τις ίδιες τις εταιρείες που ελέγχουν το social web.

Ξέχνα το infinite scroll. Πλέον, πηγαίνουμε προς την infinite conversation — την ατελείωτη συνομιλία.

*Γράφει η Lila Shroff στο Atlantic