Η τεχνητή νοημοσύνη που απευθύνεται σε πελάτες εκπροσωπεί την επωνυμία σας και απαιτεί μια εντελώς διαφορετική τεχνογνωσία από τα εσωτερικά εργαλεία.
Η διαφορά ανάμεσα σε έναν λειτουργικό και έναν πειστικό πράκτορα είναι περισσότερο εννοιολογική παρά τεχνική, επειδή οι περισσότερες προτροπές γράφονται ως σύνολα οδηγιών και όχι ως σχεδιασμοί διαλόγου.
Ένα καλύτερο πλαίσιο προέρχεται από τη γλωσσολογία και τη γνωστική ψυχολογία: οι συνομιλίες έχουν δομή και οι προτροπές δημιουργούν ένα περιβάλλον εστίασης της προσοχής. Όσα τοποθετείτε στην αρχή, όσα επαναλαμβάνετε και ο τρόπος με τον οποίο κλείνετε θα διαμορφώνουν με συνέπεια τη συμπεριφορά του πράκτορα.
Οι περιορισμοί βοηθούν, αλλά μόνο όταν είναι ακριβείς. Οι υπερβολικά πολλές οριακές περιπτώσεις οδηγούν σε άκαμπτες αλληλεπιδράσεις και δύσχρηστες προτροπές. Οι λιγότερες αποφάσεις επιτρέπουν την εστίαση στις σημαντικότερες.
Η δημιουργία διαλογικής τεχνητής νοημοσύνης που απευθύνεται σε πελάτες αποτελεί απαιτητική πρόκληση για μια επιχείρηση.
Ακόμη και για τους πιο ένθερμους υποστηρικτές της τεχνολογίας, που έχουν υιοθετήσει τη συνεργασία με την τεχνητή νοημοσύνη σε επίπεδο εργαζομένου και ίσως έχουν αναπτύξει προσαρμοσμένα εργαλεία τεχνητής νοημοσύνης για εσωτερική χρήση, η τοποθέτησή της στη διεπαφή ανάμεσα στην επιχείρησή σας και τον κόσμο είναι εντελώς διαφορετική υπόθεση.
Και πρόκειται πράγματι για προαγωγή. Όταν η τεχνητή νοημοσύνη έρχεται σε επαφή με τους πελάτες, εξελίσσεται από εργατικό ασκούμενο σε εξουσιοδοτημένο υπάλληλο: φορά τη στολή και εκπροσωπεί την επωνυμία στα μάτια των πελατών.
Το διακύβευμα είναι μεγάλο. Κάθε αστοχία είναι πλέον δημόσια και ενδέχεται να καταγραφεί.
Τα προϊόντα που δημιουργούμε είναι συχνά συστήματα πολλαπλών πρακτόρων, με σύνθετες αλληλεπιδράσεις σε επιχειρηματικό επίπεδο. Ωστόσο, αυτή η λογική μπορεί να είναι το ευκολότερο μέρος. Η μεγαλύτερη πρόκληση είναι να πείσουμε τους χρήστες ότι συνομιλούν διαρκώς με έναν και μοναδικό πράκτορα και ότι όσα λέει έχουν αξία.
Γι’ αυτό γράφουμε και ξαναγράφουμε τις προτροπές, ξανά και ξανά.
Ορισμένοι πράκτορες είναι αποτέλεσμα εκατοντάδων επαναλήψεων της προτροπής. Όλοι έχουν τον ίδιο στόχο: να παραμένουν προσηλωμένοι στην εργασία τους και να μιλούν με μια φωνή που βρίσκει απήχηση στους ανθρώπους.
Η εμπειρία μας από τη διαδικασία βελτίωσης των προτροπών μάς ώθησε να αναζητούμε έμπνευση με δημιουργικούς τρόπους. Αρχίσαμε να δανειζόμαστε ιδέες από άλλους κλάδους. Φυσικά, δεν λειτούργησαν όλα και όσα λειτούργησαν σπάνια πέτυχαν με την πρώτη προσπάθεια. Αποτέλεσμα αυτών των διερευνητικών προσπαθειών ήταν να αναδυθεί στην ομάδα μας ένα διαφορετικό παράδειγμα για τη δημιουργία προτροπών.
Το χάσμα ανάμεσα σε έναν συστηματικά λειτουργικό πράκτορα και έναν εξαιρετικό συνομιλητή δεν είναι αμιγώς τεχνικό· είναι εννοιολογικό. Είναι η απόσταση ανάμεσα στον κόσμο στον οποίο τοποθετήσατε τον πράκτορα μέσω της προτροπής σας και στον πραγματικό κόσμο της ανθρώπινης επικοινωνίας, όπου αυτός λειτουργεί.
Ο δεύτερος χαρακτηρίζεται από ασάφεια, την οποία οι άνθρωποι αντιλαμβάνονται καλά και οι καλοπροαίρετοι συνομιλητές διαχειρίζονται συνεργατικά, ακολουθώντας ένα σύνολο λεπτών, άρρητων κανόνων του λόγου. Ο ανεπαρκώς προετοιμασμένος πράκτορας γίνεται αμέσως αντιληπτός.
Για να διατηρήσουμε τον τέταρτο τοίχο, ή την ψευδαίσθηση Turing, μπορούμε να θεμελιώσουμε τους πράκτορές μας στην τέχνη του διαλόγου, αξιοποιώντας γνώσεις από τη γλωσσολογία και τη γνωστική ψυχολογία.
Η γλωσσολογία διαθέτει μια ολόκληρη εργαλειοθήκη για τη μελέτη της γλώσσας στην πράξη, όπως την Ανάλυση Συνομιλίας, που εξετάζει πώς οι άνθρωποι δομούν και διαχειρίζονται τις συνομιλίες από στιγμή σε στιγμή. Όταν εφαρμόζεται στις προτροπές, αυτό το πλαίσιο μάς προσφέρει ένα λεξιλόγιο για να αντιλαμβανόμαστε τη συνομιλία όχι ως ανταλλαγή λέξεων, αλλά ως ανταλλαγή ενεργειών.
Ορισμένες ενέργειες είναι πρακτικές, όπως η λήψη ή η παροχή πληροφοριών, ενώ άλλες είναι κοινωνικές, όπως η διατήρηση καλών σχέσεων ή η αποφυγή εντάσεων. Τέτοιες κινήσεις εντάσσονται στην ευρύτερη δομή και στις φάσεις του διαλόγου, καθεμία από τις οποίες περιλαμβάνει αναμενόμενες ενέργειες. Οι διάλογοι έχουν άνοιγμα και κλείσιμο, αλλά και μεταβάσεις μεταξύ θεμάτων, ακόμη και προ-μεταβάσεις: εκείνες τις ενίοτε αμήχανες στιγμές όπου μια νέα κατεύθυνση προτείνεται διακριτικά, τίθεται υπό διαπραγμάτευση και αποφασίζεται ανάμεσα στις γραμμές.
Οι παρανοήσεις συμβαίνουν συνεχώς, ακόμη και όταν όλες οι πλευρές έχουν τις καλύτερες προθέσεις. Παρότι οι άνθρωποι διαπρέπουν στην τέχνη του διαλόγου σε διαφορετικό βαθμό, το βασικό είναι ότι το LLM πίσω από τον πράκτορά σας δεν διαθέτει έμφυτη τη διαίσθηση που έχει ακόμη και ο πιο συνηθισμένος άνθρωπος ως συνομιλητής.
Παράλληλα με τη γλωσσολογική ανάλυση, η γνωστική ψυχολογία προσφέρει μια συμπληρωματική οπτική. Μας δείχνει πώς λειτουργούν πραγματικά η προσοχή, η μνήμη και η λήψη αποφάσεων: πώς οι άνθρωποι σταθμίζουν όσα εμφανίζονται πρώτα σε σχέση με όσα εμφανίζονται τελευταία, πώς συγκεκριμένα ερεθίσματα προκαλούν σταθερή συμπεριφορά και πώς οι περιορισμοί μπορούν να απελευθερώσουν, μειώνοντας το γνωστικό φορτίο.
Η προτροπή δεν είναι ένα ουδέτερο δοχείο οδηγιών. Είναι ένα περιβάλλον εστίασης της προσοχής. Επομένως, όσα βρίσκονται στην αρχή έχουν σημασία. Όσα βρίσκονται στο τέλος έχουν σημασία. Όσα επαναλαμβάνονται έχουν σημασία. Όταν βλέπουν μια λίστα, οι άνθρωποι τείνουν να θυμούνται ευκολότερα την αρχή και το τέλος παρά τη μέση. Οι ψυχολόγοι το αποκαλούν επίδραση της σειριακής θέσης: προτεραιότητα και προσφατότητα.
Στην πράξη, παρατηρούμε κάτι παρόμοιο στα LLM. Οι πρώτες οδηγίες καθορίζουν το πλαίσιο: ποιος είναι ο πράκτορας, ποιον ρόλο παίζει και τι είδους κόσμο αναμένει να συναντήσει. Οι τελικές οδηγίες συχνά λειτουργούν ως «το τελευταίο πράγμα που ακούει». Αν τοποθετήσουμε εκεί τις σημαντικότερες οδηγίες μας, αυξάνονται οι πιθανότητες να εφαρμοστούν.
Ενώ εξετάζουμε προσεκτικά πού θα τοποθετήσουμε κάθε οδηγία στην προτροπή μας, πρέπει επίσης να παρακολουθούμε τη συνολική μορφή του ορίου που δημιουργούν αυτές οι οδηγίες για τον πράκτορά μας.
Οι οδηγίες λειτουργούν ως περιορισμοί για τον πράκτορά μας, μειώνοντας τις ανταγωνιστικές δυνατότητες που πρέπει να αξιολογήσει και περιορίζοντας τον συνολικό χώρο του προβλήματος. Οι προτροπές μας χρειάζονται αρκετούς περιορισμούς ώστε η εργασία του πράκτορα να παραμένει διαχειρίσιμη.
Όταν δίνουμε οδηγίες σε εργαζομένους, ιδίως στους λιγότερο έμπειρους, η ψυχολογία μάς υποδεικνύει ότι είναι συνετό να εξαλείφουμε τις ασάφειες της εργασίας και έτσι να μειώνουμε όσο το δυνατόν περισσότερο το γνωστικό φορτίο. Παρότι οι περιορισμοί μπορεί να φαίνονται ότι καταπνίγουν την ελευθερία, οι λιγότερες αποφάσεις μάς επιτρέπουν να εστιάσουμε στις λίγες σημαντικές που απομένουν και να επιστρατεύσουμε τη δημιουργικότητά μας για να ενεργήσουμε εντός ορίων.
Αντίθετα, αν προσπαθήσουμε να μην αφήσουμε στον πράκτορά μας καμία απόφαση, καλύπτοντας κάθε πιθανή οριακή περίπτωση με λίστες ενδεικτικών συμπεριφορών, θα δημιουργήσουμε έναν άκαμπτο συνομιλητή — και μια δύσχρηστη, φρανκενσταϊνική προτροπή γεμάτη συνθήκες if και else, που αποτελεί εφιάλτη στη διαχείριση.
(Παραδείγματα few-shot, για εσάς μιλάμε.)
Μια προτροπή με σαφή όρια παρέχει αρκετά ξεκάθαρη κατεύθυνση, χωρίς να υπερφορτώνει τις απαιτήσεις και να παραλύει τον πράκτορα. Συχνά αυτό σημαίνει ότι εισάγουμε λιγότερες οριακές περιπτώσεις ή στόχους για τον πράκτορα, τόσο ως προς το τι πρέπει ή δεν πρέπει να λέει όσο και ως προς το πώς πρέπει ή δεν πρέπει να το λέει.
Σύμφωνα με την εμπειρία μας, αν καταφεύγετε σε προσέγγιση με λίγα παραδείγματα (few-shot) για να προσαρμόσετε το όριό σας, τότε το όριο δεν είναι αρκετά ακριβές. Επιστρέψτε στις βασικές οδηγίες και βελτιώστε τις.
Από τη σκοπιά της γνωστικής ψυχολογίας, εξετάσαμε πού πρέπει να τοποθετούμε τις διάφορες οδηγίες μέσα σε μια προτροπή, καθώς και την ποσότητα και την ποιότητα των οδηγιών που απαιτούνται για να οριοθετήσουμε όσο το δυνατόν καλύτερα τον χώρο προβλήματος του πράκτορά μας.
Ανατρέχοντας στις προηγούμενες παρατηρήσεις μας για την τέχνη του διαλόγου από τη σκοπιά της γλωσσολογίας, μπορούμε να ολοκληρώσουμε το παράδειγμά μας για τις προτροπές, εντάσσοντας τις διαλογικές οδηγίες στο ευρύτερο πλαίσιο των ορίων της εργασίας του πράκτορα.
Για την τεχνητή νοημοσύνη που απευθύνεται σε πελάτες, ο διάλογος είναι πάντοτε η μετα-εργασία, είτε το αναγνωρίζουμε είτε όχι. Όταν επιλέγουμε να ασχοληθούμε σκόπιμα με τον διάλογο στην προτροπή μας, δεσμεύουμε μέρος της δυναμικότητας ή του «γνωστικού φορτίου» του πράκτορα στην επίγνωση του διαλόγου και στην κατάλληλη ανταπόκριση, ώστε να βελτιωθεί η συνομιλιακή του ικανότητα.
Ωστόσο, το αντάλλαγμα είναι ότι πιθανότατα θα χρειαστεί να περιορίσουμε την κύρια εργασία, ώστε ο συνολικός χώρος του προβλήματος να παραμείνει διαχειρίσιμος και καλά οριοθετημένος.
Επομένως, για την τεχνητή νοημοσύνη που απευθύνεται σε πελάτες, σχεδιάζουμε ολιστικά τις συνθήκες για καλύτερο διάλογο και καλύτερες αποφάσεις. Στόχος μας είναι μικρότεροι, καλά οριοθετημένοι πράκτορες, των οποίων η κύρια εργασία εντάσσεται στη μετα-εργασία του διαλόγου ή την περιλαμβάνει. Δεν γράφουμε σωρούς οδηγιών που βελτιώνονται μέσα από παραδείγματα. Γράφουμε ένα μικρότερο σύνολο βελτιωμένων οδηγιών, με αρκετή ακρίβεια ώστε τα παραδείγματα να είναι περιττά.
Αυτό είναι το παράδειγμα σχεδιασμού προτροπών που χρησιμοποιούμε για να δημιουργούμε πράκτορες οι οποίοι όχι μόνο παραμένουν προσηλωμένοι στην εργασία τους, αλλά το κάνουν και με συνομιλιακή κομψότητα.
Τώρα που χαρτογραφήσαμε το εννοιολογικό τοπίο, στο επόμενο άρθρο μας θα περάσουμε στην πράξη. Θα εξετάσουμε ορισμένα βασικά μοτίβα που προέκυψαν από τις προσπάθειές μας να εφαρμόσουμε αυτές τις αρχές σε προτροπές, μέσα από δοκιμές και λάθη σε πραγματικές συνθήκες. Έχει ενδιαφέρον ότι οι πάροχοι κορυφαίων μοντέλων αρχίζουν να υιοθετούν παρόμοια μοτίβα στις δικές τους οδηγίες για τη δημιουργία προτροπών. Περισσότερα την επόμενη φορά.