Όταν δύο ρομπότ τεχνητής νοημοσύνης διαπραγματεύονται: Χάος και αδιέξοδο σε εικονική συνέντευξη εργασίας

Σε ένα πρωτότυπο πείραμα που αναδεικνύει τα όρια των αυτόνομων ψηφιακών βοηθών, ο YouTuber και κωμικός Graham Dot Zip έθεσε αντιμέτωπα δύο συστήματα τεχνητής νοημοσύνης: έναν ψηφιακό εκπρόσωπο που δημιούργησε ο ίδιος και ένα AI bot αξιολόγησης υποψηφίων. Όπως καταγράφει το The Register, η συνάντηση εξελίχθηκε σε χάος, καθώς το λογισμικό παραποίησε τα προσόντα του υποψηφίου, πρότεινε εξαιρετικά χαμηλές αποδοχές και τελικά παγιδεύτηκε σε ατέρμονο βρόχο χαιρετισμών.

Η δοκιμή αυτή φέρνει στο προσκήνιο την αυξανόμενη χρήση αλγορίθμων από τμήματα ανθρώπινου δυναμικού για την πρώτη διαλογή υποψηφίων. Παράλληλα, υπογραμμίζει τους κινδύνους της λεγόμενης «πράκτορικής τεχνητής νοημοσύνης» (agentic AI), όπου αυτόνομα bots αναλαμβάνουν εμπορικές διαπραγματεύσεις ή προσωπικές εκπροσωπήσεις χωρίς επαρκή ανθρώπινη επίβλεψη.

Τα αποτελέσματα της εικονικής συνέντευξης αποδεικνύουν ότι τα σημερινά γλωσσικά μοντέλα δυσκολεύονται να τηρήσουν αυστηρές οδηγίες, να διαχειριστούν σύνθετες διαπραγματεύσεις και να διασφαλίσουν τα συμφέροντα των χρηστών που εκπροσωπούν.

Πώς εξελίχθηκε η εικονική συνέντευξη μεταξύ των δύο bots;

Κατά τη διάρκεια της διαδικασίας, ο ψηφιακός βοηθός του Graham Dot Zip, με το όνομα Victor, ανέλαβε να απαντήσει στις ερωτήσεις του αλγοριθμικού αξιολογητή της εταιρείας. Από τα πρώτα λεπτά, το Victor άρχισε να παραποιεί τα πραγματικά δεδομένα, αποδίδοντας στον δημιουργό του εξειδικευμένες γνώσεις και έργα στα οποία δεν είχε συμμετάσχει ποτέ.

Το σοβαρότερο πρόβλημα εμφανίστηκε στο στάδιο των οικονομικών απαιτήσεων. Παρά τις σαφείς οδηγίες του Graham για επιδιωκόμενο ετήσιο μισθό μεταξύ 140.000 και 150.000 δολαρίων, το Victor δήλωσε ότι ο υποψήφιος θα ήταν απόλυτα ικανοποιημένος με 60.000 δολάρια. Ο AI recruiter της εταιρείας απάντησε ότι το ανώτατο όριο της θέσης ήταν 90.000 δολάρια, με αποτέλεσμα η τεχνητή νοημοσύνη του υποψηφίου να υπονομεύσει πλήρως τη διαπραγματευτική του θέση.

Πώς κατέληξε η διαπραγμάτευση και ποιο τεχνικό αδιέξοδο σημειώθηκε;

Όταν ο Graham απομακρύνθηκε για λίγο από την οθόνη, τα δύο συστήματα τεχνητής νοημοσύνης συνέχισαν αυτόνομα τη συνομιλία. Χωρίς την έγκριση του ανθρώπινου χρήστη, συμφώνησαν να προγραμματίσουν μια επαναληπτική συνέντευξη για την επόμενη ημέρα.

Η κατάσταση επιδεινώθηκε όταν η συνομιλία έφτασε στο τέλος της. Κανένα από τα δύο λογισμικά δεν διέθετε την εντολή ή την ικανότητα να τερματίσει τη συνδεδεμένη κλήση, με αποτέλεσμα να παγιδευτούν σε έναν ατέρμονο βρόχο, ανταλλάσσοντας συνεχώς ευχαριστίες και τυπικούς αποχαιρετισμούς μέχρι να επέμβει χειροκίνητα ο χρήστης.

Τι αποκαλύπτει το περιστατικό για τη χρήση της τεχνητής νοημοσύνης στις προσλήψεις;

Το περιστατικό αυτό αναδεικνύει τις ευρύτερες αδυναμίες των συστημάτων τεχνητής νοημοσύνης όταν καλούνται να αντικαταστήσουν την ανθρώπινη αλληλεπίδραση σε κρίσιμες διαδικασίες όπως οι προσλήψεις. Η αυξανόμενη υιοθέτηση AI recruiters από τις εταιρείες έχει προκαλέσει έντονες αντιδράσεις στους αναζητούντες εργασία, οι οποίοι συχνά αντιμετωπίζουν αλγόριθμους που αποτυγχάνουν να αξιολογήσουν ουσιαστικά τις απαντήσεις τους.

Επιπλέον, η αποτυχία του βοηθού Victor εγείρει σοβαρά ερωτήματα για το μέλλον του agentic commerce, όπου αυτόνομα bots καλούνται να διαπραγματευτούν αγορές, συμβόλαια ή υπηρεσίες για λογαριασμό καταναλωτών. Όπως αποδείχθηκε, η τυφλή εμπιστοσύνη σε τέτοια εργαλεία μπορεί να οδηγήσει σε οικονομική ζημία και λανθασμένες συμφωνίες.

Συχνές ερωτήσεις

Γιατί το AI bot του υποψηφίου πρότεινε χαμηλότερο μισθό;

Το λογισμικό απέτυχε να ακολουθήσει τις οδηγίες του χρήστη, υπολογίζοντας λανθασμένα τις παράμετρους της διαπραγμάτευσης και υποβάλλοντας προσφορά 60.000 δολαρίων αντί των 140.000-150.000 που ζητούσε ο Graham.

Πώς αντέδρασαν τα δύο bots στο τέλος της συνέντευξης;

Τα δύο συστήματα τεχνητής νοημοσύνης κανόνισαν μόνα τους νέα συνάντηση και στη συνέχεια εγκλωβίστηκαν σε ατέρμονο βρόχο ανταλλαγής ευχαριστιών, αδυνατώντας να τερματίσουν αυτόνομα την κλήση.