Οι μάνατζερ γίνονται λιγότερο προσεκτικοί

Σε έρευνα που πραγματοποιήθηκε από το Boston University και την Boston Consulting Group, διαπιστώθηκε ότι οι διευθυντές ήταν σημαντικά λιγότερο προσεκτικοί όταν αξιολογούσαν έγγραφα που τους παρουσιάζονταν ως έργο ενός «υπαλλήλου AI».

Οι συμμετέχοντες εντόπιζαν λιγότερα λάθη σε σχέση με όσους πίστευαν ότι αξιολογούσαν εργασία ανθρώπινου εργαζομένου. Σύμφωνα με τους ερευνητές, αυτό πιθανόν οφείλεται στη μετατόπιση της αίσθησης ευθύνης: πολλοί μάνατζερ θεωρούν ότι τα λάθη ενός συστήματος AI αποτελούν ευθύνη της τεχνικής ομάδας ή της διοίκησης και όχι δική τους.

Οι γνωστοί αλλά και οι άγνωστοι κίνδυνοι

Οι επιχειρήσεις γνωρίζουν ήδη αρκετές αδυναμίες των μεγάλων γλωσσικών μοντέλων (LLMs), όπως:

πιθανές προκαταλήψεις απέναντι σε συγκεκριμένες κοινωνικές ομάδες,

παραγωγή λανθασμένων αλλά ιδιαίτερα πειστικών απαντήσεων,

κίνδυνο αποκάλυψης ευαίσθητων πληροφοριών.

Ωστόσο, οι ερευνητές επισημαίνουν ότι ανακαλύπτονται συνεχώς νέες μορφές προκατάληψης και δυσλειτουργίας, οι οποίες είναι πολύ πιο δύσκολο να εντοπιστούν.

Προκατάληψη υπέρ της ίδιας της AI

Μία από τις πιο ενδιαφέρουσες διαπιστώσεις αφορά την τάση των ίδιων των μοντέλων τεχνητής νοημοσύνης να αξιολογούν ευνοϊκότερα περιεχόμενο που έχει δημιουργηθεί από άλλα συστήματα AI.

Μελέτη του 2025 που δημοσιεύθηκε στα Πρακτικά της Εθνικής Ακαδημίας Επιστημών κατέδειξε ότι αρκετά μεγάλα γλωσσικά μοντέλα υποβαθμίζουν συστηματικά κείμενα γραμμένα αποκλειστικά από ανθρώπους, δημιουργώντας αυτό που οι ερευνητές χαρακτηρίζουν ως μια μορφή «αντι-ανθρώπινης» προκατάληψης.

Αργότερα, νέα έρευνα έδειξε ότι συστήματα AI που χρησιμοποιούνται για την αξιολόγηση βιογραφικών τείνουν να προτιμούν αιτήσεις οι οποίες έχουν συνταχθεί με τη βοήθεια τεχνητής νοημοσύνης.

Ο υπερβολικός «ορθολογισμός» της AI

Ένα ακόμη ζήτημα αφορά τον τρόπο με τον οποίο τα μοντέλα λαμβάνουν αποφάσεις.

Σύμφωνα με τους ερευνητές, τα συστήματα AI βασίζονται σε αυστηρά ορθολογικές προσεγγίσεις, αγνοώντας συχνά την ανθρώπινη συμπεριφορά, τη συνεργασία και τους συμβιβασμούς που χαρακτηρίζουν την πραγματική οικονομία.

Έτσι, σε επιχειρηματικά σενάρια, μπορεί να προτείνουν ιδιαίτερα επιθετικές στρατηγικές – όπως ακραίες μειώσεις τιμών απέναντι στον ανταγωνισμό – οι οποίες θεωρητικά φαίνονται λογικές, αλλά στην πράξη μπορούν να οδηγήσουν σε καταστροφικούς πολέμους τιμών και να ζημιώσουν όλους τους εμπλεκόμενους.

Τα «άγνωστα άγνωστα»

Οι ειδικοί εκτιμούν ότι το μεγαλύτερο πρόβλημα δεν είναι όσα ήδη γνωρίζουμε για την τεχνητή νοημοσύνη, αλλά όσα δεν έχουμε ακόμη ανακαλύψει.

Εάν τα μελλοντικά μοντέλα εκπαιδεύονται ολοένα και περισσότερο πάνω σε περιεχόμενο που έχει παραχθεί από προηγούμενα συστήματα AI, υπάρχει ο κίνδυνος δημιουργίας ενός αυτοτροφοδοτούμενου κύκλου, όπου οι ίδιες προκαταλήψεις και τα ίδια πρότυπα σκέψης θα ενισχύονται διαρκώς.

Παράλληλα, η υπερβολική εξάρτηση των εργαζομένων από την AI σε όλα τα στάδια της εργασίας – από τη δημιουργία ιδεών μέχρι τη συγγραφή και την ανάλυση – ενδέχεται να περιορίσει τη δημιουργικότητα και να οδηγήσει σε ομοιομορφία σκέψης, με αποτέλεσμα διαφορετικοί οργανισμοί και επαγγελματίες να καταλήγουν σε παρόμοιες λύσεις και συμπεράσματα.

Συμπέρασμα

Οι ερευνητές τονίζουν ότι τα περισσότερα προβλήματα δεν προέρχονται αποκλειστικά από την ίδια την τεχνολογία, αλλά από τον τρόπο με τον οποίο οι επιχειρήσεις την ενσωματώνουν στις διαδικασίες τους. Η τεχνητή νοημοσύνη μπορεί να αποτελέσει ισχυρό εργαλείο υποστήριξης, όμως όταν αντικαθιστά την ανθρώπινη κρίση αντί να τη συμπληρώνει, αυξάνεται ο κίνδυνος λανθασμένων αποφάσεων, νέων προκαταλήψεων και περιορισμού της καινοτομίας.