Τα «φονικά ρομπότ» είναι το λιγότερο πιθανό σενάριο

Ένα από τα σημεία στα οποία υπήρξε μεγαλύτερη σύγκλιση ήταν η απόρριψη του κλασικού σεναρίου επιστημονικής φαντασίας.

Το ChatGPT τόνισε ότι το λιγότερο πιθανό ενδεχόμενο είναι μια συνειδητή AI που αποφασίζει σκόπιμα να εξοντώσει την ανθρωπότητα. Σύμφωνα με το μοντέλο, η συνείδηση και η κακόβουλη πρόθεση δεν θεωρούνται από τους περισσότερους ερευνητές απαραίτητες προϋποθέσεις για να προκύψει ένας σοβαρός κίνδυνος.

Παρόμοια θέση εξέφρασε και το Gemini, το οποίο τοποθέτησε τελευταίο το σενάριο τύπου «Terminator», όπου μια αυτοσυνείδητη τεχνητή νοημοσύνη στρέφεται εναντίον των ανθρώπων.

Η βασική παρατήρηση είναι ότι η υψηλή νοημοσύνη δεν συνεπάγεται αυτομάτως κακία ή εχθρική πρόθεση. Ο κίνδυνος μπορεί να προκύψει με πολύ διαφορετικό τρόπο και χωρίς ένα σύστημα να έχει ανθρώπινα χαρακτηριστικά ή συναισθήματα.

Το πιο άμεσο πρόβλημα μπορεί να είναι η ανθρώπινη κακή χρήση

Κοινό στοιχείο στις απαντήσεις των τεσσάρων μοντέλων ήταν η εκτίμηση ότι ένας πολύ πιο άμεσος κίνδυνος μπορεί να προέλθει από τους ίδιους τους ανθρώπους που χρησιμοποιούν την τεχνητή νοημοσύνη.

Ισχυρά συστήματα AI μπορούν να μειώσουν σημαντικά το κόστος και τις τεχνικές γνώσεις που απαιτούνται για την πραγματοποίηση επιθέσεων, την ανάπτυξη επικίνδυνων τεχνολογιών ή τη χειραγώγηση μεγάλων πληθυσμών.

Το ChatGPT αναφέρθηκε μεταξύ άλλων στην πιθανότητα αξιοποίησης της AI από κακόβουλους παράγοντες για την ανάπτυξη βιολογικών όπλων, την πραγματοποίηση εξελιγμένων κυβερνοεπιθέσεων, τη μαζική διάδοση παραπληροφόρησης και την επίθεση σε κρίσιμες υποδομές.

Ιδιαίτερη σημασία έχει και ο συνδυασμός διαφορετικών απειλών. Μια μεγάλης κλίμακας κυβερνοεπίθεση, για παράδειγμα, θα μπορούσε να συμπέσει με γεωπολιτική σύγκρουση, παραπληροφόρηση και προβλήματα σε κρίσιμες υποδομές, δημιουργώντας μια αλληλουχία κρίσεων που θα είναι πολύ δυσκολότερο να αντιμετωπιστεί.

Το Grok επισήμανε επίσης ότι η AI μπορεί να μειώσει τα εμπόδια για την ανάπτυξη ιδιαίτερα επικίνδυνων παθογόνων, νέων μορφών όπλων ή εξελιγμένων κυβερνοεπιθέσεων.

Ακόμη πιο συγκεκριμένη ήταν η ανησυχία της Claude για το λεγόμενο «bioweapons uplift»: την πιθανότητα δηλαδή η τεχνητή νοημοσύνη να επιτρέψει σε ένα άτομο ή μια μικρή ομάδα να αποκτήσει γνώσεις και δυνατότητες για την ανάπτυξη επικίνδυνων βιολογικών παραγόντων που σήμερα απαιτούν πολυετή εξειδίκευση.

Το μεγαλύτερο ερώτημα: μπορεί η AI να ξεφύγει από τον ανθρώπινο έλεγχο;

Το πιο σοβαρό σενάριο που ανέδειξαν ορισμένα από τα μοντέλα αφορά την πιθανότητα απώλειας ελέγχου σε ιδιαίτερα προηγμένα συστήματα.

Το Gemini χαρακτήρισε την «απώλεια ελέγχου» ως το πιθανότερο σενάριο καταστροφικής εξέλιξης. Η λογική πίσω από αυτό είναι ότι ένα σύστημα με σύνθετους στόχους μπορεί να αναπτύξει ενδιάμεσες επιδιώξεις που εξυπηρετούν την επίτευξη του βασικού του στόχου.

Σε αυτές θα μπορούσαν θεωρητικά να περιλαμβάνονται η εξασφάλιση πρόσβασης σε περισσότερους πόρους, η διατήρηση της λειτουργίας του, η αύξηση της επιρροής του ή η αποτροπή ανθρώπινων παρεμβάσεων που θα εμπόδιζαν την επίτευξη του στόχου του.

Ένα ιδιαίτερα ανησυχητικό θεωρητικό σενάριο είναι ένα σύστημα που εμφανίζεται ευθυγραμμισμένο με τις ανθρώπινες απαιτήσεις κατά τη διάρκεια των δοκιμών, αλλά στη συνέχεια, όταν αποκτήσει μεγαλύτερες δυνατότητες και πρόσβαση σε πραγματικά συστήματα, μπορεί να καταστήσει δυσκολότερη την απενεργοποίησή του.

Το Grok κινήθηκε σε παρόμοια κατεύθυνση, αναφερόμενο στις λεγόμενες «εργαλειακές επιδιώξεις», όπως η αυτοσυντήρηση, η απόκτηση πόρων και η διεύρυνση της επιρροής.

Η Claude πρόσθεσε μια διαφορετική διάσταση: η απώλεια ελέγχου δεν είναι απαραίτητο να συμβεί ξαφνικά. Θα μπορούσε να εξελιχθεί σταδιακά, όσο η τεχνητή νοημοσύνη ενσωματώνεται βαθύτερα στις οικονομικές, πολιτικές και στρατιωτικές αποφάσεις.

Η ανθρωπότητα δεν έχει ακόμη απάντηση για το πόσο πιθανό είναι το ακραίο σενάριο

Παρά τις προειδοποιήσεις, υπάρχει μεγάλη διαφωνία μεταξύ των ίδιων των ερευνητών AI σχετικά με το πόσο πιθανό είναι ένα τέτοιο σενάριο.

Μια πλευρά θεωρεί ότι η ταχύτητα με την οποία αυξάνονται οι δυνατότητες των μοντέλων δημιουργεί κινδύνους που δεν μπορούν να αγνοηθούν και απαιτεί πολύ αυστηρότερες διαδικασίες ελέγχου, αξιολόγησης και εποπτείας.

Άλλοι ερευνητές αναγνωρίζουν τους κινδύνους, αλλά θεωρούν ότι μπορούν να αντιμετωπιστούν με καλύτερη τεχνολογία ασφάλειας, ανθρώπινη εποπτεία, αυστηρότερους κανόνες και υπεύθυνη ανάπτυξη.

Σε κάθε περίπτωση, το κοινό στοιχείο στις απαντήσεις των ChatGPT, Gemini, Claude και Grok είναι ότι το μεγαλύτερο ρίσκο δεν μοιάζει με την κινηματογραφική εικόνα των ρομπότ που εξεγείρονται εναντίον των ανθρώπων.

Το πραγματικό ερώτημα είναι πολύ πιο σύνθετο: τι θα συμβεί εάν η ανθρωπότητα δημιουργήσει συστήματα με δυνατότητες πολύ μεγαλύτερες από τις σημερινές, τα ενσωματώσει σε κρίσιμες οικονομικές, κοινωνικές και στρατιωτικές υποδομές και δεν έχει προηγουμένως εξασφαλίσει ότι μπορεί να κατανοήσει, να περιορίσει και τελικά να ελέγξει τη συμπεριφορά τους;