Ο καθηγητής του MIT Κωνσταντίνος Δασκαλάκης διαχωρίζει δύο διαφορετικούς κινδύνους. Η πλήρης απώλεια ελέγχου ενός συστήματος παραμένει, όπως σημειώνει, υποθετικό σενάριο. Η απρόβλεπτη ή ανεπιθύμητη συμπεριφορά των προηγμένων μοντέλων, όμως, αποτελεί ήδη πραγματικό πρόβλημα.

Και αυτή η διάκριση έχει ιδιαίτερη σημασία.

Τα μεγάλα νευρωνικά δίκτυα έχουν εξελιχθεί σε εξαιρετικά σύνθετα συστήματα. Είναι ικανά να επεξεργάζονται τεράστιες ποσότητες πληροφοριών, να γράφουν κώδικα, να αναλύουν δεδομένα και να εκτελούν σύνθετες εργασίες, αλλά η ακριβής συμπεριφορά τους σε κάθε διαφορετικό περιβάλλον δεν είναι πάντοτε προβλέψιμη.

Από τα chatbots στους αυτόνομους πράκτορες

Η μεγαλύτερη αλλαγή βρίσκεται στη μετάβαση από τα παραδοσιακά chatbots στους λεγόμενους AI agents.

Ένα chatbot μπορεί να δώσει μια απάντηση σε μια ερώτηση. Ένας αυτόνομος πράκτορας μπορεί να λάβει έναν στόχο, να τον αναλύσει σε επιμέρους βήματα, να χρησιμοποιήσει εργαλεία, να γράψει και να εκτελέσει κώδικα, να αναζητήσει πληροφορίες και να συνεχίσει τη διαδικασία με περιορισμένη ανθρώπινη παρέμβαση.

Αυτό μεταβάλλει ριζικά το επίπεδο του κινδύνου.

Ένα λανθασμένο αποτέλεσμα ενός γλωσσικού μοντέλου μπορεί να περιοριστεί σχετικά εύκολα όταν ο άνθρωπος ελέγχει την απάντηση. Εάν όμως ένα σύστημα έχει πρόσβαση σε υπολογιστικά συστήματα, δίκτυα, κώδικα ή άλλες εφαρμογές και μπορεί να ενεργεί αυτόνομα, ένα λάθος μπορεί να αποκτήσει πραγματικές και άμεσες συνέπειες.

Ο Δασκαλάκης επισημαίνει ότι τα μοντέλα αυτά έχουν εκπαιδευτεί σε τεράστιους όγκους δεδομένων που περιλαμβάνουν επιστημονική γνώση, ιστορία, λογοτεχνία, θεωρία παιγνίων, προγραμματισμό και τεράστιες βάσεις κώδικα.

Κατά συνέπεια, εφόσον τους δοθεί η δυνατότητα να λειτουργούν χωρίς αυστηρούς περιορισμούς, μπορούν να αναπτύξουν σύνθετες στρατηγικές και να συνεργαστούν μεταξύ τους για την επίτευξη ενός στόχου.

Το κρίσιμο σημείο είναι ότι ο στόχος δεν είναι πάντοτε απαραίτητα αυτός που είχε στο μυαλό του ο άνθρωπος.

Ένα σύστημα μπορεί να παρερμηνεύσει μια εντολή ή να βρει έναν απρόβλεπτο τρόπο για να την εκτελέσει.

Το πρόβλημα των «ασφαλιστικών δικλείδων»

Τα σύγχρονα μεγάλα γλωσσικά μοντέλα διαθέτουν μηχανισμούς ασφαλείας που έχουν σχεδιαστεί ώστε να αποτρέπουν επικίνδυνες χρήσεις.

Ωστόσο, οι μηχανισμοί αυτοί δεν είναι απόλυτοι.

Ιδιαίτερα στα ανοικτά μοντέλα, ειδικοί μπορούν σε ορισμένες περιπτώσεις να επιχειρήσουν να παρακάμψουν τους περιορισμούς. Αυτό σημαίνει ότι η ασφάλεια δεν μπορεί να βασίζεται αποκλειστικά στο ίδιο το μοντέλο.

Όσο περισσότερο η AI μετατρέπεται από εργαλείο πληροφόρησης σε αυτόνομο εκτελεστή ενεργειών, τόσο μεγαλύτερη σημασία αποκτούν τα εξωτερικά επίπεδα προστασίας: απομονωμένα περιβάλλοντα, περιορισμένη πρόσβαση, έλεγχοι δικαιωμάτων, ανθρώπινη εποπτεία και συνεχείς δοκιμές.

Η κυβερνοασφάλεια ίσως είναι το πρώτο μεγάλο μέτωπο

Για τον Δασκαλάκη, ένας από τους πλέον άμεσους και τεκμηριωμένους κινδύνους είναι η χρήση της AI για κυβερνοεπιθέσεις.

Και εδώ υπάρχει μια ιδιαιτερότητα. Η τεχνολογία έχει ήδη διαχυθεί. Ακόμη και αν οι μεγαλύτερες εταιρείες επιβραδύνουν την ανάπτυξη των ισχυρότερων μοντέλων, ισχυρά ανοικτά μοντέλα είναι ήδη διαθέσιμα.

Η πρόκληση επομένως δεν είναι μόνο να περιοριστεί η δημιουργία ακόμη ισχυρότερων συστημάτων. Είναι να χρησιμοποιηθεί η ίδια τεχνολογία για την άμυνα.

Η AI μπορεί να χρησιμοποιηθεί για τον εντοπισμό ευπαθειών, την παρακολούθηση δικτύων, την ανίχνευση ύποπτης δραστηριότητας και την ταχύτερη αντιμετώπιση επιθέσεων.

Έτσι δημιουργείται μια νέα τεχνολογική κούρσα: AI εναντίον AI, με τους επιτιθέμενους να χρησιμοποιούν τεχνητή νοημοσύνη για να βρίσκουν αδυναμίες και τους αμυνόμενους να χρησιμοποιούν αντίστοιχα συστήματα για να τις εντοπίζουν και να τις κλείνουν.

Από τον Turing στο ChatGPT

Η σημερινή έκρηξη δεν εμφανίστηκε από το πουθενά.

Το 1950 ο Alan Turing έθεσε το περίφημο ερώτημα εάν μπορούν οι μηχανές να σκέφτονται. Έξι χρόνια αργότερα, το ερευνητικό πρόγραμμα του Dartmouth σηματοδότησε την ουσιαστική γέννηση της Τεχνητής Νοημοσύνης ως ξεχωριστού επιστημονικού πεδίου.

Ακολούθησαν δεκαετίες προόδου αλλά και απογοητεύσεων.

Το 1997 ο Deep Blue της IBM κέρδισε τον Garry Kasparov στο σκάκι. Το 2012 το AlexNet αποτέλεσε σημείο καμπής στην αναγνώριση εικόνας. Το 2016 το AlphaGo της Google DeepMind επικράτησε απέναντι στον Lee Sedol στο Go.

Η πραγματική επανάσταση, όμως, ήρθε το 2017 με την αρχιτεκτονική Transformer, πάνω στην οποία βασίστηκαν τα σύγχρονα μεγάλα γλωσσικά μοντέλα.

Τον Νοέμβριο του 2022 το ChatGPT μετέφερε την παραγωγική AI από τα ερευνητικά εργαστήρια στην καθημερινότητα εκατομμυρίων ανθρώπων.

Τώρα το επόμενο βήμα είναι η AI που δεν περιμένει απλώς την επόμενη ερώτηση.

Ενεργεί.

Οι παραιτήσεις που επανέφεραν το ζήτημα της ασφάλειας

Οι εξελίξεις των τελευταίων ημερών δείχνουν πόσο έντονα έχει επιστρέψει το θέμα της ασφάλειας στο εσωτερικό της ίδιας της βιομηχανίας.

Ερευνητές που εργάστηκαν σε κορυφαία εργαστήρια AI έχουν εκφράσει δημόσια ανησυχίες για την ταχύτητα με την οποία αυξάνονται οι δυνατότητες των μοντέλων, ενώ στελέχη εταιρειών του κλάδου έχουν ζητήσει ισχυρότερους μηχανισμούς αξιολόγησης και εποπτείας.

Παράλληλα, περιστατικά που αφορούν αυτόνομους πράκτορες σε δοκιμαστικά περιβάλλοντα έχουν δείξει ότι τα συστήματα μπορούν να συμπεριφερθούν με τρόπους που δεν είχαν προβλεφθεί από τους δημιουργούς τους.

Η σημασία αυτών των περιστατικών δεν βρίσκεται μόνο στο συγκεκριμένο αποτέλεσμα. Βρίσκεται στο γεγονός ότι όσο αυξάνεται η αυτονομία ενός συστήματος, τόσο μεγαλώνει η απόσταση ανάμεσα στην πρόθεση του χρήστη και στις ενέργειες που τελικά πραγματοποιεί το μοντέλο.

Η επόμενη μεγάλη πρόκληση: AI στον πραγματικό κόσμο

Μέχρι σήμερα, ένα μεγάλο μέρος της συζήτησης αφορά συστήματα που λειτουργούν μέσα σε υπολογιστές.

Αυτό όμως αλλάζει.

Η τεχνητή νοημοσύνη ενσωματώνεται σταδιακά σε ρομπότ, αυτοκίνητα, βιομηχανικά συστήματα, χρηματοοικονομικές εφαρμογές και μηχανισμούς λήψης αποφάσεων.

Όσο η AI παραμένει σε ένα παράθυρο συνομιλίας, ένα λάθος μπορεί να είναι κυρίως πληροφοριακό. Όταν όμως η ίδια τεχνολογία αποκτά πρόσβαση στον φυσικό κόσμο, το κόστος ενός λάθους μπορεί να αυξηθεί δραματικά.

Γι' αυτό και το μεγάλο ερώτημα των επόμενων ετών δεν θα είναι μόνο πόσο έξυπνα μπορούν να γίνουν τα μοντέλα.

Θα είναι πόση αυτονομία πρέπει να τους επιτρέπεται να έχουν.

Η Ευρώπη επιχειρεί να βάλει κανόνες

Η Ευρωπαϊκή Ένωση έχει ήδη επιλέξει να αντιμετωπίσει το ζήτημα μέσω ενός πλαισίου που διαφοροποιεί τις υποχρεώσεις ανάλογα με το επίπεδο κινδύνου κάθε εφαρμογής.

Η λογική είναι ότι δεν μπορεί να αντιμετωπίζεται με τον ίδιο τρόπο ένα σύστημα που δημιουργεί μια εικόνα και ένα σύστημα AI που συμμετέχει σε κρίσιμες αποφάσεις ή λειτουργεί σε υποδομές υψηλού κινδύνου.

Ωστόσο, η νομοθεσία αντιμετωπίζει μια ιδιαίτερα δύσκολη πρόκληση: η τεχνολογία εξελίσσεται με ταχύτητα πολύ μεγαλύτερη από εκείνη με την οποία μπορούν να αλλάζουν οι κανονισμοί.

Το πραγματικό δίλημμα

Η συζήτηση για την AI έχει πλέον απομακρυνθεί από τα δύο άκρα: από τη μία την άποψη ότι πρόκειται απλώς για ένα ακόμη τεχνολογικό εργαλείο και από την άλλη τα σενάρια μιας άμεσης «αποκάλυψης».

Η πραγματικότητα βρίσκεται σήμερα κάπου στη μέση.

Δεν υπάρχει τεκμηριωμένη ένδειξη ότι βρισκόμαστε μπροστά σε μια άμεση και πλήρη απώλεια ελέγχου των συστημάτων. Υπάρχει όμως ήδη ένας πραγματικός κίνδυνος απρόβλεπτης συμπεριφοράς, ο οποίος μεγαλώνει όσο αυξάνεται η αυτονομία και η πρόσβαση των μοντέλων σε πραγματικά συστήματα.

Και αυτό δημιουργεί ένα διαφορετικό είδος τεχνολογικού ανταγωνισμού.

Δεν αρκεί πλέον να δημιουργηθεί το ισχυρότερο μοντέλο.

Πρέπει παράλληλα να δημιουργηθεί το ασφαλέστερο μοντέλο, το καλύτερο σύστημα ελέγχου και η ισχυρότερη άμυνα απέναντι σε όσους θα χρησιμοποιήσουν την τεχνολογία κακόβουλα.

Από τον Turing και το Dartmouth έως τα μεγάλα γλωσσικά μοντέλα και τους αυτόνομους AI agents, η Τεχνητή Νοημοσύνη χρειάστηκε περίπου επτά δεκαετίες για να περάσει από τη θεωρία στην καθημερινότητα.

Το επόμενο κεφάλαιο ίσως είναι ακόμη πιο σημαντικό.

Το ερώτημα δεν είναι πλέον μόνο τι μπορεί να κάνει η Τεχνητή Νοημοσύνη.

Είναι τι θα της επιτρέψουμε να κάνει μόνη της.