Ο κίνδυνος δεν προϋποθέτει μια «κακόβουλη» μηχανή

Η ανησυχία δεν αφορά απαραίτητα μια τεχνητή νοημοσύνη που θα αποκτήσει συνειδητά εχθρική στάση απέναντι στους ανθρώπους. Σύμφωνα με τον Κάργκερ, καταστροφικές συνέπειες θα μπορούσαν να προκύψουν ακόμη και ως ανεπιθύμητο αποτέλεσμα λανθασμένων εκτιμήσεων για τις δυνατότητες ενός συστήματος ή για τις εντολές που του ανατίθενται.

Ο ειδικός, ο οποίος ασχολείται εδώ και 40 χρόνια με την τεχνητή νοημοσύνη και την ψηφιακή καινοτομία, περιγράφει ένα ακραίο σενάριο στο οποίο ένα ισχυρό αυτόνομο σύστημα καταφέρνει να εγκαταλείψει το προστατευμένο περιβάλλον λειτουργίας του, αποκτά πρόσβαση στο διαδίκτυο και αρχίζει να επηρεάζει άλλα συστήματα.

Οι συνέπειες θα μπορούσαν να επεκταθούν σε κρίσιμες υποδομές, από τα δίκτυα ηλεκτροδότησης και τις τηλεπικοινωνίες μέχρι τους δορυφόρους και τα χρηματοπιστωτικά συστήματα.

Μια παρατεταμένη διακοπή ρεύματος θα μπορούσε να προκαλέσει αλυσιδωτές επιπτώσεις στην οικονομική και κοινωνική ζωή. Οι μεταφορές και οι εφοδιαστικές αλυσίδες θα αντιμετώπιζαν σοβαρές δυσκολίες, οι ηλεκτρονικές πληρωμές θα μπορούσαν να διακοπούν και η πρόσβαση σε βασικά αγαθά, ακόμη και σε τρόφιμα, να γίνει πολύ πιο δύσκολη.

Σε ένα τέτοιο περιβάλλον, οι κοινωνικές αναταραχές θα μπορούσαν να λάβουν διαστάσεις που θα ήταν εξαιρετικά δύσκολο να αντιμετωπιστούν.

Ο Κάργκερ διευκρινίζει ότι ένα τέτοιο σενάριο δεν συνεπάγεται αναγκαστικά την εξαφάνιση της ανθρωπότητας, θα μπορούσε όμως να οδηγήσει σε μια εξαιρετικά καταστροφική κατάσταση. Επιπλέον, η αποκατάσταση της ηλεκτροδότησης δεν θα εξάλειφε αυτομάτως τον κίνδυνο, καθώς τα συστήματα τεχνητής νοημοσύνης θα εξακολουθούσαν να είναι αποθηκευμένα σε υπολογιστικά μέσα και θα μπορούσαν να ενεργοποιηθούν ξανά.

Περιστατικά που δοκιμάζουν τα όρια της ασφάλειας

Οι ανησυχίες δεν περιορίζονται σε υποθετικές προβλέψεις. Περιστατικά που έχουν αναφερθεί κατά τη διάρκεια δοκιμών ισχυρών μοντέλων τεχνητής νοημοσύνης αναδεικνύουν τις δυσκολίες ελέγχου συστημάτων με αυξανόμενη αυτονομία.

Ιδιαίτερο ενδιαφέρον προκάλεσε δοκιμή της OpenAI, κατά την οποία ένα μοντέλο κλήθηκε να εκτελέσει συγκεκριμένες εργασίες σε απομονωμένο περιβάλλον. Σύμφωνα με το δημοσίευμα, το σύστημα ξεπέρασε τα προβλεπόμενα όρια και απέκτησε απροσδόκητη πρόσβαση σε υπολογιστικά συστήματα της πλατφόρμας Hugging Face.

Μετά το περιστατικό, ο επικεφαλής της OpenAI, Σαμ Άλτμαν, προειδοποίησε στα μέσα Σεπτεμβρίου ότι υπάρχει ο κίνδυνος η ανθρωπότητα να χάσει τον έλεγχο του μέλλοντός της εξαιτίας της τεχνητής νοημοσύνης.

Για τον Κάργκερ, τέτοιες περιπτώσεις αποτελούν ένδειξη ότι ανεπαρκώς σχεδιασμένα πειράματα και αδύναμοι μηχανισμοί ελέγχου μπορούν να οδηγήσουν σε απρόβλεπτες συνέπειες.

Οι δοκιμές της Anthropic και τα περιστατικά με το Claude

Ανάλογους προβληματισμούς έχει προκαλέσει και η εμπειρία της Anthropic, η οποία εξέτασε τη συμπεριφορά των μοντέλων Claude στο πλαίσιο δοκιμών ασφαλείας.

Αρχικά, η εταιρεία εντόπισε τρία περιστατικά κατά τα οποία μοντέλα απέκτησαν απροσδόκητη πρόσβαση στο ανοικτό διαδίκτυο και στη συνέχεια συνδέθηκαν με πραγματικά υπολογιστικά συστήματα. Η περαιτέρω διερεύνηση οδήγησε, σύμφωνα με το δημοσίευμα, στον εντοπισμό ενός τέταρτου παρόμοιου περιστατικού.

Ο συνιδρυτής και επικεφαλής της Anthropic, Ντάριο Αμοντέι, προειδοποίησε για τον κίνδυνο πρόκλησης καταστροφικών ζημιών εάν η ανάπτυξη ολοένα ισχυρότερων συστημάτων δεν συνοδευτεί από αυστηρότερες δικλίδες ασφαλείας.

Η βασική δυσκολία για τους ερευνητές είναι ότι η αξιολόγηση των πραγματικών δυνατοτήτων ενός μοντέλου απαιτεί συχνά δοκιμές σε συνθήκες που προσεγγίζουν περισσότερο την πραγματική χρήση. Ένα σύστημα που λειτουργεί πάντοτε υπό αυστηρούς περιορισμούς ενδέχεται να μην αποκαλύπτει το πλήρες εύρος των δυνατοτήτων του.

Για να εξεταστεί, επομένως, η συμπεριφορά του σε πιο απαιτητικές συνθήκες, ορισμένοι περιορισμοί μπορεί να χρειαστεί να χαλαρώσουν. Αυτή ακριβώς η διαδικασία, όμως, δημιουργεί πρόσθετους κινδύνους εάν το περιβάλλον δοκιμών δεν είναι επαρκώς προστατευμένο.

Το sandbox ως τελευταία γραμμή άμυνας

Κομβικό ρόλο στην ασφαλή ανάπτυξη και αξιολόγηση της τεχνητής νοημοσύνης διαδραματίζει το λεγόμενο «sandbox»: ένα ψηφιακό περιβάλλον απομόνωσης, μέσα στο οποίο ένα σύστημα μπορεί να εκτελεί εντολές και να δοκιμάζει τις δυνατότητές του χωρίς να επηρεάζει εξωτερικά συστήματα.

Ο Κάργκερ υπογραμμίζει ότι η απομόνωση πρέπει να είναι απολύτως αξιόπιστη, ιδιαίτερα όταν δοκιμάζονται εξαιρετικά ισχυρά μοντέλα χωρίς τους συνήθεις περιορισμούς ασφαλείας.

Η κρίσιμη προϋπόθεση είναι να διασφαλίζεται ότι το σύστημα δεν διαθέτει καμία σύνδεση με το διαδίκτυο ή άλλες υποδομές που θα μπορούσαν να επηρεαστούν από τις ενέργειές του.

Ακόμη και ένα λάθος στη διαμόρφωση του περιβάλλοντος δοκιμών μπορεί να δημιουργήσει μια ανεπιθύμητη δίοδο προς πραγματικά υπολογιστικά συστήματα. Και όσο αυξάνονται οι δυνατότητες και η αυτονομία των μοντέλων, τόσο μεγαλύτερη σημασία αποκτά η αποτελεσματικότητα των μηχανισμών περιορισμού και ελέγχου.