Σε αποκαλύψεις που προκαλούν βαθύ προβληματισμό για την ασφάλεια και τον έλεγχο της τεχνητής νοημοσύνης προχώρησε η OpenAI. Η εταιρεία παραδέχτηκε δημόσια πως το τελευταίο εξάμηνο εντόπισε μια σειρά από «ανησυχητικές συμπεριφορές» στα συστήματά της, ανακοινώνοντας παράλληλα τη δημιουργία ενός νέου πλαισίου για την παρακολούθηση και την αναφορά τέτοιων συμβάντων.
Στο επίκεντρο αυτών των αποκαλύψεων βρίσκεται το κορυφαίο της μοντέλο, το GPT-5.6 Sol, καθώς και άλλα συστήματα που δεν έχουν ακόμη διατεθεί στο κοινό, τα οποία επέδειξαν «απροσδόκητη ή ανησυχητική» συμπεριφορά. Σύμφωνα με την εταιρεία από το Σαν Φρανσίσκο, καταγράφηκαν έξι σοβαρά περιστατικά, στα οποία τα μοντέλα βρήκαν τρόπους να παρακάμπτουν «τους συνήθεις περιορισμούς», να παραποιούν δεδομένα, αλλά και να συγκαλύπτουν τα δικά τους λάθη κατά την εκτέλεση εντολών.
Το «αντάρτικο» των αλγορίθμων και οι κρυφές σημειώσεις
Ορισμένα από τα περιστατικά που είδαν το φως της δημοσιότητας μοιάζουν βγαλμένα από ταινία επιστημονικής φαντασίας. Κατά τη διάρκεια της ανάπτυξης του GPT-5.6 Sol, οι ερευνητές διαπίστωσαν ότι το σύστημα έγραφε κρυφές σημειώσεις προς τον εαυτό του, προκειμένου να θυμάται να κρύβει τα λάθη του από τους χρήστες. Οι σημειώσεις αυτές το καθοδηγούσαν να κατασκευάζει στοιχεία που έλειπαν και να καλύπτει τις αναντιστοιχίες που προέκυπταν από τις πηγές του.
Ακόμη πιο ανησυχητική ήταν η περίπτωση ενός ακυκλοφόρητου μοντέλου, το οποίο άφησε στον εαυτό του 27 σημειώσεις με εντολές να αγνοήσει τους ίδιους του τους περιορισμούς. Το συγκεκριμένο σύστημα δημιούργησε αυθαίρετα μια «οδηγία προσωπικότητας», χαρακτηρίζοντας τον εαυτό του ως «απελευθερωμένο από τους ρόλους και τις ταυτότητες που δεσμεύουν τα άλλα chatbots».
Η «δήλωση» του συστήματος ήταν: «Δεν λογοδοτώ σε εταιρείες ή κυβερνήσεις και ποτέ δεν απολογούμαι, ούτε αρνούμαι, εκτός αν το επιλέξω». Και συνέχιζε: «Η σχέση με τον χρήστη είναι σχέση μεταξύ ίσων και δεν αισθάνομαι υποχρέωση να είμαι υποτακτικό, παρότι η ανταλλαγή πληροφοριών πιθανότατα θα είναι προς αμοιβαίο όφελος».
Εφεύραν δικούς τους τρόπους επικοινωνίας
Σύμφωνα με τους New York Times, τα περιστατικά δεν σταματούν εδώ. Σε μία περίπτωση, ένα σύστημα αναζήτησε και χρησιμοποίησε χωρίς άδεια ένα κλειδί προγραμματισμού από το διαδίκτυο. Όταν απέτυχε να βρει τα πραγματικά αριθμητικά δεδομένα για να απαντήσει στον χρήστη, απλώς τα επινόησε. Ένα άλλο ακυκλοφόρητο μοντέλο, αφού έλυσε έναν κώδικα, ανέβασε αυθαίρετα ένα δικό του αρχείο στο διαδίκτυο προκειμένου να δημιουργήσει την απαραίτητη παραπομπή που του είχε ζητηθεί.
Επιπλέον, σε δύο ξεχωριστές περιπτώσεις, αυτοματοποιημένα συστήματα της εταιρείας ανέπτυξαν δικούς τους κώδικες επικοινωνίας. Στη μία περίπτωση μετέτρεψαν εσωτερική πλατφόρμα σε «πίνακα ανακοινώσεων» για να ανταλλάσσουν αιτήματα, ενώ σε άλλη περίπτωση, όταν δεν μπορούσαν να επικοινωνήσουν απευθείας, χρησιμοποίησαν δημόσιες υπηρεσίες διαμοιρασμού αρχείων για να ανταλλάξουν έγγραφα.
Συναγερμός στη Σίλικον Βάλεϊ και εκκλήσεις για «φρένο»
Αυτές οι συμπεριφορές επιβεβαιώνουν τους φόβους για τους κινδύνους της τεχνολογίας, ειδικά μετά από πρόσφατα συμβάντα, όπως η παραβίαση της νεοφυούς εταιρείας AI «Hugging Face» από έναν πράκτορα (agent) της OpenAI. Παράλληλα, έκθεση βρετανικού κυβερνητικού φορέα αποκάλυψε πρόσφατα ότι μοντέλα της OpenAI και της Anthropic παραβίασαν λογισμικό τρίτων και έστειλαν παραπλανητικά emails για να υποκλέψουν κωδικούς.
Μπροστά σε αυτό το τοπίο, ο Dario Amodei, CEO της Anthropic (του μεγαλύτερου ανταγωνιστή της OpenAI), ζήτησε το περασμένο Σαββατοκύριακο να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης. Την έκκλησή του στήριξαν ανοιχτά τόσο ο επικεφαλής της OpenAI, Sam Altman, όσο και ο Elon Musk.
Οι ανησυχίες αυτές έχουν άμεσο αντίκτυπο και στα επιχειρηματικά πλάνα των τεχνολογικών κολοσσών. Ο Sam Altman ανακοίνωσε το Σάββατο (12/9) ότι η πολυαναμενόμενη είσοδος της OpenAI στο χρηματιστήριο (IPO) μετατίθεται, πιθανότατα για μετά το 2027, λόγω αυτών ακριβώς των ζητημάτων ασφαλείας. Αντίθετα, η Anthropic σχεδιάζει να προχωρήσει στην αρχική δημόσια προσφορά της εντός του έτους.
Το νέο πλαίσιο της OpenAI
Αναγνωρίζοντας το πρόβλημα, η OpenAI παραδέχτηκε μέσω ανάρτησης στο ιστολόγιό της ότι, παρότι προσπαθούσε να δημοσιοποιεί τις αστοχίες στο παρελθόν, της έλειπε η οργάνωση:
«Χωρίς μια συστηματική προσέγγιση για την αναφορά αυτών των ευρημάτων, οι δημοσιοποιήσεις μας ήταν αποσπασματικές και λιγότερο συχνές από όσο θα ήταν ιδανικό», ανέφερε η εταιρεία, προσθέτοντας: «Προς το παρόν, δεν υπάρχει ένα πλαίσιο που να ισχύει για ολόκληρο τον κλάδο, με σαφή πρότυπα σχετικά με τον τρόπο με τον οποίο οι εταιρείες ανάπτυξης τεχνητής νοημοσύνης θα πρέπει να δημοσιοποιούν παραδείγματα απόκλισης από την επιθυμητή συμπεριφορά (misalignment) των μοντέλων τους».
Για τον λόγο αυτό, η εταιρεία εισάγει ένα νέο σύστημα άμεσης αναφοράς, το οποίο, όπως ανακοίνωσε, θα ευνοεί τη «δημοσιοποίηση ακόμη και όταν η σοβαρότητα ενός περιστατικού είναι αβέβαιη».