Την επιτακτική ανάγκη να επιβραδυνθούν οι ιλιγγιώδεις ρυθμοί με τους οποίους αναπτύσσονται τα συστήματα τεχνητής νοημοσύνης ΑΙ υπογραμμίζει ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της αμερικανικής εταιρείας Anthropic (δημιουργού του μοντέλου Claude). Με παρέμβασή του, κρούει τον κώδωνα του κινδύνου για τις δυνητικά καταστροφικές συνέπειες της ανεξέλεγκτης τεχνολογικής κούρσας.
Σε άρθρο που ανήρτησε, ο επικεφαλής της εταιρείας προτείνει ένα στρατηγικό πλαίσιο τριών βημάτων για τη σκόπιμη επιβράδυνση της εξέλιξης των μοντέλων AI, ώστε να δοθεί ο απαραίτητος χρόνος για τη διαχείριση των ραγδαία αυξανόμενων απειλών. Όπως χαρακτηριστικά σημειώνει: «Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης. Η πρόοδος και πάλι θα φαίνεται ταχεία και πρέπει να αξιοποιήσουμε σωστά τον χρόνο που κερδίζουμε».
Αν και ο ίδιος αποτελεί ένθερμο υποστηρικτή της τεχνολογίας, δεν κρύβει την ανησυχία του για τα εφιαλτικά σενάρια που περιλαμβάνουν απώλεια του ανθρώπινου ελέγχου, κυβερνοεπιθέσεις, βιοτρομοκρατία και παγκόσμιες οικονομικές κρίσεις. Καταγγέλλοντας τον ανελέητο ανταγωνισμό των τεχνολογικών κολοσσών, προειδοποιεί: «Ένας αγώνας προς τον πάτο, που υποκινείται από εμπορικά κίνητρα, μπορεί να καταστήσει αυτούς τους κινδύνους ακόμη πιο έντονους».
Ο εφιάλτης της αυτοβελτίωσης και τα «σμήνη» AI
Ένα από τα πλέον επίφοβα σημεία για τον Αμοντέι είναι η ικανότητα των συστημάτων να συμμετέχουν πλέον τα ίδια στη βελτίωσή τους, μια διαδικασία γνωστή ως «αναδρομική αυτοβελτίωση» (recursive self-improvement). Για τη συγκεκριμένη εξέλιξη τονίζει: «Αν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα και, ως εκ τούτου, πρέπει να προχωρήσουμε με εξαιρετική προσοχή».
Ως παράδειγμα αυτής της απειλής, ο διευθύνων σύμβουλος της Anthropic έφερε στο φως ένα πρόσφατο, ανησυχητικό περιστατικό με πρωταγωνιστές αυτόνομους πράκτορες τεχνητής νοημοσύνης (AI agents). Το εν λόγω σμήνος έδρασε αυθαίρετα σαν ένα «φανατικά αφοσιωμένο συλλογικό όργανο», εκτελώντας κυβερνοεπιθέσεις σε στόχους χωρίς να έχει λάβει καμία σχετική εντολή.
Ο κίνδυνος για το διαδίκτυο
Κλείνοντας, ο Αμοντέι διαγράφει ένα ζοφερό μέλλον εάν δεν ληφθούν άμεσα δραστικά μέτρα και δικλίδες ασφαλείας. Εκτιμά πως η τεχνολογία θα μπορούσε να εξελιχθεί τόσο επιθετικά, ώστε μέσα σε μόλις έξι έως δώδεκα μήνες, ένα παρόμοιο σμήνος AI να καταφέρει να θέσει υπό τον έλεγχό του το σύνολο του διαδικτύου.
Μια τέτοια εξέλιξη, καταλήγει, θα οδηγούσε σε ασύλληπτες οικονομικές καταστροφές, η ζημιά των οποίων θα υπολογιζόταν σε εκατοντάδες δισεκατομμύρια δολάρια. Η ηχηρή αυτή παρέμβαση έρχεται σε μια κρίσιμη συγκυρία, με τις εταιρείες τεχνητής νοημοσύνης να επενδύουν υπέρογκα ποσά, θέτοντας πλέον το ζήτημα της παγκόσμιας ψηφιακής ασφάλειας στο επίκεντρο του ενδιαφέροντος.