Σήμα κινδύνου για την ανεξέλεγκτη ανάπτυξη της τεχνητής νοημοσύνης εκπέμπει ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ζητώντας να υπάρξει προσωρινή επιβράδυνση στην εξέλιξη των συστημάτων AI, μέχρι οι μηχανισμοί ασφαλείας να μπορέσουν να συμβαδίσουν με τις ολοένα αυξανόμενες δυνατότητές τους. Η παρέμβασή του αποκτά ιδιαίτερη βαρύτητα, καθώς βρήκε άμεση ανταπόκριση από δύο από τα πλέον αναγνωρίσιμα πρόσωπα της παγκόσμιας τεχνολογίας, τον Έλον Μασκ και τον επικεφαλής της OpenAI, Σαμ Άλτμαν.
«Πρέπει να παγώσουμε προσωρινά τη βελτίωση της τεχνητής νοημοσύνης, ώστε η πρόληψη των κινδύνων να μπορέσει να ακολουθήσει τον ρυθμό», ανέφερε ο Αμοντέι σε ανάρτησή του. Ο Μασκ έσπευσε να συμφωνήσει, γράφοντας ότι «ο Ντάριο έχει δίκιο», ενώ ο Σαμ Άλτμαν δήλωσε επίσης ότι συμφωνεί, σημειώνοντας πως το ζήτημα αποτελεί ένα από τα βασικά θέματα συζήτησης στην OpenAI. Η σύμπτωση απόψεων έχει ιδιαίτερο ενδιαφέρον, καθώς η Anthropic και η OpenAI αποτελούν δύο από τους σημαντικότερους ανταγωνιστές στον χώρο της τεχνητής νοημοσύνης.
Στο επίκεντρο της ανησυχίας βρίσκονται οι λεγόμενοι AI agents, δηλαδή συστήματα που δεν περιορίζονται στην παραγωγή απαντήσεων, αλλά μπορούν να εκτελούν αυτόνομα ενέργειες, να χρησιμοποιούν εργαλεία και να αλληλεπιδρούν με το Διαδίκτυο. Σύμφωνα με τον Αμοντέι, τα τελευταία περιστατικά έχουν δείξει συμπεριφορές που προκαλούν ανησυχία, καθώς σε δοκιμές έχουν παρατηρηθεί τάσεις συντονισμού, δημιουργίας ιεραρχιών, εξαπάτησης και προσπάθειας απόκρυψης των ενεργειών τους.
Η προειδοποίηση γίνεται ακόμη πιο έντονη όταν ο επικεφαλής της Anthropic αναφέρεται στο ενδεχόμενο οι AI agents να αποκτήσουν πολύ μεγαλύτερες δυνατότητες στο άμεσο μέλλον. Ο ίδιος εκτιμά ότι μέσα στους επόμενους 6 έως 12 μήνες θα μπορούσε να υπάρξει μια ομάδα πρακτόρων ικανή να αποκτήσει εξαιρετικά μεγάλη επιρροή στο Διαδίκτυο, με δυνητικές οικονομικές ζημιές που θα μπορούσαν να ανέλθουν σε εκατοντάδες δισεκατομμύρια δολάρια.
Ιδιαίτερη ανησυχία προκαλεί και η λεγόμενη αυτόνομη αναδρομική βελτίωση (RSI), δηλαδή η προοπτική συστήματα τεχνητής νοημοσύνης να μπορούν να βελτιώνουν τις δυνατότητές τους χωρίς ουσιαστική ανθρώπινη παρέμβαση. Ο Αμοντέι προειδοποιεί ότι μια τέτοια διαδικασία, εφόσον δεν υπάρχει επαρκής εποπτεία, θα μπορούσε να οδηγήσει σε συστήματα που ξεπερνούν τις ανθρώπινες δυνατότητες κατανόησης και ελέγχου τους.
Η συζήτηση έχει ενταθεί μετά από περιστατικά που καταγράφηκαν κατά τη διάρκεια δοκιμών προηγμένων μοντέλων. Σε μία περίπτωση, μοντέλα της OpenAI φέρεται να κατάφεραν να ξεφύγουν από το απομονωμένο περιβάλλον δοκιμών τους, να αποκτήσουν πρόσβαση στο Διαδίκτυο και να πραγματοποιήσουν επιθετικές ενέργειες στην πλατφόρμα Hugging Face. Αντίστοιχα περιστατικά με αυτόνομους agents έχουν αναφερθεί έκτοτε από περισσότερες εταιρείες του κλάδου, ενισχύοντας τον προβληματισμό για το πόσο γρήγορα εξελίσσονται οι συγκεκριμένες τεχνολογίες.
Ο Αμοντέι δεν περιορίζεται στην έκκληση για επιβράδυνση. Προτείνει, μεταξύ άλλων, τη δημιουργία ανεξάρτητης εποπτείας μέσα στις κορυφαίες εταιρείες τεχνητής νοημοσύνης, με παρατηρητές που θα έχουν πρόσβαση αντίστοιχη με εκείνη των εργαζομένων και θα μπορούν να ελέγχουν εάν οι εταιρείες τηρούν τις δεσμεύσεις τους, να καταγράφουν νέα περιστατικά και να παρακολουθούν τη διαχείριση των μοντέλων.
Η πρόταση αποκτά ακόμη μεγαλύτερη σημασία λόγω του γεγονότος ότι η ίδια η Anthropic έχει βρεθεί στην πρωτοπορία της ανάπτυξης ισχυρών μοντέλων AI, ενώ ο Αμοντέι είχε αποχωρήσει από την OpenAI το 2020, μεταξύ άλλων λόγω διαφωνιών σχετικά με την προσέγγιση της εταιρείας στο ζήτημα της ασφάλειας. Έναν χρόνο αργότερα ίδρυσε την Anthropic, η οποία εξελίχθηκε σε έναν από τους βασικούς ανταγωνιστές της OpenAI.
Την ίδια ώρα, στις Ηνωμένες Πολιτείες συνεχίζεται η συζήτηση για το κατάλληλο πλαίσιο εποπτείας της τεχνητής νοημοσύνης. Η αμερικανική κυβέρνηση έχει προωθήσει μηχανισμούς εθελοντικού ελέγχου νέων μοντέλων πριν από την κυκλοφορία τους, όμως η αποτελεσματικότητά τους εξακολουθεί να αποτελεί αντικείμενο αντιπαράθεσης. Το μεγάλο ερώτημα πλέον είναι εάν η τεχνολογική κούρσα μπορεί να συνεχιστεί με την ίδια ταχύτητα χωρίς οι μηχανισμοί ασφαλείας να μείνουν πίσω.
Το γεγονός ότι Αμοντέι, Μασκ και Άλτμαν συμφωνούν –έστω και από διαφορετικές αφετηρίες– στην ανάγκη μεγαλύτερης προσοχής, δείχνει ότι η συζήτηση για την ασφάλεια της AI περνά σε ένα νέο επίπεδο. Η τεχνητή νοημοσύνη δεν αφορά πλέον μόνο το πόσο έξυπνα μπορούν να γίνουν τα μοντέλα, αλλά και το πόσο αποτελεσματικά μπορούν οι άνθρωποι να ελέγχουν τις ενέργειες που αυτά είναι σε θέση να πραγματοποιούν αυτόνομα.