Η Σιγκαπούρη παρουσίασε ένα νέο πλαίσιο διεθνούς συνεργασίας για την ασφάλεια της τεχνητής νοημοσύνης, με τη μορφή της «Συμφωνίας της Σιγκαπούρης για τις Παγκόσμιες Ερευνητικές Προτεραιότητες στην Ασφάλεια της ΤΝ», το οποίο αναπτύχθηκε με τη συμμετοχή περισσότερων από 100 ερευνητών, ειδικών και εκπροσώπων πολιτικής από 11 χώρες, μεταξύ των οποίων οι Ηνωμένες Πολιτείες, η Κίνα και κράτη της Ευρώπης.
Η συμφωνία καταρτίστηκε κατά τη διάρκεια του συνεδρίου «Singapore Conference on AI: International Scientific Exchange on AI Safety», που πραγματοποιήθηκε στις 26 Απριλίου 2025 στο πλαίσιο της Εβδομάδας Έρευνας για την Τεχνητή Νοημοσύνη στη Σιγκαπούρη και παράλληλα με το διεθνές συνέδριο ICLR. Αποτελεί συνέχεια της «Διεθνούς Έκθεσης για την Ασφάλεια της ΤΝ – A», υπό την επιστημονική καθοδήγηση του καθηγητή Yoshua Bengio και με τη στήριξη 33 κυβερνήσεων. Η διαδικασία σύνταξης του κειμένου περιλάμβανε πολυεπίπεδη διαβούλευση με τους συμμετέχοντες, τόσο γραπτώς όσο και δια ζώσης, με στόχο τη διαμόρφωση ενός σώματος συναίνεσης σε τεχνικά ζητήματα υψηλής σημασίας.
Η Συμφωνία εστιάζει αποκλειστικά σε τεχνική έρευνα για την ασφάλεια γενικής χρήσης συστημάτων τεχνητής νοημοσύνης (GPAI), και δεν καλύπτει πολιτικές ρυθμίσεις ή νομικά ζητήματα. Η μεθοδολογία που ακολουθήθηκε στηρίζεται στην αρχή της «πολλαπλής γραμμής άμυνας», δομώντας τις ερευνητικές προτεραιότητες γύρω από τρεις πυλώνες: αξιολόγηση κινδύνου, ανάπτυξη αξιόπιστων συστημάτων και έλεγχο μετά την ανάπτυξη. Στόχος είναι να δημιουργηθεί μια λειτουργική βάση που θα καθοδηγήσει τις περαιτέρω επενδύσεις σε έρευνα και ανάπτυξη (R\&D), ενώ θα ενισχύσει την εμπιστοσύνη του κοινού και τη διαφάνεια στον τρόπο με τον οποίο λειτουργούν και αξιολογούνται τα συστήματα τεχνητής νοημοσύνης.
Στην ενότητα αξιολόγησης κινδύνου, η Συμφωνία προτείνει την ενίσχυση μεθόδων ποσοτικής μέτρησης των επιπτώσεων, την ανάπτυξη υποδομών για ασφαλείς ανεξάρτητους ελέγχους (audit) και τη θέσπιση προτύπων που επιτρέπουν την έγκαιρη ανίχνευση επικίνδυνων συμπεριφορών από τα μοντέλα. Στον τομέα της ανάπτυξης, δίδεται έμφαση στη σχεδίαση μοντέλων που πληρούν προκαθορισμένες προδιαγραφές με υψηλό επίπεδο επαληθευσιμότητας και ερμηνευσιμότητας, καθώς και σε τεχνικές ευθυγράμμισης της συμπεριφοράς των συστημάτων με τις αρχικές προθέσεις των δημιουργών τους. Τέλος, στον τομέα του ελέγχου, αναλύονται τρόποι παρακολούθησης και παρέμβασης σε πραγματικό χρόνο, καθώς και προτάσεις για ενίσχυση της θεσμικής ανθεκτικότητας σε περιβάλλοντα που επηρεάζονται από την ταχεία υιοθέτηση ΤΝ.
Η Συμφωνία αναγνωρίζει ότι, παρότι εταιρείες και κράτη ανταγωνίζονται στον τομέα της τεχνητής νοημοσύνης, υπάρχουν κρίσιμα σημεία όπου η συνεργασία είναι αμοιβαία επωφελής – όπως τα κατώφλια κινδύνου, οι μηχανισμοί επαλήθευσης και τα κοινά πρότυπα ελέγχου. Η αναλογία με την πολιτική ασφάλειας στην αεροπλοΐα είναι χαρακτηριστική: ακόμη και ανταγωνιστικές εταιρείες, όπως η Boeing και η Airbus, συνεργάζονται σε ζητήματα ασφαλείας. Το ίδιο πρότυπο προτείνεται για την ΤΝ, ιδίως καθώς αυξάνονται οι εφαρμογές με δυνητικά σοβαρές επιπτώσεις για την κοινωνία και την οικονομία.
Η Υπουργός Ψηφιακής Ανάπτυξης της Σιγκαπούρης, Josephine Teo, δήλωσε κατά την έναρξη του συνεδρίου ότι «για να ρυθμιστεί αποτελεσματικά η τεχνητή νοημοσύνη, απαιτούνται ισχυροί δίαυλοι επικοινωνίας μεταξύ επιστημόνων και υπευθύνων πολιτικής». Η κυβέρνηση της Σιγκαπούρης, με τη συμβολή της Infocomm Media Development Authority (IMDA) και του AI Verify Foundation, έχει ήδη αναλάβει ενεργό ρόλο στην ανάπτυξη εργαλείων για την αξιολόγηση μοντέλων ΤΝ, συμπεριλαμβανομένων ασκήσεων red-teaming σε πολλαπλές γλώσσες και της έκδοσης πλαισίου διακυβέρνησης για τα γενετικά μοντέλα.
Η παρουσίαση της Συμφωνίας στους Υπουργούς Ψηφιακής Πολιτικής κατά τη σύνοδο Asia Tech x Singapore (ATxSummit), εντός του Μαΐου, αναμένεται να λειτουργήσει ως εφαλτήριο για την ενσωμάτωση τεχνικών ευρημάτων σε πολιτικές στρατηγικές που επιδιώκουν να διασφαλίσουν την καινοτομία χωρίς να υπονομεύεται η ασφάλεια και η κοινωνική συνοχή. Η Σιγκαπούρη, με αυτό το πλαίσιο, επιδιώκει να εδραιώσει τον ρόλο της ως κόμβος υπεύθυνης τεχνολογικής διακυβέρνησης, προσκαλώντας τη διεθνή κοινότητα να συνδιαμορφώσει ένα κοινό μέλλον για την ασφάλεια της τεχνητής νοημοσύνης.
