Η εταιρεία τεχνητής νοημοσύνης Anthropic κατηγορεί τρία κινεζικά εργαστήρια για την οργάνωση εκστρατειών βιομηχανικής κλίμακας με στόχο την παράνομη εξαγωγή δυνατοτήτων από το μοντέλο Claude. Τα εργαστήρια DeepSeek, Moonshot AI και MiniMax φέρεται να δημιούργησαν περισσότερους από 24.000 ψεύτικους λογαριασμούς, μέσω των οποίων παρήγαγαν πάνω από 16 εκατομμύρια αλληλεπιδράσεις για τη βελτίωση των δικών τους συστημάτων. Σύμφωνα με την αναφορά της Anthropic, οι επιθέσεις επικεντρώθηκαν στις πλέον εξειδικευμένες λειτουργίες του Claude, όπως η πρακτική συλλογιστική, η χρήση εργαλείων και ο προγραμματισμός, παραβιάζοντας τους όρους παροχής υπηρεσιών.
Η μέθοδος που χρησιμοποιήθηκε από τα εργαστήρια ονομάζεται απόσταξη (distillation), μια τεχνική όπου ένα λιγότερο ικανό μοντέλο εκπαιδεύεται συστηματικά με βάση τις απαντήσεις ενός ισχυρότερου συστήματος. Ενώ η συγκεκριμένη πρακτική είναι συνήθης και νόμιμη για τη δημιουργία μικρότερων εκδόσεων μοντέλων από τις ίδιες τις εταιρείες, η Anthropic επισημαίνει ότι η χρήση της από ανταγωνιστές συνιστά παράνομη απόσπαση δυνατοτήτων και πνευματικής εργασίας. Η διαδικασία αυτή επιτρέπει σε τρίτους να αποκτούν προηγμένες λειτουργίες σε ελάχιστο χρόνο, παρακάμπτοντας το κόστος της αυτόνομης ανάπτυξης τεχνολογίας.
Ανάλυση Των Στόχων Των Κινεζικών Επιθέσεων
Η εταιρεία DeepSeek φέρεται να πραγματοποίησε περισσότερες από 150.000 ανταλλαγές δεδομένων, στοχεύοντας στη βελτίωση της λογικής και της ευθυγράμμισης των μοντέλων της με συγκεκριμένα πρότυπα. Οι ερευνητές της Anthropic εντόπισαν προσπάθειες δημιουργίας εναλλακτικών απαντήσεων σε πολιτικά ευαίσθητα ερωτήματα, προκειμένου να εκπαιδευτεί το μοντέλο της DeepSeek στην αποφυγή λογοκριμένων θεμάτων που αφορούν την Κίνα. Παράλληλα, χρησιμοποιήθηκαν τεχνικές που ανάγκαζαν το Claude να περιγράψει αναλυτικά τα βήματα εσωτερικής σκέψης του, παρέχοντας έτσι πολύτιμα δεδομένα εκπαίδευσης για τη δομή της συλλογιστικής του.
Η Moonshot AI, η οποία αναπτύσσει τα μοντέλα Kimi, συνέδεσε εκατοντάδες λογαριασμούς με περισσότερες από 3,4 εκατομμύρια αλληλεπιδράσεις για την εξαγωγή πληροφοριών. Η δραστηριότητα αυτή επικεντρώθηκε στην ανάπτυξη πρακτόρων υπολογιστικής, στην ανάλυση δεδομένων, στον προγραμματισμό και στην υπολογιστική όραση για την ενίσχυση του μοντέλου Kimi K2.5. Η Anthropic απέδωσε την καμπάνια σε ανώτερα στελέχη της Moonshot μέσω μεταδεδομένων αιτημάτων που ταυτίζονταν με τα δημόσια προφίλ τους, επιβεβαιώνοντας τον συντονισμένο χαρακτήρα της επιχείρησης.
Μεθοδολογία Παράκαμψης Των Γεωγραφικών Περιορισμών
Η MiniMax κατέγραψε τη μεγαλύτερη δραστηριότητα με περισσότερες από 13 εκατομμύρια ανταλλαγές, στοχεύοντας κυρίως στον προγραμματισμό και την ενορχήστρωση εργαλείων υψηλής ακρίβειας. Η Anthropic παρατήρησε ότι η MiniMax αντέδρασε αστραπιαία στην κυκλοφορία ενός νέου μοντέλου Claude, ανακατευθύνοντας το 50% της συνολικής κίνησης των ψεύτικων λογαριασμών της προς το νέο σύστημα. Η αποκάλυψη αυτή έγινε ενώ η καμπάνια ήταν ακόμα ενεργή, επιτρέποντας στους ερευνητές να παρακολουθήσουν ολόκληρο τον κύκλο ζωής της επίθεσης από τη συλλογή δεδομένων έως την προετοιμασία κυκλοφορίας.
Για την παράκαμψη των γεωγραφικών περιορισμών, τα εργαστήρια χρησιμοποίησαν υπηρεσίες μεσολάβησης (proxy services) που λειτουργούν με την αρχιτεκτονική hydra cluster. Αυτά τα δίκτυα διανέμουν την κίνηση σε χιλιάδες λογαριασμούς, καθιστώντας τον εντοπισμό δυσχερή, καθώς η παράνομη δραστηριότητα αναμιγνύεται με νόμιμα αιτήματα ανυποψίαστων πελατών. Η μέθοδος αυτή εξασφαλίζει τη συνεχή παράκαμψη γεωγραφικών περιορισμών, αφού σε περίπτωση αποκλεισμού ενός λογαριασμού, το σύστημα ενεργοποιεί αυτόματα νέους για τη συνέχιση της απόσπασης.
Κίνδυνοι Ασφαλείας Και Έλεγχοι Εξαγωγών
Η Anthropic υποστηρίζει ότι η κλίμακα αυτών των επιθέσεων αποδεικνύει την ανάγκη διατήρησης αυστηρών ελέγχων στις εξαγωγές προηγμένων τσιπ τεχνητής νοημοσύνης προς την Κίνα. Η εκτέλεση τέτοιων μαζικών αποστάξεων απαιτεί σημαντική υπολογιστική ισχύ, την οποία τα κινεζικά εργαστήρια εξασφαλίζουν μέσω προηγμένου εξοπλισμού που υπόκειται σε περιορισμούς. Η εταιρεία τονίζει ότι οι επιθέσεις αυτές υπονομεύουν το ανταγωνιστικό πλεονέκτημα των ΗΠΑ, καθώς επιτρέπουν σε ξένα εργαστήρια να καλύπτουν το τεχνολογικό κενό χρησιμοποιώντας αμερικανική καινοτομία.
Παράλληλα, εκφράζονται σοβαρές ανησυχίες για την εθνική ασφάλεια, καθώς τα μοντέλα που προκύπτουν από παράνομη απόσταξη στερούνται των απαραίτητων δικλείδων ασφαλείας. Η Anthropic επισημαίνει ότι οι περιορισμοί που εμποδίζουν τη χρήση της AI για την ανάπτυξη βιολογικών όπλων ενδέχεται να μην μεταφέρονται στα αποσταγμένα μοντέλα. Αυτό δημιουργεί τον κίνδυνο διάδοσης επικίνδυνων δυνατοτήτων χωρίς προστασία, οι οποίες θα μπορούσαν να χρησιμοποιηθούν από αυταρχικά καθεστώτα για εκστρατείες παραπληροφόρησης και μαζική επιτήρηση πληθυσμών.
