Μια σειρά από μεγάλες τεχνολογικές εταιρείες ανακοίνωσαν τη συνεργασία τους για τη δημιουργία ενός νέου βιομηχανικού γκρουπ που στοχεύει στην ασφάλεια των εφαρμογών τεχνητής νοημοσύνης.
Το Coalition for Secure AI (CoSAI) ανακοινώθηκε κατά τη διάρκεια του Aspen Security Forum. Θα λειτουργεί υπό την καθοδήγηση του OASIS, ενός μη κερδοσκοπικού οργανισμού που επιβλέπει την ανάπτυξη δεκάδων έργων λογισμικού ανοιχτού κώδικα. Πολλά από αυτά τα έργα επικεντρώνονται στη διευκόλυνση διαδικασιών γύρω από την κυβερνοασφάλεια, όπως η αυτοματοποίηση των ροών εργασίας κατά την απόκριση σε συμβάντα.
Τα ιδρυτικά μέλη του CoSAI περιλαμβάνουν την OpenAI και την Anthropic, τις δύο AI startups που έχουν λάβει τις σημαντικότερες χρηματοδοτήσεις, καθώς και τις ανταγωνιστικές εταιρείες Cohere και GenLab. Στην αγορά του public cloud, η κοινοπραξία υποστηρίζεται από την Amazon Web Services, τη Microsoft και την Google. Συμμετέχουν, επίσης, οι Nvidia, Intel, IBM, Cisco Systems, PayPal, Wiz και Chainguard.
Ο συνασπισμός ξεκινά με δύο βασικούς στόχους. Ο πρώτος είναι η ανάπτυξη εργαλείων και τεχνικής καθοδήγησης που θα βοηθήσουν τους οργανισμούς να διασφαλίσουν τις εφαρμογές τεχνητής νοημοσύνης. Ο δεύτερος στόχος είναι η δημιουργία ενός οικοσυστήματος όπου οι εταιρείες θα μπορούν να μοιράζονται βέλτιστες πρακτικές και τεχνολογίες που σχετίζονται με την τεχνητή νοημοσύνη.
«Η ίδρυση του CoSAI έχει τις ρίζες της στην αναγκαιότητα εκδημοκρατισμού της γνώσης και των προόδων που είναι απαραίτητες για την ασφαλή ενσωμάτωση και ανάπτυξη της τεχνητής νοημοσύνης», δήλωσε ο David LaBianca, συμπρόεδρος του διοικητικού συμβουλίου του CoSAI. «Με τη βοήθεια του OASIS Open, ανυπομονούμε να συνεχίσουμε αυτή τη δουλειά και τη συνεργασία μεταξύ κορυφαίων εταιρειών, ειδικών και ακαδημαϊκού κόσμου».
Το CoSAI εγκαινιάζει τρεις πρωτοβουλίες ανοιχτού κώδικα για την προώθηση αυτών των στόχων. Κάθε έργο αντιμετωπίζει ένα διαφορετικό υποσύνολο των εργασιών που εμπλέκονται στην ασφάλεια των εφαρμογών AI.
Η πρώτη πρωτοβουλία έχει σχεδιαστεί για να βοηθήσει τις ομάδες λογισμικού να σαρώσουν τα machine learning workloads για κυβερνοκινδύνους. Για το σκοπό αυτό, η κοινοπραξία θα αναπτύξει μια ταξινόμηση κοινών τρωτών σημείων και τρόπους αντιμετώπισής τους. Τα μέλη του CoSAI θα δημιουργήσουν, επίσης, μια κάρτα βαθμολόγησης για την κυβερνοασφάλεια, που θα βοηθά τους developers να παρακολουθούν συστήματα τεχνητής νοημοσύνης για τρωτά σημεία και να αναφέρουν τυχόν ζητήματα.
Η δεύτερη πρωτοβουλία επιδιώκει να διευκολύνει τη διαδικασία μετριασμού των κινδύνων της τεχνητής νοημοσύνης σε σχέση με την κυβερνοασφάλεια. Ο στόχος είναι να απλοποιηθεί η διαδικασία εντοπισμού «επενδύσεων και τεχνικών μετριασμού για την αντιμετώπιση του αντίκτυπου της χρήσης τεχνητής νοημοσύνης στην ασφάλεια», όπως σημείωσαν τα στελέχη της Google για την κυβερνοασφάλεια, Heather Adkins και Phil Venables.
Η τρίτη πρωτοβουλία επικεντρώνεται στην αντιμετώπιση των κινδύνων της αλυσίδας εφοδιασμού λογισμικού. Αυτά είναι τρωτά σημεία που προκαλούνται από στοιχεία λογισμικού που προέρχονται από εξωτερικές πηγές, όπως το GitHub.
Προτού οι developers μπορέσουν να αναλύσουν τα εξωτερικά στοιχεία μιας εφαρμογής AI για τρωτά σημεία, πρέπει να χαρτογραφήσουν ποια εξωτερικά στοιχεία περιλαμβάνει. Αυτό μπορεί να είναι μια χρονοβόρα διαδικασία, σε μεγάλα έργα λογισμικού με σημαντικό αριθμό αρχείων κώδικα. Μία από τις προτεραιότητες του CoSAI θα είναι η διευκόλυνση αυτής της ροής εργασιών.
Παράλληλα, τα μέλη της κοινοπραξίας θα αναπτύξουν τρόπους αντιμετώπισης των κυβερνοκινδύνων που σχετίζονται με μοντέλα τεχνητής νοημοσύνης τρίτων. Πολλά έργα γύρω από το AI βασίζονται σε νευρωνικά δίκτυα από το οικοσύστημα ανοιχτού κώδικα, επειδή η κατασκευή ενός προσαρμοσμένου αλγορίθμου μπορεί να είναι απαγορευτικά δαπανηρή. Θεωρητικά, ένα εξωτερικό νευρωνικό δίκτυο μπορεί να εισάγει τρωτά σημεία σε ένα έργο λογισμικού, που θα μπορούσε να επιτρέψει στους χάκερ να εξαπολύσουν κυβερνοεπιθέσεις.
Το CoSAI σχεδιάζει να ξεκινήσει πρόσθετες πρωτοβουλίες στο μέλλον. Αυτές θα εποπτεύονται από μια τεχνική συντονιστική επιτροπή εμπειρογνωμόνων τεχνητής νοημοσύνης από τον ιδιωτικό τομέα και τον ακαδημαϊκό κόσμο.
