Οι ερευνητές του Stanford University έδωσαν στη δημοσιότητα μια έκθεση η οποία αναλύει τη διαφάνεια των μοντέλων τεχνητής νοημοσύνης που αναπτύσσονται από εταιρείες όπως η OpenAI και η Google. Οι συγγραφείς της έκθεσης προτρέπουν τις εταιρείες να αποκαλύψουν περισσότερες πληροφορίες, όπως τα δεδομένα και η ανθρώπινη εργασία που χρησιμοποιούνται για την εκπαίδευση των συγκεκριμένων μοντέλων.
«Έχει γίνει σαφές τα τελευταία τρία χρόνια ότι η διαφάνεια μειώνεται, ενώ η ικανότητα περνάει την οροφή», δήλωσε ο καθηγητής του Stanford, Percy Liang, ο ερευνητής πίσω από το Foundation Model Transparency Index. «Το θεωρούμε πολύ προβληματικό αυτό, γιατί φαίνεται σε άλλους τομείς, όπως τα μέσα κοινωνικής δικτύωσης ότι, όταν η διαφάνεια μειώνεται, μπορεί, ως αποτέλεσμα, να συμβούν άσχημα πράγματα».
Τα λεγόμενα μοντέλα θεμελίωσης είναι συστήματα τεχνητής νοημοσύνης που εκπαιδεύονται σε τεράστια σύνολα δεδομένων, έχοντας τη δυνατότητα να εκτελούν μια ποικιλία εργασιών, από τη σύνταξη κειμένων έως τη συγγραφή κώδικα. Οι εταιρείες που αναπτύσσουν τέτοια μοντέλα είναι επικεφαλής του κλάδου της generative AI, η οποία, μετά την κυκλοφορία του ChatGPT του OpenAI, έχει προσελκύσει το ενδιαφέρον πολλών επιχειρήσεων.
Σε έναν κόσμο που βασίζεται όλο και περισσότερο σε αυτά τα μοντέλα για τη λήψη αποφάσεων και την αυτοματοποίηση, η κατανόηση των περιορισμών και των προκαταλήψεών τους είναι ζωτικής σημασίας, όπως τονίζουν χαρακτηριστικά οι συντάκτες της έκθεσης.
Η μελέτη βαθμολόγησε 10 δημοφιλή μοντέλα σε 100 διαφορετικούς δείκτες διαφάνειας, όπως στα δεδομένα που χρησιμοποιούνται για την εκπαίδευση και το πόση υπολογιστική χρήση χρησιμοποιείται. Όλα τα μοντέλα σημείωσαν «μη εντυπωσιακή» βαθμολογία. Ακόμη και το πιο διαφανές μοντέλο, το Llama 2 της Meta, έλαβε βαθμολογία 53 στα 100. Το Titan της Amazon κατέλαβε τη χαμηλότερη θέση, με 11 στα 100. Το GPT-4 της OpenAI έλαβε βαθμολογία 47 στα 100.
Οι συντάκτες του δείκτη ελπίζουν ότι η έκθεση θα ενθαρρύνει τις εταιρείες να αυξήσουν τη διαφάνεια των μοντέλων τους και να χρησιμεύσει ως αφετηρία για τις κυβερνήσεις, που βρίσκονται αντιμέτωπες με το θέμα της ρύθμισης του συγκεκριμένου τομέα.
