Η Anthropic ανακοίνωσε ότι θα προσθέσει άλλους 150 νέους συνεργάτες σε πάνω από 15 χώρες που θα λάβουν πρόσβαση στο ισχυρό μοντέλο τεχνητής νοημοσύνης Mythos, το οποίο έχει αποδειχθεί ιδιαίτερα ικανό στον εντοπισμό τρωτών σημείων σε λογισμικό. Η κίνηση αποτελεί μέρος της επέκτασης του προγράμματος Project Glasswing και στοχεύει σε οργανισμούς κρίσιμων υποδομών και τεχνολογίας.
Στην ανακοίνωσή της, η εταιρεία τόνισε ότι η νέα φάση της επέκτασης απευθύνεται σε κλάδους που δεν είχαν εκπροσωπηθεί επαρκώς στο αρχικό κύμα συνεργατών, ενώ οι νέες εταιρείες θα πρέπει να πληρούν αυστηρά πρότυπα ασφαλείας προτού αποκτήσουν πρόσβαση στο μοντέλο. Το σχέδιο αποσκοπεί στο να βελτιώσει την ανίχνευση ευπαθειών και την ασφάλεια του λογισμικού σε ευρύτερο φάσμα τομέων.
“Αυτή η επέκταση αποτελεί το επόμενο βήμα προς την επίτευξη των μακροπρόθεσμων στόχων μας: να καταστήσει η τεχνητή νοημοσύνη όλο το λογισμικό πιο ασφαλές και να βοηθήσουμε τον κλάδο να προσαρμοστεί στον τρόπο με τον οποίο η τεχνητή νοημοσύνη θα μπορούσε να αλλάξει πολλές από τις βασικές παραδοχές της κυβερνοασφάλειας”, ανέφερε η εταιρεία.
Πού επεκτείνεται το πρόγραμμα
Σύμφωνα με την ενημέρωση που μετέδωσε το CNBC, το δεύτερο κύμα συνεργασιών περιλαμβάνει οργανισμούς από τους κλάδους της ενέργειας, της ύδρευσης, της υγειονομικής περίθαλψης, των επικοινωνιών και του hardware. Η επιλογή αυτών των τομέων αντανακλά την πρόθεση της Anthropic να δοκιμάσει και να αναπτύξει την τεχνολογία της σε περιβάλλοντα όπου τα κενά ασφάλειας έχουν μεγαλύτερη επίπτωση στην κοινωνία.
Οι οργανισμοί που θα ενταχθούν θα περάσουν από αξιολόγηση ασφαλείας και συμμόρφωσης πριν λάβουν πρόσβαση στο Mythos, μια προϋπόθεση που η εταιρεία παρουσιάζει ως βασικό στοιχείο της στρατηγικής της για υπεύθυνη διάθεση της τεχνητής νοημοσύνης.
Η ανακοίνωση της επέκτασης έγινε μία ημέρα μετά την ενημέρωση ότι το Mythos θα αρχίσει να παρέχεται και στην Ευρωπαϊκή Ένωση, διευρύνοντας γεωγραφικά το πεδίο δοκιμών και εφαρμογών του μοντέλου.
Ιστορικό και ανησυχίες
Τον Απρίλιο, η Anthropic ξεκίνησε την αρχική δοκιμή του Mythos με 50 συνεργάτες, ένα πείραμα που συνοδεύτηκε από ανησυχίες για τις προηγμένες δυνατότητες του μοντέλου στην ανεύρεση και εκμετάλλευση ευπαθειών. Οι επικριτές επισήμαναν ότι εργαλεία με τέτοια ισχύ μπορούν να χρησιμοποιηθούν τόσο για την προστασία όσο και για την επίθεση.
Ειδικοί στον χώρο της κυβερνοασφάλειας εξέφρασαν προβληματισμό ότι χάκερ θα μπορούσαν να αξιοποιήσουν το Mythos για να εντοπίζουν ταχύτερα ευάλωτα σημεία σε λογισμικό, επιταχύνοντας έτσι την έκταση μιας πιθανής επίθεσης.
Καθώς οι ανησυχίες κλιμακώνονταν, ο Λευκός Οίκος διεξήγαγε σειρά συναντήσεων με ηγέτες της τεχνολογίας και τραπεζικούς φορείς για να εξετάσουν τρόπους ασφαλούς ανάπτυξης προηγμένων μοντέλων τεχνητής νοημοσύνης στην εποχή του Mythos.
Αποτελέσματα και εκτιμήσεις
Από την έναρξη του προγράμματος, η Anthropic αναφέρει ότι οι συμμετέχοντες του Project Glasswing έχουν εντοπίσει πάνω από 10.000 σοβαρά ή κρίσιμα κενά ασφαλείας, στοιχείο που υπογραμμίζει την αποτελεσματικότητα του μοντέλου στην ανίχνευση ευπαθειών.
Η εταιρεία προειδοποιεί επίσης ότι μια μεγάλη κυβερνοεπίθεση θα μπορούσε να επηρεάσει περισσότερους από 100 εκατομμύρια ανθρώπους, δείχνοντας πόσο κρίσιμη είναι η προστασία των συστημάτων και των υποδομών που θα αξιοποιούν τέτοια εργαλεία.
Μεταξύ των βασικών συνεργατών του Project Glasswing βρίσκονται οι Apple, Nvidia, Microsoft, CrowdStrike και Palo Alto Networks. Η Anthropic σημειώνει ότι δεν έχει δημοσιοποιήσει τις νέες εταιρείες που εντάχθηκαν στην πρωτοβουλία, διατηρώντας ελεγχόμενο ρυθμό επέκτασης.
Τι ακολουθεί
Η σταδιακή διεύρυνση του κύκλου συνεργατών δείχνει ότι η Anthropic επιδιώκει να δοκιμάσει το Mythos σε ποικίλα περιβάλλοντα και να ενσωματώσει τα συμπεράσματα για την ασφάλεια σε ευρύτερη κλίμακα. Η επιτυχία ή τα προβλήματα που θα προκύψουν θα καθορίσουν το επόμενο κεφάλαιο για την υπεύθυνη χρήση ισχυρών μοντέλων τεχνητής νοημοσύνης.
Το focus στην αξιολόγηση ασφαλείας των νέων συνεργατών και η ευρωπαϊκή επέκταση αναμένεται να είναι κρίσιμα στοιχεία για την αποδοχή και την εμπιστοσύνη στην τεχνολογία, ενώ το θέμα παρακολουθείται στενά από φορείς, εταιρείες και ρυθμιστικές αρχές.
Η επεκταση Mythos παραμένει στο επίκεντρο της συζήτησης γύρω από το πώς οι εταιρείες θα χρησιμοποιήσουν την τεχνητή νοημοσύνη για να ενισχύσουν την ασφάλεια χωρίς να αυξήσουν τους κινδύνους κακόβουλης χρήσης.
