Σύνταξη – επιμέλεια: Στέλιος Βασιλούδης
Τις τελευταίες εβδομάδες ο κόσμος της τεχνητής νοημοσύνης έχει αναστατωθεί από τους ισχυρισμούς της Anthropic για το νέο της μοντέλο, Claude Mythos. Η εταιρεία υποστηρίζει ότι το εργαλείο μπορεί να ξεπεράσει τους ανθρώπους σε ορισμένες εργασίες hacking και κυβερνοασφάλειας, κάτι που έχει προκαλέσει συζητήσεις σε ρυθμιστικές αρχές, νομοθέτες και χρηματοπιστωτικά ιδρύματα για τους κινδύνους στις ψηφιακές υπηρεσίες.
Μια ομάδα μεγάλων τεχνολογικών ονομάτων απέκτησε πρόσβαση στο Mythos μέσω μιας πρωτοβουλίας που ονομάζεται Project Glasswing, με στόχο την ενίσχυση της ανθεκτικότητας του ίδιου του μοντέλου. Ωστόσο, κάποιοι επισημαίνουν ότι η Anthropic έχει συμφέρον να παρουσιάσει τα χαρακτηριστικά του Mythos ως κάτι πρωτοφανές, και πως η γραμμή μεταξύ δικαιολογημένων ισχυρισμών και μάρκετινγκ μπορεί να είναι δυσδιάκριτη.
Οι ερωτήσεις για το κατά πόσο οι φόβοι είναι βάσιμοι έχουν φέρει το θέμα στο προσκήνιο πολιτικών και ιδιωτικών φορέων, με συζητήσεις που εκτείνονται από την ασφάλεια λογισμικού μέχρι την προστασία των χρηματοπιστωτικών υποδομών.
Τι ακριβώς είναι το Mythos
Το Mythos αποτελεί ένα από τα νεότερα μοντέλα της Anthropic και αναπτύχθηκε ως μέρος του ευρύτερου συστήματος τεχνητής νοημοσύνης της εταιρείας, Claude. Η οικογένεια μοντέλων στοχεύει στον ανταγωνισμό με εργαλεία όπως το ChatGPT της OpenAI και το Gemini της Google. Η Anthropic αποκάλυψε το μοντέλο στις αρχές Απριλίου ως «Mythos Preview».
Ομάδες ελεγκτών ασφαλείας, γνωστές ως «κόκκινες ομάδες», ανέφεραν σε έκθεση ότι το Mythos ήταν «εντυπωσιακά ικανό σε εργασίες ασφάλειας υπολογιστών». Σύμφωνα με τις δοκιμές, το μοντέλο εντόπιζε αδρανή σφάλματα που υπήρχαν σε κώδικα δεκαετιών και μπορούσε να προτείνει τρόπους αξιοποίησής τους.
Αντί για ευρεία κυκλοφορία, η Anthropic έδωσε πρόσβαση σε 12 εταιρείες μέσω του Project Glasswing, που περιγράφεται ως «μια προσπάθεια να ασφαλιστεί το πιο κρίσιμο λογισμικό στον κόσμο». Ανάμεσα στους εταίρους είναι οι Amazon Web Services, Apple, Microsoft, Google, Nvidia και Broadcom.
Συνεργασίες και περιορισμένη πρόσβαση
Στην πρωτοβουλία περιλαμβάνεται επίσης η Crowdstrike, της οποίας μια προβληματική ενημέρωση λογισμικού προκάλεσε μεγάλη παγκόσμια διακοπή τον Ιούλιο του 2024. Η Anthropic αναφέρει ότι έχει παράσχει επίσης πρόσβαση στο Mythos σε πάνω από 40 οργανισμούς που διαχειρίζονται κρίσιμο λογισμικό.
Σε ένα βίντεο που συνοδεύει το Project Glasswing, ο επικεφαλής της Anthropic, Dario Amodei, είπε ότι προσφέρθηκε να συνεργαστεί με αξιωματούχους της κυβέρνησης των ΗΠΑ για να «βοηθήσει στην άμυνα ενάντια στον κίνδυνο αυτών των μοντέλων».
Γιατί εγείρονται ανησυχίες
Η Anthropic ανέφερε ότι, κατά τη διάρκεια των δοκιμών, το μοντέλο έδειξε εξαιρετική δεξιότητα σε εργασίες κυβερνοασφάλειας και hacking, ξεπερνώντας ανθρώπους. Όπως ανέφερε η εταιρεία στις 7 Απριλίου: «Το Mythos Preview έχει ήδη εντοπίσει χιλιάδες ευπάθειες υψηλής σοβαρότητας, συμπεριλαμβανομένων ορισμένων σε κάθε σημαντικό λειτουργικό σύστημα και πρόγραμμα περιήγησης ιστού».
Η εταιρεία υποστήριξε ότι το Mythos μπορούσε —χωρίς ιδιαίτερη εποπτεία— να εντοπίσει κρίσιμα σφάλματα σε παλιά συστήματα, συμπεριλαμβανομένης μιας ευπάθειας που υπήρχε σε ένα σύστημα για 27 χρόνια, και να προτείνει τρόπους εκμετάλλευσης τους. Αυτό προκάλεσε ανησυχίες από υπουργούς Οικονομικών, κεντρικούς τραπεζίτες και χρηματοδότες που φοβούνται για την ασφάλεια των χρηματοπιστωτικών συστημάτων.
Ο Francois – Philippe Champagne, υπουργός Οικονομικών του Καναδά, δήλωσε στο BBC ότι το θέμα «Mythos» συζητήθηκε σε συνεδρίαση του ΔΝΤ στην Ουάσινγκτον, προσθέτοντας: «Σίγουρα είναι αρκετά σοβαρό για να δικαιολογήσει την προσοχή όλων των υπουργών Οικονομικών», χαρακτηρίζοντας την τεχνολογία «άγνωστο άγνωστο». Ο επικεφαλής της Τράπεζας της Αγγλίας, Andrew Bailey, τόνισε ότι «πρέπει να εξετάσουμε πολύ προσεκτικά τώρα τι θα μπορούσε να σημαίνει αυτή η τελευταία εξέλιξη της τεχνητής νοημοσύνης για τον κίνδυνο κυβερνοεγκλήματος». Παράλληλα, η ΕΕ έχει δηλώσει ότι βρίσκεται σε συνομιλίες με την Anthropic σχετικά με τις ανησυχίες της για το Mythos.
Τι λένε οι ειδικοί στον χώρο της κυβερνοασφάλειας
Ο Ciaran Martin, πρώην επικεφαλής του NSCS του Ηνωμένου Βασιλείου, σχολίασε στο BBC ότι ο ισχυρισμός πως το Mythos μπορεί να αποκαλύψει κρίσιμα τρωτά σημεία πολύ πιο γρήγορα από άλλα μοντέλα «πραγματικά συγκίνησε τους ανθρώπους». Πρόσθεσε: «Είναι απλά ένας πολύ καλός χάκερ».
Πολλοί ανεξάρτητοι αναλυτές και ειδικοί δεν έχουν ακόμη αποκτήσει τη δυνατότητα να δοκιμάσουν το μοντέλο προσωπικά και παραμένουν επιφυλακτικοί για την απόδοσή του. Το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου κατέληξε πρόσφατα ότι, ενώ το Mythos είναι πολύ ισχυρό, η μεγαλύτερη απειλή του είναι τα κακώς προστατευμένα και ευάλωτα συστήματα.
Οι ερευνητές επισήμαναν: «Δεν μπορούμε να πούμε με βεβαιότητα εάν το Mythos θα μπορούσε να επιτεθεί σε καλά προστατευμένα συστήματα». Συνεπώς, όπου υπάρχει ισχυρή κυβερνοασφάλεια, το μοντέλο —θεωρητικά— αναχαιτίζεται.
Πρέπει να ανησυχούμε;
Οι φόβοι για την τεχνητή νοημοσύνη δεν είναι καινούργιο φαινόμενο. Νέα εργαλεία παρουσιάζονται διαρκώς και συχνά συνοδεύονται από υποσχέσεις για θετικές ή αρνητικές αλλαγές στην καθημερινότητά μας. Το μείγμα φόβου και ενθουσιασμού έχει γίνει επίσης τμήμα της στρατηγικής του τομέα στο μάρκετινγκ.
Το NSCS συστήνει να μην υπάρξει πανικός αλλά να δοθεί έμφαση στην τήρηση των βασικών μέτρων κυβερνοασφάλειας — σημειώνοντας πως οι περισσότεροι χάκερ δεν χρειάζονται υπερ-εργαλεία AI για να παραβιάσουν συστήματα, καθώς συχνά αρκούν απλούστερες επιθέσεις. Όπως είπε ο Ciaran Martin: «Για κάποιους αυτό είναι ένα γεγονός Αποκάλυψη, για άλλους φαίνεται να είναι πολύ διαφημιστικό».
Παρά τον κίνδυνο, ο ίδιος επισήμανε ότι υπάρχει και ευκαιρία: αυτά τα εργαλεία μπορεί να χρησιμοποιηθούν για να εντοπιστούν και να διορθωθούν πολλά από τα υποκείμενα τρωτά σημεία στο διαδίκτυο. «Μεσοπρόθεσμα, υπάρχει η ευκαιρία να χρησιμοποιηθούν αυτά τα εργαλεία για να διορθωθούν πολλά από τα υποκείμενα τρωτά σημεία στο διαδίκτυο», κατέληξε.
BBC News
