Σύνταξη – επιμέλεια: Στέλιος Βασιλούδης
Τις τελευταίες εβδομάδες ο κόσμος της τεχνητής νοημοσύνης έχει ταραχθεί μετά τους ισχυρισμούς της Anthropic για το νέο της μοντέλο, Claude Mythos. Η εταιρεία υποστηρίζει ότι το εργαλείο μπορεί να ξεπεράσει τους ανθρώπους σε ορισμένες εργασίες hacking και κυβερνοασφάλειας, προκαλώντας ανησυχίες σε ρυθμιστικές αρχές, νομοθέτες και χρηματοπιστωτικά ιδρύματα για τους κινδύνους που θα μπορούσε να θέσει στις ψηφιακές υπηρεσίες.
Πολλοί τεχνολογικοί όμιλοι έχουν αποκτήσει πρόσβαση στο Mythos μέσω μιας πρωτοβουλίας που ονομάζεται Project Glasswing, η οποία σχεδιάστηκε για να ενισχύσει την ανθεκτικότητα απέναντι στο ίδιο το Mythos. Ταυτόχρονα, κάποιοι επισημαίνουν ότι η Anthropic έχει κίνητρο να παρουσιάσει το εργαλείο ως κάτι μοναδικό — κι όπως συμβαίνει συχνά με την τεχνητή νοημοσύνη, η λεπτή γραμμή ανάμεσα σε δικαιολογημένους ισχυρισμούς και σε διαφημιστική υπερβολή μπορεί να μην είναι εύκολα διακριτή.
Τι είναι το Mythos;
Το Mythos είναι ένα από τα πιο πρόσφατα μοντέλα της Anthropic, που αναπτύχθηκε ως μέρος του ευρύτερου συστήματος τεχνητής νοημοσύνης της εταιρείας, γνωστού ως Claude. Η οικογένεια μοντέλων στοχεύει να ανταγωνιστεί εργαλεία όπως το ChatGPT της OpenAI και το Gemini της Google. Η Anthropic αποκάλυψε το μοντέλο στις αρχές Απριλίου ως Mythos Preview.
Ερευνητικές «κόκκινες ομάδες», που εξειδικεύονται στο πώς τα μοντέλα αντιδρούν σε συγκεκριμένα αιτήματα ή εργασίες, ανέφεραν σε έκθεσή τους ότι το Mythos ήταν «εντυπωσιακά ικανό σε εργασίες ασφάλειας υπολογιστών». Σύμφωνα με την έκθεση, το εργαλείο μπορούσε να ανιχνεύσει αδρανή σφάλματα σε κώδικα δεκαετιών και να τα εκμεταλλευτεί με σχετική ευκολία.
Αντί να το διαθέσει ευρέως, η Anthropic έδωσε πρόσβαση σε 12 εταιρείες μέσω του Project Glasswing, το οποίο περιγράφει ως «μια προσπάθεια να ασφαλιστεί το πιο κρίσιμο λογισμικό στον κόσμο». Στους εταίρους περιλαμβάνονται μεταξύ άλλων η Amazon Web Services, η Apple, η Microsoft, η Google, η Nvidia και η Broadcom.
Project Glasswing και εταίροι
Μεταξύ των συνεργατών βρίσκεται και η Crowdstrike, της οποίας μια ελαττωματική ενημέρωση λογισμικού προκάλεσε μεγάλη παγκόσμια διακοπή τον Ιούλιο του 2024. Η Anthropic αναφέρει επίσης πως έχει δώσει πρόσβαση στο Mythos σε περισσότερους από 40 οργανισμούς που διαχειρίζονται κρίσιμο λογισμικό.
Σε βίντεο που συνοδεύει το Project Glasswing, ο επικεφαλής της Anthropic, Dario Amodei, είπε ότι έχει προτείνει συνεργασία με αξιωματούχους της κυβέρνησης των ΗΠΑ για να «βοηθήσει στην άμυνα ενάντια στον κίνδυνο αυτών των μοντέλων».
Επιπτώσεις και ανησυχίες
Η Anthropic υποστήριξε ότι κατά τις δοκιμές το μοντέλο ήταν εξαιρετικά επιδέξιο σε εργασίες κυβερνοασφάλειας και hacking, ξεπερνώντας ανθρώπους. «Το Mythos Preview έχει ήδη εντοπίσει χιλιάδες ευπάθειες υψηλής σοβαρότητας, συμπεριλαμβανομένων ορισμένων σε κάθε σημαντικό λειτουργικό σύστημα και πρόγραμμα περιήγησης ιστού», ανέφερε η εταιρεία στις 7 Απριλίου.
Η εταιρεία πρόσθεσε ότι το Mythos μπορούσε —χωρίς ιδιαίτερη εποπτεία— να εντοπίσει κρίσιμα σφάλματα που χρειάζονται άμεση διόρθωση σε παλιά συστήματα, αναφέροντας ως παράδειγμα μια ευπάθεια που υπήρχε σε ένα σύστημα για 27 χρόνια, και να προτείνει τρόπους αξιοποίησής της. Η ανακοίνωση αυτή ανησύχησε υπουργούς Οικονομικών, κεντρικούς τραπεζίτες και χρηματοδότες, οι οποίοι φοβούνται πως το μοντέλο μπορεί να υπονομεύσει την ασφάλεια των χρηματοπιστωτικών συστημάτων.
Ο Καναδός υπουργός Οικονομικών, Francois – Philippe Champagne, είπε στο BBC ότι το ζήτημα «Mythos» συζητήθηκε σε σύσκεψη του ΔΝΤ στην Ουάσινγκτον και ότι είναι «αρκετά σοβαρό για να δικαιολογήσει την προσοχή όλων των υπουργών Οικονομικών», χαρακτηρίζοντας την τεχνολογία ως «άγνωστο άγνωστο». Ο επικεφαλής της Τράπεζας της Αγγλίας, Andrew Bailey, δήλωσε επίσης ότι «πρέπει να εξετάσουμε πολύ προσεκτικά τι θα μπορούσε να σημαίνει αυτή η τελευταία εξέλιξη της τεχνητής νοημοσύνης για τον κίνδυνο κυβερνοεγκλήματος». Η ΕΕ έχει δηλώσει ότι βρίσκεται σε συζητήσεις με την Anthropic για τις ανησυχίες της σχετικά με το Mythos.
Απόψεις ειδικών στον κυβερνοχώρο
Ο Ciaran Martin, πρώην επικεφαλής του NSCS του Ηνωμένου Βασιλείου, δήλωσε στο BBC πως ο ισχυρισμός ότι το Mythos μπορεί να αποκαλύψει κρίσιμα τρωτά σημεία πολύ πιο γρήγορα από άλλα μοντέλα «πραγματικά συγκίνησε τους ανθρώπους». Πρόσθεσε ότι ακόμη και με τις υπάρχουσες αδυναμίες που είναι γνωστές αλλά δεν έχουν διορθωθεί, πολλοί οργανισμοί μπορεί να μην είναι επαρκώς προστατευμένοι: «Είναι απλά ένας πολύ καλός χάκερ», είπε.
Πολλοί ανεξάρτητοι αναλυτές και ειδικοί στην κυβερνοασφάλεια δεν έχουν ακόμα καταφέρει να δοκιμάσουν το Mythos οι ίδιοι και κάποιοι παραμένουν επιφυλακτικοί για την απόδοσή του. Το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου κατέληξε ότι, παρότι πρόκειται για ένα πολύ ισχυρό μοντέλο, η μεγαλύτερη απειλή του θα είναι τα κακώς προστατευμένα συστήματα.
«Δεν μπορούμε να πούμε με βεβαιότητα εάν το Mythos θα μπορούσε να επιτεθεί σε καλά προστατευμένα συστήματα», ανέφεραν οι ερευνητές. Έτσι, όπου υπάρχει καλή κυβερνοασφάλεια, θεωρητικά το μοντέλο μπορεί να περιοριστεί.
Πρέπει να ανησυχούμε;
Οι φόβοι για την τεχνητή νοημοσύνη δεν είναι νέο φαινόμενο. Νέα μοντέλα και εργαλεία κυκλοφορούν συνεχώς και συχνά συνοδεύονται από υποσχέσεις για ριζικές αλλαγές στη ζωή μας, προς το καλύτερο ή το χειρότερο. Η ανάμειξη φόβου και ενθουσιασμού έχει γίνει κομμάτι της στρατηγικής προώθησης στον κλάδο.
Σύμφωνα με το NSCS, το πιο σημαντικό τώρα είναι να μην πανικοβληθούμε αλλά να εστιάσουμε στην εφαρμογή των βασικών μέτρων κυβερνοασφάλειας. Οι περισσότεροι χάκερ δεν χρειάζονται υπερ-εργαλεία τεχνητής νοημοσύνης για να παραβιάσουν συστήματα, καθώς συχνά αρκούν πολύ απλούστερες επιθέσεις. «Για κάποιους αυτό είναι ένα γεγονός Αποκάλυψης, για άλλους φαίνεται να είναι πολύ διαφημιστικό», είπε ο Ciaran Martin.
Ο ίδιος σημείωσε ότι είτε πρόκειται για το Mythos είτε για μελλοντικά εργαλεία της Anthropic ή ανταγωνιστών, παρά τον κίνδυνο υπάρχει και η ευκαιρία να δημιουργηθεί ένας ασφαλέστερος διαδικτυακός κόσμος. «Μεσοπρόθεσμα, υπάρχει η ευκαιρία να χρησιμοποιηθούν αυτά τα εργαλεία για να διορθωθούν πολλά από τα υποκείμενα τρωτά σημεία στο διαδίκτυο», κατέληξε.
BBC News
