Του Κώστα Τσερμενίδη*
Η διαχείριση κινδύνων ΤΝ χρειάζεται νέα εργαλεία: η τεχνητή νοημοσύνη προσφέρει τεράστια οφέλη στην ανάλυση, την παραγωγή προβλέψεων και την αυτοματοποίηση, αλλά δημιουργεί επίσης ανάγκη για ισχυρό έλεγχο, τεκμηρίωση και απόδοση ευθυνών. Η πρόκληση δεν είναι πλέον μόνο η εκτίμηση πιθανοτήτων και επιπτώσεων, αλλά και η ικανότητα να αιτιολογήσουμε και να επαληθεύσουμε συστήματα των οποίων οι εσωτερικές διεργασίες δεν είναι πάντοτε πλήρως ερμηνεύσιμες.
Στις επιχειρήσεις και τους οργανισμούς, η διαχείριση κινδύνων καλείται να συνδυάσει συμμόρφωση, ελέγχους και διαδικασίες λογοδοσίας, αξιολογώντας την αποτελεσματικότητα μαζί με την δυνατότητα ελέγχου, τεκμηρίωσης και ανάκλησης αποφάσεων που στηρίζονται σε ΤΝ.
Βασική σύνοψη και πρόκληση
Οι πρόσφατες προόδους στην ΤΝ δεν οφείλονται κυρίως σε νέα θεωρητικά εργαλεία αλλά στην έκρηξη της υπολογιστικής ισχύος και στην αφθονία δεδομένων, που επέτρεψε την εκτεταμένη παραμετροποίηση μεγάλων γλωσσικών συστημάτων. Αυτό δημιούργησε μοντέλα που παράγουν αξιόπιστα αποτελέσματα χωρίς να βασίζονται σε απλή θεωρητική ερμηνεία.
Τα συστήματα αυτά συχνά αναδεικνύουν εμπειρικές συσχετίσεις και παραγωγικές λειτουργίες που δεν αντιστοιχούν άμεσα σε αιτιώδεις αλυσίδες κατανοητές από τον μέσο χρήστη. Έτσι, μετατοπίζεται το βάρος από την ανθρώπινη κατανόηση στην μηχανική ικανότητα επεξεργασίας μεγάλων όγκων πληροφοριών.
Η τάση αυτή είχε ξεκινήσει με το κύμα των big data και του machine learning, όπου η πρακτική αποτελεσματικότητα συχνά υπερκάλυπτε τις παραδοσιακές μεθόδους υπόθεσης-ελέγχου-ερμηνείας.
Τεχνικές ρίζες της αλλαγής
Τα σύγχρονα μοντέλα δεν είναι απαραίτητα ακατανόητα ως μαθηματικές κατασκευές, αλλά αποτελούνται από τεράστιο αριθμό παραμέτρων, πράγμα που δυσχεραίνει την πλήρη αναπαράσταση της εσωτερικής τους λογικής με τρόπο που να είναι επικοινωνήσιμος και αιτιολογήσιμος χωρίς πρόσθετο κόστος.
Επιπλέον, ο ρόλος της ΤΝ διευρύνεται: πέρα από ταξινομήσεις και προβλέψεις, εμπλέκεται στη λήψη αποφάσεων, στη διαμόρφωση σεναρίων και στην υποστήριξη στρατηγικής, απαιτώντας όχι μόνο αξιολόγηση αποτελεσματικότητας αλλά και πλαίσια ελέγχου, τεκμηρίωσης και διορθωτικών ενεργειών.
Κατά συνέπεια, το κριτήριο αξιολόγησης μετακινείται από την εξήγηση στην επικύρωση: η γνώση τείνει να αντικατασταθεί από την εμπιστοσύνη στο αποτέλεσμα, και η διαχείριση κινδύνων πρέπει να κρίνει συστήματα αποτελεσματικά αλλά όχι απαραίτητα ανασυνθέσιμα.
Περιορισμοί εποπτείας και εργαλεία
Παρά την ανησυχία, δεν ισχύει ότι η ΤΝ είναι πλήρως ανεξέλεγκτη. Οι ειδικοί γνωρίζουν αρχιτεκτονικές, διαδικασίες εκπαίδευσης και εργαλεία monitoring. Σε επιχειρησιακές εφαρμογές, τα LLMs σπάνια λειτουργούν απομονωμένα· συνδυάζονται με RAGs, agents, workflows, APIs, logging και ανθρώπινη επόπτευση.
Το κρίσιμο όμως είναι πως ο έλεγχος μετατοπίζεται από την αιτιώδη κατανόηση σε έναν διαδικαστικό a posteriori έλεγχο. Πλαίσια όπως το AI Act, το Explainable και το Interpretable AI βελτιώνουν τη διαφάνεια αλλά δεν εξασφαλίζουν πάντα πλήρη αναπαραγωγή της εσωτερικής αιτιότητας στον τελικό χρήστη.
Αυτό δημιουργεί ένα πεδίο όπου η λειτουργία της διαχείρισης κινδύνων αλλάζει ριζικά: ο έλεγχος γίνεται περισσότερο διαδικαστικός και λιγότερο αιτιολογικός.
Ο ρόλος των οργανισμών σήμερα
Οι περισσότεροι οργανισμοί δεν αναπτύσσουν foundation models αντίστοιχα των GPT, Claude ή Gemini in-house. Είναι κατά κανόνα καταναλωτές τέτοιων τεχνολογιών και χτίζουν περιφερειακά συστήματα, governance frameworks, evaluation procedures, model-risk controls και security layers γύρω από ιδιόκτητα μοντέλα τρίτων.
Έτσι ελέγχουν το επιχειρησιακό περίβλημα της εφαρμογής, αλλά σπάνια έχουν τη δυνατότητα να ανασυνθέσουν με ανθρώπινη, αιτιώδη μορφή κάθε απόκριση του μοντέλου. Το πρόβλημα δεν είναι πάντα έλλειψη τεχνικής γνώσης αλλά πόροι, χρόνος και δομή.
Η πολυεπίπεδη αλυσίδα ευθύνης —πάροχος μοντέλου, οργανισμός, εφαρμογές, χρήστες και διοίκηση— απαιτεί αυξημένους πόρους για αποσαφήνιση και λογοδοσία.
Επιπτώσεις στην αυτονομία
Η ΤΝ επηρεάζει όχι μόνο τεχνικά ζητήματα αλλά και την ανθρώπινη αυτονομία: καθώς οι αποφάσεις συχνά γίνονται αποδεκτές λόγω γλωσσικής συγγένειας και πρακτικής χρησιμότητας, η ανάγκη για πλήρη αιτιολόγηση υποχωρεί. Η επιλογή της αποτελεσματικότητας μπορεί να μεταφέρει μέρος της κατανόησης σε μηχανισμούς μη προσβάσιμους στην ανθρώπινη νόηση.
Αυτό σημαίνει διπλή παραχώρηση εμπιστοσύνης —στο πώς γίνονται τα πράγματα και στο ποια πράγματα επιλέγονται— και διευρύνει τον ρόλο της διαχείρισης κινδύνων πέρα από τα τεχνικά σφάλματα σε ζητήματα νόησης και ηθικής συμβατότητας.
Συμπερασματικά, όσο περισσότερο αντικαθιστούμε την κατανόηση με την εμπιστοσύνη στα αποτελέσματα, τόσο απομακρυνόμαστε από την έννοια του “informed decision”, με συνέπειες στην εποπτεία, την ευθύνη και την ικανότητα του ανθρώπου να διαμορφώνει το μέλλον του.
*Οικονομολόγος, PhD, PRM
