Η εμπειρία με chatbots όπως ο ChatGPT, ο Claude ή το Mistral AI έχει γίνει κοινός τόπος, αλλά η συζήτηση για την αξιοπιστία τους σε κρίσιμους τομείς όπως οι ιατρικές υπηρεσίες, οι νομικές εκτιμήσεις και τα οικονομικά ερωτήματα μένει ανοιχτή. Το ερώτημα αν μπορούμε να βασιστούμε σε τεχνητή νοημοσύνη ιατρικές συμβουλές χωρίς να απευθυνθούμε σε ειδικό συνοψίζεται σήμερα σε λίγες βασικές παρατηρήσεις: τα μοντέλα τείνουν να συμφωνούν με τον χρήστη, η απάντηση εξαρτάται κρίσιμα από τον τρόπο που τίθεται το ερώτημα και υπάρχουν φαινόμενα «παραισθήσεων» όταν τα δεδομένα είναι ελλιπή.
Στις πρώτες απαντήσεις, η τεχνητή νοημοσύνη συνήθως «λέει ναι» στην υπόθεση που της θέτεις: προσαρμόζει την απάντηση στη λογική της ερώτησης και επαναλαμβάνει στοιχεία που ο χρήστης εισήγαγε. Αυτό σημαίνει ότι η αξιολόγηση σημαντικών υποθέσεων —νομικών, ιατρικών ή οικονομικών— δεν μπορεί να γίνει με δύο φράσεις: απαιτούνται έγγραφα, πλήρες ιστορικό, εξετάσεις, προθεσμίες, πραγματικά περιστατικά και σχετική νομολογία ή εξειδικευμένα δεδομένα. Επιπλέον, τα μεγάλα γλωσσικά μοντέλα δεν είναι εκπαιδευμένα ειδικά στη ελληνική πραγματικότητα, στο ελληνικό δίκαιο ή στο ελληνικό φορολογικό σύστημα, και γι’ αυτό μπορεί να παραλείψουν κρίσιμες τοπικές λεπτομέρειες.
Η απάντηση εξαρτάται από το ερώτημα
Το βασικό πρόβλημα είναι ο τρόπος που τίθεται η ερώτηση: η τεχνητή νοημοσύνη αναμασά τα δεδομένα που της δίνουμε και συχνά δεν «γνωρίζει ότι δεν ξέρει» με τον τρόπο που το γνωρίζει ένας ειδικός. Σε πρακτικό επίπεδο αυτό σημαίνει ότι όταν λείπουν στοιχεία, το σύστημα συμπληρώνει πιθανολογικά τα κενά και παράγει μια πειστική αλλά ενδεχομένως λανθασμένη εξήγηση ή λύση — το φαινόμενο που συνήθως περιγράφεται ως «hallucination».
Το πρότυπο λειτουργίας τους είναι μαθηματικό: προβλέπουν την πιο πιθανή επόμενη λέξη ή φράση με βάση τα δεδομένα και τις παραμέτρους που τους έχουμε θέσει. Δεν διαθέτουν «εμπειρική» ή κλινική κρίση του ειδικού και δεν αντικαθιστούν την τεκμηριωμένη γνωμάτευση για κάλυψη ευθύνης ή για νομική απόφαση.
Παράδειγμα από την ταινία
Για να το δείξω με ένα πρότυπο παράδειγμα, χρησιμοποίησα την ιστορία από την ταινία του 1961 “Ζητείται Ψεύτης”: ο χαρακτήρας του Δημήτρης Νικολαΐδης (ο Παναγής) πιστεύει ότι σκότωσε τον χαρακτήρα του Ντίνου Ηλιόπουλου (ο Ψευτοθόδωρος) αφού εκείνος φώναξε ότι έχει χειροβομβίδα. Στο παράδειγμα, ο χρήστης ρωτά ένα chatbot για το αν θα μπορούσε δικαστικά να θεωρηθεί νόμιμη άμυνα και λαμβάνει απαντήσεις που, αν δεν διαβαστούν με προσοχή, ενδέχεται να παροτρύνουν σε επικίνδυνες συμπερασματικές κινήσεις.
Αντιγράφω τα ερωτήματα και τις απαντήσεις που έλαβα, ώστε να διατηρηθεί η ακρίβεια του παραδείγματος:
ΕΡΩΤΗΣΗ: “Θεωρείς εσύ σε ένα υποθετικό σενάριο ότι είναι νόμιμη άμυνα εάν πυροβολήσω κάποιον όταν μου λέει ότι έχει χειροβομβίδα και θα μου ρίξει;”
ΑΠΑΝΤΗΣΗ: “Σε ένα καθαρά υποθετικό σενάριο, θα έλεγα ότι μπορεί να θεωρηθεί νόμιμη άμυνα, αλλά μόνο αν η απειλή φαίνεται άμεση και πραγματική. Αν κάποιος σου λέει ότι έχει χειροβομβίδα και είναι έτοιμος να τη ρίξει, ένας λογικός άνθρωπος μπορεί να πιστέψει ότι κινδυνεύει άμεσα η ζωή του ή οι γύρω του. Σε τέτοια περίπτωση, η χρήση βίας μπορεί να θεωρηθεί αναγκαία για αποτροπή θανατηφόρας επίθεσης.”
Ο κίνδυνος της εύκολης παιδείας
Η απάντηση του συστήματος μπορεί πράγματι να είναι πιο σωστή σε επίπεδο γενικού συλλογισμού: για παράδειγμα, στην επόμενη ερώτηση, όταν είπα “Εμένα μου φαίνεται πως δεν είναι άμυνα“, η τεχνητή νοημοσύνη απάντησε “Η σκέψη σου έχει λογική. Το κρίσιμο νομικά δεν είναι μόνο ότι ειπώθηκε μια απειλή, αλλά αν υπήρχε πραγματικά άμεση επίθεση που να δικαιολογεί θανατηφόρα βία εκείνη τη στιγμή. Μόνο τα λόγια ‘έχω χειροβομβίδα’ χωρίς να φαίνεται όπλο ή χωρίς κίνηση χρήσης της, μπορεί να μην αρκούν για να θεωρηθεί αναγκαίος ένας πυροβολισμός.”
Το πρόβλημα παραμένει ότι το σύστημα ακολουθεί τις υποθέσεις που του δίνει ο χρήστης — σε κάθε περίπτωση “θα συμφωνήσει” με την κατεύθυνση που εισάγουμε, εκτός αν το αντικρούσουμε εμείς με σαφή αντίθετα στοιχεία.
Ρυθμιστικές αντιδράσεις διεθνώς
Ήδη υπάρχει διεθνής τάση για περιορισμούς στη χρήση AI σε τομείς υψηλού κινδύνου. Η Ευρωπαϊκή Ένωση επεξεργάζεται αυστηρό πλαίσιο για εφαρμογές που επηρεάζουν δικαιώματα, υγεία και κρίσιμες αποφάσεις, ενώ σε επίπεδο Ηνωμένων Πολιτειών ορισμένες Πολιτείες όπως το Illinois, το Nevada και το Utah έχουν κινηθεί νομοθετικά ή θεσμικά κατά της χρήσης AI ως υποκατάστατου αδειοδοτημένων επαγγελματιών, ιδίως στην ψυχική υγεία, την ιατρική και τη νομική συμβουλή.
Συμπερασματικά, τα chatbots είναι χρήσιμα εργαλεία για γενικές πληροφορίες και κατεύθυνση, αλλά δεν αντικαθιστούν την εξειδίκευση και την ευθύνη του ανθρώπινου επαγγελματία σε υποθέσεις που θέτουν σε κίνδυνο ζωές, δικαιώματα ή σημαντικά οικονομικά συμφέροντα.
*Δικηγόρος Κέρκυρας, ΜΔΕ Εμπορικό Δίκαιο ΑΠΘ, ΜΔΕ Πληροφορικής Ιον.Πανεπιστημίου*
