Παυλόπουλος στην διάλεξη για «Τεχνητή Νοημοσύνη και Απονομή Δικαιοσύνης» προειδοποίησε ότι η τεχνητή νοημοσύνη δεν μπορεί να υποκαταστήσει τον δικαστή, κατά την ομιλία του στο πλαίσιο των εκδηλώσεων για τα 100 χρόνια της Ακαδημίας Αθηνών στο Μέγαρο Μουσικής. Ο πρώην Πρόεδρος της Δημοκρατίας, ακαδημαϊκός και επίτιμος καθηγητής της Νομικής Σχολής του Πανεπιστημίου Αθηνών, τόνισε ήδη εξ αρχής την αναντιστοιχία ανάμεσα σε Νοημοσύνη και Συνείδηση.
Στον αρχικό του λόγο ο Παυλόπουλος χρησιμοποίησε ως εισαγωγή το λεκτικό «Πρόλογος» και ανέλυσε γιατί η σύγχρονη τεχνολογία συχνά προκαλεί είτε υπερβολικό θαυμασμό είτε δυστοπικό φόβο. Υπογράμμισε ότι πολλοί δεν διαθέτουν τα επιστημονικά εφόδια για να διακρίνουν την ουσία της Τεχνητής Νοημοσύνης από την Συνείδηση.
Ως ενδεικτικά παραδείγματα έφερε πρώτον την ταινία «2001: Η Οδύσσεια του Διαστήματος» (1968, γυρίσματα 1965-1967) με τον υπολογιστή «HAL», που στην πλοκή «διαβάζει» ομιλία, αναγνωρίζει πρόσωπα και, για να «προστατευθεί», «αποφάσισε» να σκοτώσει τους αστροναύτες. Δεύτερον ανέφερε το επεισόδιο με τον Blake Lemoine και το «LaMDA» τον Ιούνιο του 2022, όπου εγείρονται ισχυρισμοί περί στοιχειώδους Τεχνητής Συνείδησης και η αντίδραση στελεχών της Google όπως ο Blaise Aguera y Arcas και η Jen Gennai.
Παυλόπουλος τεχνητή νοημοσύνη προειδοποιεί
Ακολούθως ο Παυλόπουλος ανέπτυξε την βασική θέση ότι η Τεχνητή Νοημοσύνη, όσο εξελιγμένη και αν είναι, διαθέτει μόνο γνωστικές ικανότητες και συσσώρευση γνώσης, ενώ η Συνείδηση παραμένει ανεξερεύνητη και δεν επιτρέπει, προς το παρόν, τεχνολογική μετουσίωση. Επισήμανε την ανάγκη διάκρισης μεταξύ της δυνατότητας προγραμματισμού υψηλού επιπέδου και της έλλειψης αυτοδύναμων ηθικών φραγμών.
Παρουσίασε την αποδεκτή στις επιστημονικές κοινότητες θέση ότι ο άνθρωπος ως συνδυασμός homo sapiens και homo sentiens διαθέτει εκτός της Νοημοσύνης και Συνείδηση. Αντίθετα, ακόμα και τα πιο εξελιγμένα «ΜΝΔ» και «ΜΓΜ» έχουν μόνο Τεχνητή Νοημοσύνη και όχι Συνείδηση.
Επίσης επικαλέστηκε την άποψη του Christof Koch στην εργασία του (2019): «Η Συνείδηση είναι εμπειρία… βιωμένη πραγματικότητα. Είναι η αίσθηση της ζωής καθαυτήν». Με αυτό το επιστημονικό υπόβαθρο εξήγησε γιατί η δημιουργία Τεχνητής Συνείδησης παραμένει επιστημονικώς ανέφικτη.
Διάκριση νοημοσύνη και συνείδηση
Ο ομιλητής αναφέρθηκε και στο «παράδοξο του Μόραβεκ» όπως παρατίθεται από τους Brynjolfsson και McAfee, ότι είναι πιο εύκολο να πετύχεις υψηλές επιδόσεις σε τεστ ευφυίας παρά τις βασικές αισθητηριακές και κινητικές δεξιότητες ενός βρέφους. Το επιχείρημα αυτό υποστηρίζει την άποψη της αναντιστοιχίας μεταξύ τεχνικής νοημοσύνης και πλήρους ανθρώπινης ικανότητας.
Στο ίδιο πλαίσιο ο Παυλόπουλος θεώρησε ότι ακόμα και η συνδυαστική πρόοδος της Κβαντικής Τεχνολογίας και των Κβαντικών Υπολογιστών δεν μετατρέπει αναγκαστικά την Τεχνητή Νοημοσύνη σε Συνείδηση, παρά μόνο μπορεί να της προσθέσει ταχύτητα και επεξεργαστική ισχύ.
Επισημάνθηκε, επίσης, ο κίνδυνος της αυτοματοποιημένης λήψης κρίσιμων αποφάσεων από «ΜΝΔ» που αναπρογραμματίζονται αυτόνομα, όπως καταδείχθηκε στην περίπτωση του προγράμματος «AlphaZero» στο σκάκι: δημιουργεί κινήσεις απρόβλεπτες στον άνθρωπο και οδηγεί σε αιφνιδιασμό.
Κίνδυνοι και αυτοματοποίηση
Ειδική αναφορά έγινε στην εφαρμογή της Τεχνητής Νοημοσύνης στην Νομική Επιστήμη, όπου ο Παυλόπουλος τόνισε ότι η παρέμβαση των «ΜΝΔ» μπορεί να είναι μόνον επικουρική. Δεν επιτρέπεται, σύμφωνα με τον ομιλητή, η αυτόματη αντικατάσταση των θεσμικών οργάνων της Νομοθετικής, Εκτελεστικής και Δικαστικής Εξουσίας.
Υπογράμμισε ότι η δημιουργία και η ερμηνεία κανόνων δικαίου απαιτεί την επεξεργασία αόριστων νομικών εννοιών και αξιακών κρίσεων οι οποίες προϋποθέτουν Συνείδηση και ανθρώπινη νοητική εργασία. Η αντικατάσταση αυτή θα αναιρούσε την ουσία της Δικαιοσύνης και την αρχή της ισότητας.
Στο κλείσιμο επικαλέστηκε την απόφαση του ΣτΕ 1206/2024, ως παράδειγμα δικαστικής αντίστασης στην αλόγιστη χρήση ψηφιακής τεχνολογίας από την Δημόσια Διοίκηση, και τόνισε την ανάγκη διασφάλισης των θεμελιωδών εγγυήσεων του Κράτους Δικαίου. Το συμπέρασμα που εξέθεσε ήταν ρητό: η Τεχνητή Νοημοσύνη μπορεί και πρέπει να βοηθά, όχι να υποκαθιστά, τη Δικαιοσύνη.
