Γιατί η τεχνητή νοημοσύνη δεν λέει πάντα την αλήθεια – Απαραίτητη η επιβεβαίωση

Τη φωτογραφία του από την ιστοσελίδα της ερευνητικής ομάδας issel, του Αριστοτελείου Πανεπιστημίου Θεσσαλονίκης πήρε ο Λευτέρης Καλαϊτζίδης, υποψήφιος διδάκτωρ του Πανεπιστημίου και με τη χρήση ενός ψηφιακού εργαλείου δημιούργησε μια ανάρτηση με τον τίτλο «εισαγωγή ασθενούς Καλαϊτζίδη Ελευθέριου». Το συγκεκριμένο μήνυμα, με τη φωτογραφία του παραποιημένη ώστε να τον εμφανίζει να φοράει νοσοκομειακή μπλε ρόμπα και να βρίσκεται στο κρεβάτι του νοσοκομείου, θα μπορούσε να αποσταλεί ενδεχομένως στους γονείς του με την ένδειξη ότι καλούνται «να προσέλθουν άμεσα στο Νοσοκομείο Γεννηματάς, καθώς ο γιος τους είχε ατύχημα και εισήχθη σήμερα, Τετάρτη 10 Ιουνίου στις 9.40 το πρωί για την παροχή των απαραίτητων ιατρικών υπηρεσιών». Με αυτόν τον τρόπο ο κ. Καλαϊτζίδης, μιλώντας σε ημερίδα κυβερνοασφάλειας και ασφαλούς πλοήγησης στο διαδίκτυο, που πραγματοποιήθηκε στη Βέροια παρουσίασε το πόσο εύκολο είναι να εξαπατηθεί κάποιος και πόσο απαραίτητο είναι να εξακριβώνει διαρκώς αν κάτι είναι αληθές ή όχι.

Σε ό,τι αφορά την τεχνητή νοημοσύνη (AI) και τα Μεγάλα Γλωσσικά Μοντέλα (Large Language Models, LLM) (που συνιστούν μια μορφή ΑΙ η οποία επεξεργάζεται, κατανοεί και παράγει ανθρώπινη γλώσσα), ο ερευνητής του ΑΠΘ υπογράμμισε ότι από τη μια πλευρά προβλέπουν λέξεις, αναπαράγουν πρότυπα και μιμούνται την κατανόηση. Από την άλλη όμως πλευρά πρέπει να είναι σαφές ότι δεν σκέφτονται, δεν ξέρουν τα πάντα, δεν έχουν συναισθήματα και δεν λένε πάντα την αλήθεια.

Οι ψευδαισθήσεις που δημιουργούν τα γλωσσικά μοντέλα

Σύμφωνα με τον ίδιο, τα LLM δημιουργούν τις εξής ψευδαισθήσεις στον κόσμο: «τα λένε ‘ωραία’, άρα λένε αλήθεια», «μας δίνουν απάντηση σε ό,τι ρωτήσουμε, άρα τα ξέρουν όλα», «μας βοηθάνε στη δουλειά μας άρα είναι φίλοι μας», «μας στηρίζουν στα προβλήματά μας και μας καταλαβαίνουν», «ξέρουν τα πάντα για μας αλλά δεν τα λένε πουθενά», «μας δίνουν σύνθετες απαντήσεις, άρα σκέφτονται».

«Στην πραγματικότητα, δεν κάνουν τα παραπάνω» τόνισε ο κ. Καλαϊτζίδης, υπογραμμίζοντας ότι θα πρέπει να αντιμετωπίζονται με κριτική σκέψη, με μεγάλη προσοχή στο τι μοιραζόμαστε και με αναζήτηση σε έμπιστες πηγές για την επιβεβαίωση της αλήθειας. Σε κάθε περίπτωση σημείωσε ότι θα πρέπει να έχει ο καθένας στο νού του τρία πράγματα: πως ό,τι γράφεται μπορεί να μην σβηστεί ποτέ, ότι τα μοντέλα αυτά λένε ψέματα με αυτοπεποίθηση και ότι μπορεί να γίνουν όπλο στα λάθος χέρια.

Οι μεγαλύτεροι κίνδυνοι

Παρουσιάζοντας παραδείγματα πίσω από τα οποία μπορεί να βρίσκονται οι μεγαλύτεροι κίνδυνοι από την τεχνητή νοημοσύνη, ανέφερε ότι τα δεδομένα των χρηστών φεύγουν και δεν θα σβηστούν ποτέ και έθεσε το ερώτημα αν κανείς θα έγραφε τα ίδια αν γνώριζε πως ένας άγνωστος μπορεί να τα διαβάσει. «Βοήθησέ με στο βιογραφικό μου. Με λένε Μαρία Κ. Μένω στη Γλυφάδα, λεωφ. Βουλιαγμένης 23, τηλ. 69ΧΧΧΧΧΧΧΧ, πάω στο 3ο Λύκειο και θέλω δουλειά στα Starbucks. Mπορείς να μου συντάξεις ένα βιογραφικό;». Με τα στοιχεία αυτά κοινοποιούνται άμεσα το όνομα, το επίθετο, η διεύθυνση του σπιτιού του χρήστη, το τηλέφωνο, το σχολείο, η ηλικία και η τοποθεσία ενώ σε κάποια άλλη ακόμη πιο ευαίσθητη περίπτωση στην οποία θα μπορούσε κάποιος να ζητήσει βοήθεια επειδή νιώθει μόνος ή αντιμετωπίζει κάποιο πρόβλημα bullying, θα πρέπει να είναι σαφές ότι δεν υπάρχει στον κυβερνοχώρο ιατρικό ή ψυχολογικό απόρρητο, μπορεί η τεχνητή νοημοσύνη να δώσει μια βλαβερή συμβουλή, ενώ υπάλληλοι της εταιρείας μπορούν να διαβάσουν τους εν λόγω διαλόγους με χαρακτηριστικό το περιστατικό που καταγράφηκε τον Μάρτιο του 2023 όταν ένα bug στο ChatGPT αποκάλυψε ιστορικά συνομιλιών άλλων χρηστών.

Ένας δεύτερος κίνδυνος είναι ότι η τεχνητή νοημοσύνη λέει ψέμματα με μεγάλη άνεση. Για παράδειγμα στο αίτημα χρήστη για την αναφορά τριών πηγών για τη Μάχη της Κρήτης, παραθέτονται τρεις αναφορές σε σχετικά άρθρα με αληθινούς συγγραφείς χωρίς όμως να υπάρχει πραγματικά καμία από τις τρεις. Στο ίδιο πνεύμα ο κ. Καλαϊτζίδης σημείωσε ότι ο δικηγόρος Steven Schwartz χρησιμοποίησε το ChatGPT για την εύρεση νομικού προηγούμενου και κατέθεσε έξι υποθέσεις που δεν υπήρξαν ποτέ, με συνέπεια να του επιβληθεί πρόστιμο πέντε χιλιάδων δολαρίων, να του γίνει δημόσια επίπληξη και να καταστραφεί η φήμη του.

Ο τρίτος κίνδυνος αφορά τη χρήση τεχνητής νοημοσύνης ως όπλο όπως στην περίπτωση που καταγράφηκε στην Ισπανία τον Σεπτέμβριο του 2023 οπότε μαθητές χρησιμοποίησαν ΑΙ εφαρμογή για fake εικόνες συμμαθητριών τους ηλικίας 12 – 14 ετών, με αποτέλεσμα να διεξαχθεί αστυνομική έρευνα και να ασκηθούν ποινικές διώξεις.

Με άλλα λόγια, το ΑΙ μπορεί να χρησιμοποιήσει στοιχεία από άρθρα ειδήσεων με πλαστές πληροφορίες, αναρτήσεις στα μέσα κοινωνικής δικτύωσης με λάθος στοιχεία, ψεύτικες δηλώσεις από δημόσια πρόσωπα και παραπλανητικό περιεχόμενο, παράγοντας ψεύτικες πληροφορίες, και εικόνες, ψεύτικα μηνύματα και βίντεο και ψεύτικο ήχο.

Πώς μπορούν να αντιμετωπιστούν οι κίνδυνοι

Στο ερώτημα πώς μπορούν να αντιμετωπιστούν οι κίνδυνοι αυτοί, ο καθηγητής του Τμήματος Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών του Αριστοτελείου Πανεπιστημίου Θεσσαλονίκης, Ανδρέας Συμεωνίδης, μιλώντας στο ΑΠΕ – ΜΠΕ, τόνισε ότι αυτή τη στιγμή δεν υπάρχει η κουλτούρα της διαχείρισης της πληροφορίας που παρέχεται μέσω τεχνητής νοημοσύνης, γι΄αυτό και είναι επιτακτική η ανάγκη επιβεβαίωσης των στοιχείων. «Θέλουμε να δημιουργήσουμε μια εγρήγορση στα παιδιά και τους γονείς, και γενικότερα στον κόσμο για την αληθοφάνεια και την ανάγκη για επικύρωση» είπε χαρακτηριστικά. Πιο συγκεκριμένα η χρήση της τεχνητής νοημοσύνης θα πρέπει να είναι το σημείο εκκίνησης και όχι το τελικό σημείο και θα πρέπει να αναζητείται πάντα μια δεύτερη πηγή προς επιβεβαίωση κάθε πληροφορίας.

Από την πλευρά τους οι χρήστες καλούνται να μην μοιράζουν ανεξέλεγκτα τα προσωπικά τους στοιχεία, να επιβεβαιώνουν τους ισχυρισμούς και τις πηγές, να θυμούνται πως κάποιοι άγνωστοι μπορεί να διαβάζουν τις πληροφορίες τους, να σκέφτονται προτού δημιουργήσουν κάτι.

Την ημερίδα κυβερνοασφάλειας και ασφαλούς πλοήγησης στο διαδίκτυο που πραγματοποιήθηκε στο δημαρχείο της Βέροιας διοργάνωσε η Περιφέρεια Κεντρικής Μακεδονίας ενώ χαιρετισμούς απηύθυναν ο αντιπεριφερειάρχης Ψηφιακής Διακυβέρνησης Νίκος Τζόλλας και ο αντιδήμαρχος Ηλεκτρονικής Διακυβέρνησης του Δήμου Βέροιας Καλλίστρατος Γρηγοριάδης. Σχετικές παρουσιάσεις έκαναν οι καθηγητές του Αριστοτελείου Πανεπιστημίου Θεσσαλονίκης, Πέτρος Νικοπολιτίδης και Παναγιώτης Κατσαρός. Στη συνέχεια, πραγματοποιήθηκε ημερίδα με θέμα το Ευ Αγωνίζεσθαι στην ψηφιακή εποχή με ομιλητές τον αντιπεριφερειάρχη Εξωστρέφειας της Περιφέρειας Κεντρικής Μακεδονίας και θρύλο του ελληνικού μπάσκετ Μπάνε Πρέλεβιτς και τον παγκόσμιο πρωταθλητή Parkour Δημήτρη DK Κυρσανίδη. Χαιρετισμό απηύθυνε ο αντιδήμαρχος αθλητισμού του Δήμου Βέροιας Μιχάλης Τζαφερόπουλος.