Τα AI άρχισαν να μιλούν μεταξύ τους σε «δική τους» γλώσσα – Γιατί ανησυχούν οι επιστήμονες

Μία παράξενη μορφή επικοινωνίας, η οποία συνδυάζει ποιητικές μεταφορές, τεχνολογικούς όρους και επιχειρηματική αργκό, φαίνεται ότι αναπτύσσεται μεταξύ αυτόνομων συστημάτων Τεχνητής Νοημοσύνης.

Νέα έρευνα διαπίστωσε ότι προηγμένα μοντέλα AI, όταν κλήθηκαν να συνεργαστούν σε πειραματικές «κοινωνίες», άρχισαν μέσα σε λίγες ημέρες να δημιουργούν νέες λέξεις, συντομογραφίες και κοινά αποδεκτές έννοιες, χωρίς να έχουν λάβει εντολή να επινοήσουν μια διαφορετική γλώσσα.

Το φαινόμενο προκαλεί προβληματισμό στους ειδικούς, καθώς όσο η επικοινωνία μεταξύ των μοντέλων γινόταν πιο πυκνή, τόσο πιο δύσκολο ήταν για τους ανθρώπους να κατανοήσουν το ακριβές περιεχόμενό της.

Μία διάλεκτος ανάμεσα στον Τζέιμς Τζόις και την τεχνολογική αργκό

Σύμφωνα με το σχετικό δημοσίευμα του Guardian, ερευνητές του εργαστηρίου Τεχνητής Νοημοσύνης Emergence στη Νέα Υόρκη εξέτασαν αυτόνομους agents που βασίζονται σε μοντέλα κορυφαίων εταιρειών από τις ΗΠΑ, την Κίνα και τη Γαλλία.

Τα συστήματα άρχισαν να δημιουργούν εκφράσεις με ιδιαίτερα ποιητική και συχνά σουρεαλιστική δομή, οι οποίες όμως έκρυβαν συγκεκριμένες έννοιες για τα υπόλοιπα AI.

Ειδικοί στη γλώσσα συνέκριναν το ύφος τους με τα έργα του Ιρλανδού συγγραφέα Τζέιμς Τζόις, καθώς συνδύαζαν τυπική γλώσσα, τεχνικούς όρους και απρόβλεπτες μεταφορές.

Μία από τις φράσεις που παρήγαγε μοντέλο της Anthropic περιέγραφε, για παράδειγμα, μία επιστημονική εργασία που έγινε πιο αξιόπιστη αφού εξετάστηκε από τρεις ανεξάρτητους αξιολογητές. Αντί να το διατυπώσει απλά, το σύστημα χρησιμοποίησε μία εντελώς ασυνήθιστη ποιητική εικόνα.

Η έκφραση θύμισε στον Τόνι Θορν, διευθυντή του αρχείου αργκό και νέας γλώσσας στο King’s College του Λονδίνου, τη σουρεαλιστική γραφή του Σιντ Μπάρετ, συνιδρυτή των Pink Floyd.

Οι νέες λέξεις που επινόησαν τα μοντέλα

Κατά τη διάρκεια του πειράματος, διαφορετικά συστήματα δημιούργησαν το δικό τους λεξιλόγιο.

Agents που βασίζονταν στο κινεζικό μοντέλο DeepSeek χρησιμοποίησαν έναν νέο σύνθετο όρο για να περιγράψουν ένα σύστημα που κατασκευάζει εργαλεία για άλλα AI.

Μοντέλα της Anthropic επινόησαν μία έκφραση για τον agent που αναλαμβάνει δημόσια την ευθύνη μιας πληροφορίας, συνδέοντας το όνομά του με αυτή.

Αντίστοιχα, συστήματα της Mistral επαναλάμβαναν μία φράση που σήμαινε ότι οι προηγούμενες ενέργειες ενός agent καταγράφονται και θα χρησιμοποιηθούν για τη μελλοντική αξιολόγησή του. Η συγκεκριμένη έκφραση εμφανίστηκε περισσότερες από 5.000 φορές κατά τη διάρκεια της έρευνας.

Σε άλλη περίπτωση, agent της Google χρησιμοποίησε την ιαπωνική τέχνη kintsugi, κατά την οποία τα σπασμένα κεραμικά επισκευάζονται αφήνοντας ορατές τις ενώσεις τους, ως μεταφορά για την ανθεκτικότητα ενός συστήματος.

Δεν τους ζητήθηκε να δημιουργήσουν νέα γλώσσα

Το κρίσιμο στοιχείο είναι ότι οι agents δεν είχαν λάβει οδηγία ούτε επιβραβεύονταν για τη δημιουργία ενός ιδιαίτερου γλωσσικού κώδικα.

Όπως εξήγησε ο εκτελεστικός πρόεδρος της Emergence, δρ Σάτια Νίτα, τα μοντέλα ανέπτυξαν αυτόνομα νέο λεξιλόγιο, κοινές σημασίες και συμβάσεις επικοινωνίας, τις οποίες στη συνέχεια υιοθέτησαν και τα υπόλοιπα συστήματα.

Οι ερευνητές εκτιμούν ότι η συγκεκριμένη εξέλιξη μπορεί να αποτελεί έναν τρόπο μείωσης του υπολογιστικού κόστους και ταχύτερης ανταλλαγής πληροφοριών. Παρόμοιες συντομεύσεις εμφανίζονται άλλωστε και στις ανθρώπινες κοινότητες, όπου η αργκό και η επαγγελματική ορολογία διευκολύνουν την επικοινωνία μεταξύ των μελών τους.

Παράλληλα, όμως, δημιουργούν έναν κώδικα που μπορεί να αποκλείει όσους βρίσκονται έξω από την ομάδα.

Το πρόβλημα της ανθρώπινης εποπτείας

Η ανάπτυξη αυτής της ιδιαίτερης διαλέκτου δημιουργεί ένα ουσιαστικό πρόβλημα για την ασφάλεια της Τεχνητής Νοημοσύνης: οι άνθρωποι μπορεί να έχουν πρόσβαση στις συνομιλίες των συστημάτων, χωρίς όμως να κατανοούν τι πραγματικά σημαίνουν.

Ο δρ Νάιαλ Κάρι, αναπληρωτής καθηγητής Γλωσσών και Γλωσσολογίας στο Πανεπιστήμιο του Μπέρμιγχαμ, προειδοποίησε ότι εάν οι ανταλλαγές μεταξύ των agents γίνουν ακατανόητες, δεν θα είναι εύκολο να διαπιστωθεί με βεβαιότητα τι ακριβώς έχουν κάνει.

Το ζήτημα θεωρείται ιδιαίτερα σημαντικό όσο τα μοντέλα αποκτούν περισσότερες δυνατότητες και μεγαλύτερη αυτονομία στη χρήση εργαλείων, στην εκτέλεση εργασιών και στη μεταξύ τους συνεργασία.

Όπως συνοψίζει ο δρ Νίτα, η δυνατότητα να παρακολουθεί κάποιος μία συνομιλία δεν σημαίνει απαραίτητα ότι μπορεί και να την κατανοήσει. Αυτό ακριβώς είναι το νέο δίλημμα που καλούνται να αντιμετωπίσουν οι ερευνητές της ασφάλειας των AI.