Ερευνητές «χάκαραν» την OpenAI χρησιμοποιώντας το Claude της Anthropic – Πώς απέκτησαν πρόσβαση σε λογαριασμούς

Ερευνητές κυβερνοασφάλειας κατάφεραν να αποκτήσουν πρόσβαση σε λογαριασμό ChatGPT εργαζομένου της OpenAI, χρησιμοποιώντας ως βασικό «βοηθό» ένα μοντέλο Τεχνητής Νοημοσύνης της ανταγωνίστριας Anthropic.

Πίσω από την έρευνα βρίσκεται η τριμελής ομάδα της νεοφυούς εταιρείας κυβερνοασφάλειας Hacktron AI, η οποία εντόπισε και αξιοποίησε δύο διαφορετικά κενά ασφαλείας, φτάνοντας τελικά μέχρι το εσωτερικό αποθετήριο κώδικα της OpenAI.

Δεν επρόκειτο, πάντως, για κακόβουλη κυβερνοεπίθεση. Οι ερευνητές εργάζονταν στο πλαίσιο προγράμματος εντοπισμού ευπαθειών και, αφού απέδειξαν τι μπορούσε να επιτευχθεί μέσω των κενών ασφαλείας, ενημέρωσαν την OpenAI και σταμάτησαν τις δοκιμές τους.

Η «πόρτα» άνοιξε μέσω του Discourse

Η έρευνα ξεκίνησε στις 23 Ιουλίου, όταν η ομάδα εντόπισε ευπάθεια στον τρόπο επεξεργασίας ορισμένων αρχείων εικόνας από το Discourse, την πλατφόρμα πάνω στην οποία λειτουργεί το community forum της OpenAI.

Αξιοποιώντας την ευπάθεια, οι ερευνητές κατάφεραν να αποκτήσουν πρόσβαση σε server του Discourse και στη συνέχεια σε tokens πιστοποίησης χρηστών.

Εκεί αποκαλύφθηκε και το δεύτερο, κρίσιμο πρόβλημα: τα συγκεκριμένα διαπιστευτήρια μπορούσαν να ανοίξουν τον δρόμο προς λογαριασμούς ChatGPT και Codex.

Έτσι, η ομάδα κατάφερε να αποκτήσει πρόσβαση σε λογαριασμό εργαζομένου της OpenAI, του οποίου το Codex ήταν συνδεδεμένο με το εταιρικό περιβάλλον στο GitHub.

Από το ChatGPT στο εσωτερικό repository της OpenAI

Η πρόσβαση δεν περιορίστηκε στον λογαριασμό ChatGPT.

Οι ερευνητές έδειξαν ότι μέσω των συνδεδεμένων υπηρεσιών μπορούσαν να φτάσουν μέχρι το εσωτερικό repository κώδικα της OpenAI.

Για να αποδείξουν την έκταση της ευπάθειας χωρίς να προχωρήσουν στην ανάγνωση ευαίσθητου εταιρικού υλικού, δημιούργησαν ένα ακίνδυνο proof-of-concept pull request στο εσωτερικό monorepo της εταιρείας.

Η περίπτωση αναδεικνύει ένα ευρύτερο ζήτημα ασφαλείας για υπηρεσίες Τεχνητής Νοημοσύνης: όσο περισσότερες εφαρμογές, εταιρικά δεδομένα και υπηρεσίες συνδέονται με έναν AI λογαριασμό, τόσο μεγαλύτερη μπορεί να είναι η έκταση μιας πιθανής παραβίασης.

Το Claude Opus 4.8 δυσκολεύτηκε – Το Opus 5 τα κατάφερε σε λίγες ώρες

Ιδιαίτερο ενδιαφέρον έχει ο ρόλος που έπαιξαν τα μοντέλα της Anthropic στην έρευνα.

Αρχικά, η ομάδα χρησιμοποίησε το Claude Opus 4.8, ζητώντας του να βοηθήσει στην ανάπτυξη λειτουργικού exploit για την ευπάθεια. Σύμφωνα με τους ερευνητές, το μοντέλο δυσκολεύτηκε και οι πρώτες προσπάθειες δεν απέδωσαν.

Την ίδια περίοδο κυκλοφόρησε το νεότερο Claude Opus 5.

Όταν οι ερευνητές έθεσαν το ίδιο πρόβλημα στο νέο μοντέλο, αυτό κατάφερε μέσα σε λίγες ώρες να δημιουργήσει λειτουργικό exploit σε τοπικό περιβάλλον, το οποίο στη συνέχεια προσαρμόστηκε για την υποδομή του Discourse.

Από τον αρχικό εντοπισμό της ευπάθειας μέχρι την απόδειξη πρόσβασης στο εσωτερικό repository της OpenAI χρειάστηκαν λιγότερες από 72 ώρες.

Η OpenAI διόρθωσε τα κενά ασφαλείας

Μόλις επιβεβαιώθηκε η έκταση του προβλήματος, η Hacktron AI ενημέρωσε την OpenAI.

Η εταιρεία προχώρησε στη διόρθωση της ευπάθειας, περιόρισε τα δικαιώματα των tokens σύνδεσης του Community και ανακάλεσε τα επηρεαζόμενα tokens και sessions.

Η OpenAI ευχαρίστησε τους ερευνητές για την υπεύθυνη γνωστοποίηση των ευρημάτων τους, ενώ σύμφωνα με τις διαθέσιμες πληροφορίες κατέβαλε στην ομάδα αμοιβή 6.500 δολαρίων στο πλαίσιο του bug bounty.

Η υπόθεση αποτελεί ταυτόχρονα χαρακτηριστικό παράδειγμα της ταχύτητας με την οποία εξελίσσονται οι δυνατότητες της Τεχνητής Νοημοσύνης στην κυβερνοασφάλεια: ένα νεότερο μοντέλο κατάφερε μέσα σε ώρες να βοηθήσει στην επίλυση ενός τεχνικού προβλήματος στο οποίο η αμέσως προηγούμενη γενιά είχε δυσκολευτεί.