Η αμερικανική εταιρεία τεχνητής νοημοσύνης Anthropic, δημιουργός του Claude, παραδέχεται ότι χάκερ που πιστεύει ότι δρούσαν για λογαριασμό του Πεκίνου χρησιμοποίησαν το chatbot για να πραγματοποιήσουν την «πρώτη καμπάνια κυβερνοκατασκοπείας που ενορχηστρώθηκε από ΑΙ».
Σύμφωνα με την εταιρεία, η κυβερνοεπίθεση έβαλε στο στόχαστρο περίπου 39 οντότητες, όπως κυβερνητικές υπηρεσίες, εταιρείες τεχνολογίας, οικονομικά ιδρύματα και χημικές εταιρείες που δεν κατονομάζονται.
Η υπόθεση έρχεται να εντείνει τις ανησυχίες ότι οι χάκερ μπορούν να παρακάμπτουν τα συστήματα ασφάλεια της ΑΙ και να την χρησιμοποιούν για εκστρατείες παραπληροφόρησης και κυβερνοεπιθέσεις.
Στη συγκεκριμένη περίπτωση, ανέφερε η Anthropic, οι δράστες ξεγέλασαν το Claude λέγοντάς του ότι ήταν ερευνητές κυβερνοασφάλειας. Χώρισαν επίσης τις επιθέσεις σε επιμέρους βήματα για να μην ενεργοποιήσουν τις δικλείδες ασφαλείας του chatbot.
Το Claude της Anthropic είναι ένα από τα κορυφαία μεγάλα γλωσσικά μοντέλα (Reuters)
Η υπόθεση έγινε αντιληπτή τον Σεπτέμβριο και η Antropic έσπευσε να ενημερώσει τις αρχές και τα θύματα της καμπάνιας. Δεν διευκρίνισε ποιοι βρέθηκαν στο στόχαστρο, ούτε πώς κατέληξε στο συμπέρασμα ότι οι δράστες έδρασαν για την κινεζική κυβέρνηση.
Οι χάκερ επέλεξαν τη λίστα των στόχων και χρησιμοποίησαν το Claude για να γράψουν κώδικα που αναζήτησε κενά ασφάλειας στα δίκτυά τους και αναγνώρισε τις βάσεις δεδομένων με τις πιο πολύτιμες πληροφορίες. Το Claude μπόρεσε στη συνέχεια να υποκλέψει κωδικούς πρόσβασης, να υποκλέψει δεδομένα και να τα κατηγοριοποιήσει ανάλογα με τη σημασία τους.
H AI ανέλαβε το 80-90% της υπόθεσης, ενώ οι χάκερ χρειάστηκε να λάβουν μόνο λίγες αποφάσεις, ανέφερε η Anthropic.
Η υπόθεση έρχεται να προστεθεί στην περυσινή ανακοίνωσε της OpenAI ότι σταμάτησε πέντε καμπάνες παραπληροφόρησης που βασίστηκαν στην τεχνολογία του ChatGPT.
Εύκολες λύσεις για την αντιμετώπιση κυβερνοεπιθέσεων ΑΙ όπως φαίνεται δεν υπάρχουν. Σύμφωνα πάντως με την Anthropic, «οι ίδιες ικανότητες που επιτρέπουν στο Claude να χρησιμοποιείται σε επιθέσεις τού δίνουν επίσης κρίσιμη σημασία για την κυβερνοασφάλεια».
