Σε μια εξέλιξη που δείχνει να επιβεβαιώνει τις ανησυχίες για κίνδυνο κυβερνοεπιθέσεων, το μοντέλο τεχνητής νοημοσύνης Mythos της Anthropic χρειάστηκε μόνο λίγες ώρες για να εντοπίσει κενά ασφάλειας στα διαβαθμισμένα, ασφαλή συστήματα της αμερικανικής κυβέρνησης.
Την είδηση επιβεβαίωσε στο Associated Press αξιωματούχος που δεν κατονομάζεται. Όπως είπε, τα κενά ασφάλειας εντοπίστηκαν στη διάρκεια δοκιμών που πραγματοποιούν οι υπηρεσίες πληροφοριών σε συνεργασία με την Anhropic.
Τα «κρας τεστ» εντάσσονται στην πρωτοβουλία Glasswing της Anthropic, ένα πρόγραμμα ελέγχου της ασφάλειας του λογισμικού κρίσιμων υποδομών, στο οποίο συμμετέχουν μερικές δεκάδες κυβερνητικές υπηρεσίες, τράπεζες και εταιρείες τεχνολογίας.
Στις δοκιμές είχε αναφερθεί και ο Δημοκρατικός γερουσιαστής της Βιρτζίνια Μαρκ Γουόρνερ, ο οποίος είχε μιλήσει για την υπόθεση σε επιτροπή της Γερουσίας στις 11 Ιουνίου.
«Το εργαλείο αυτό παραβίασε σχεδόν όλα τα διαβαθμισμένα μας συστήματα, και όχι σε εβδομάδες αλλά σε ώρες» δήλωσε ο Γουόρνερ, ο οποίος όπως είπε έλαβε αυτή την πληροφορία από την Υπηρεσία Εθνικής Ασφάλειας (NSA).
Η NSA και η Anthropic δεν απάντησαν σε αίτημα του Associated Press για σχόλιο.
Η σχέση της κυβέρνησης Τραμπ με την Anthropic παραμένει τεταμένη μετά την άρνηση της εταιρείας να επιτρέψει τη χρήση των μοντέλων της για μαζική παρακολούθηση των αμερικανών πολιτών ή την ανάπτυξη αυτόνομων όπλων, εφαρμογές που το Πεντάγωνο αρνείται ότι επιδιώκει.
Τον Απρίλιο η Anthropic πάγωσε το δημόσιο ντεμπούτο του Mythos λόγω ανησυχίας ότι, εάν πέσει σε λάθος χέρια, το μοντέλο θα μπορούσε να χρησιμοποιηθεί σε μαζικές κυβερνοεπιθέσεις, για παράδειγμα εναντίον τραπεζών.
Αυτό τον μήνα η Anthropic λάνσαρε το Fable, μια αποδυναμωμένη βερσιόν του Mythos για το ευρύ κοινό.
Λίγες ημέρες αργότερα η εταιρεία ανακοίνωσε ότι αποσύρει το Fable έπειτα από εντολή της κυβέρνησης Τραμπ να κόψει την πρόσβαση σε όλους τους μη αμερικανούς πολίτες, επικαλούμενη λόγους εθνικής ασφάλειας.
Πριν από το Mythos ο Τραμπ τασσόταν κατά οποιονδήποτε ρυθμιστικών περιορισμών στη βιομηχανία τεχνητής νοημοσύνης, υποστηρίζοντας ότι οι κανόνες βλάπτουν την αμερικανική καινοτομία προς όφελος της Κίνας.
Οι τελευταίες εξελίξεις φαίνεται ότι τον ανάγκασαν να αλλάξει γνώμη, καθώς ζήτησε από τις εταιρείες ΑΙ να υποβάλλουν εθελοντικά τα συστήματά τους για έλεγχο από την κυβέρνηση πριν από τη δημόσια κυκλοφορία τους.
