Οι αμερικανικές εταιρείες τεχνητής νοημοσύνης δέχονται πιέσεις από το Πεντάγωνο να καταργήσουν τους κανόνες ασφαλείας στα μοντέλα τους προκειμένου να χρησιμοποιηθούν σε απόρρητες χρήσεις, αποκαλύπτει το Reuters.
Το αμερικανικό υπουργείο Άμυνας -το οποίο ο πρόεδρος Ντόναλντ Τραμπ σκοπεύει να μετονομάσει σε υπουργείο Πολέμου- χρησιμοποιεί ήδη μεγάλα γλωσσικά μοντέλα εταιρειών όπως η Google, η OpenAI, η Anthropic και η xAΙ.
Μέχρι σήμερα, όμως, τα μοντέλα αξιοποιούνται σε μη απόρρητες εφαρμογές και υπόκεινται στους περιορισμούς και τα μέτρα ασφάλειας που ισχύουν για τους απλούς χρήστες.
Αυτό ίσως αλλάξει: σε συνάντηση που πραγματοποιήθηκε αυτή την εβδομάδα στον Λευκό Οίκο, ο τεχνολογικός διευθυντής του Πενταγώνου Εμίλ Μίκαελ ενημέρωσε στελέχη της βιομηχανίας ότι τα μοντέλα ΑΙ θα πρέπει να είναι διαθέσιμα και σε διαβαθμισμένα δίκτυα, δήλωσαν στο Reuters δύο πηγές.
Μεγαλύτερη αντίσταση προβάλλει μέχρι στιγμής η Anthropic, η οποία δίνει έμφαση σε θέματα ασφάλειας
Το υπουργείο Άμυνας «λαμβάνει πρωτοβουλίες για την ανάπτυξη προηγμένων δυνατοτήτων τεχνητής νοημοσύνης σε όλα τα επίπεδα διαβάθμησης» δήλωσε αξιωματούχος που ζήτησε να παραμείνει ανώνυμος.
Με τα αυτόνομα drone, τα ρομπότ και τις κυβερνοεπιθέσεις να κυριαρχούν ήδη στις σημερινές συγκρούσεις, το Πεντάγωνο βρίσκεται εδώ και καιρό σε διαπραγματεύσεις με τη βιομηχανία ΑΙ.
Τα σχόλια του Μίκαελ, επισημαίνει το Reutrers, είναι πιθανό να εντείνουν μια ήδη φορτισμένη συζήτηση σχετικά την επιθυμία του στρατού να χρησιμοποιήσει την ΑΙ χωρίς κανόνες και το περιθώριο των εταιρειών τεχνολογίας να βάζουν όρια στη χρήση των προϊόντων τους.
To ChatGPT χρησιμοποιείται ήδη ευρέως από το αμερικανικό υπουργείο Άμυνας (Reuters)
«Ολέθριες συνέπειες»
Πολλές εταιρείες ΑΙ αναπτύσσουν ήδη εξειδικευμένα εργαλεία για τον αμερικανικό στρατό, όμως τα περισσότερα χρησιμοποιούνται σε μη διαβαθμισμένα δίκτυα και χρησιμοποιούνται κυρίως για διοικητικές υπηρεσίες.
Μόνο μια εταιρεία, η Anthropic, προσφέρει μέσω τρίτων υπηρεσίες για διαβαθμισμένες εφαρμογές, όμως η κυβέρνηση παραμένει δεσμευμένη από την πολιτική χρήσης της εταιρείας.
Τα διαβαθμισμένα δίκτυα διαχειρίζονται πιο ευαίσθητα θέματα όπως ο σχεδιασμός αποστολών ή η στόχευση όπλων. Παραμένει ασαφές πώς ή πότε σχεδιάζει το Πεντάγωνο να αναπτύξει μοντέλα ΑΙ σε τέτοια δίκτυα.
Ο στρατός ελπίζει στην ικανότητα της ΑΙ να συνθέτει πληροφορίες προκειμένου να βοηθά στη λήψη αποφάσεων. Όμως τα εργαλεία αυτά ενίοτε κάνουν λάθη και σε κάποιες περιπτώσεις επινοούν πληροφορίες που εκ πρώτης όψεως δείχνουν πειστικές.
Τέτοιου είδους λάθη σε απόρρητες εφαρμογές θα μπορούσαν να έχουν ολέθριες συνέπειες, προειδοποιούν ερευνητές της τεχνητής νοημοσύνης.
Οι εταιρείες ΑΙ προσπαθούν να υποβαθμίσουν τις ατέλειες των μοντέλων τους εισάγοντας δικλείδες ασφαλείας και ζητώντας από τους χρήστες να σέβονται ορισμένες κατευθυντήριες γραμμές. Για το Πεντάγωνο, οι περιορισμοί αυτοί είναι ανεπιθύμητοι.
Αυτή την εβδομάδα, το αμερικανικό υπουργείο Άμυνας κατέληξε σε συμφωνία με την OpenAI για τη χρήση του ChatGPT και άλλων εργαλείων στο μη διαβαθμισμένο δίκτυο genai.mil, στο οποίο έχουν πρόσβαση περισσότεροι από 3 εκατ. υπάλληλοι του υπουργείου.
Η συμφωνία προβλέπει ότι η OpenAI θα αφαιρέσει πολλούς από τους περιορισμούς που αφορούν τους απλούς χρήστες, όχι όμως όλους.
Ανάλογες συμφωνίες έχουν υπογράψει η Google και η xAI, η εταιρεία τεχνητής νοημοσύνης του Έλον Μασκ.
Μεγαλύτερη αντίσταση προβάλλει μέχρι στιγμής η Anthropic, η οποία εστιάζεται στη χρήση της ΑΙ από επιχειρήσεις και δίνει έμφαση σε θέματα ασφάλειας. Στελέχη της εταιρείας έχουν δηλώσει σε στρατιωτικούς αξιωματούχους ότι δεν θέλουν να χρησιμοποιηθεί η τεχνολογία της σε αυτόνομα όπλα ή συστήματα παρακολούθησης αμερικανών πολιτών.
«Η Anthropic παραμένει δεσμευμένη να διατηρήσει την ηγεσία της Αμερικής στην ΑΙ και να βοηθήσει την αμερικανική κυβέρνηση να αντιμετωπίσει εξωτερικές απειλές» δήλωσε εκπρόσωπος της εταιρείας. Το μοντέλο Claude της Anthropic «χρησιμοποιείται ήδη ευρέως για αποστολές εθνικές ασφάλειας και βρισκόμαστε σε παραγωγικές συζητήσεις με το υπουργείο Πολέμου σχετικά με τρόπους συνέχισης αυτού του έργου».
