Λίγο πριν λανσάρει το νέο της μοντέλο Mythos, το οποίο φέρεται να έχει προηγμένες ικανότητες προγραμματισμού και θα μπορούσε να χρησιμοποιηθεί σε μαζικές κυβερνοεπιθέσεις, η αμερικανική Anthropic προειδοποίησε ότι οι εταιρείες ΑΙ και οι κυβερνήσεις πρέπει να δημιουργήσουν δικλείδες ασφαλείας για να βγάλουν την τεχνητή νοημοσύνη από την πρίζα σε περίπτωση που γίνει επικίνδυνη.
«Πιστεύουμε ότι θα ήταν καλό για τον κόσμο να υπάρχει η δυνατότητα επιβράδυνσης ή προσωρινής παύσης στην ανάπτυξη προηγμένων μοντέλων ΑΙ, προκειμένου να μπορούν να συμβαδίζουν με την πρόοδο της τεχνολογίες οι κοινωνικές δομές και η έρευνα για την ευθυγράμμιση» της ΑΙ με τις ανθρώπινες αξίες, ανέφερε η καλοφορνέζικη εταιρεία σε έκθεσή της.
Η δυνατότητα παύσης θα ήταν ιδιαίτερα σημαντική σε περίπτωση που η τεχνητή νοημοσύνη αρχίζει να αυτοβελτιώνεται, κάτι που θα περιόριζε τον ρόλο των ανθρώπων στην ανάπτυξή της.
«Εάν τα συστήματα τεχνητής νοημοσύνης αποκτήσουν τη δυνατότητα να δημιουργούν εξ ολοκλήρου τις επόμενες γενιές τους, τότε η ασφάλειά τους, η εποπτεία τους και οι μηχανισμοί που καθορίζουν τη συμπεριφορά τους θα καταστούν πολύ πιο κρίσιμοι» λέει η Anthropic.
Η εταιρεία αναγνωρίζει ωστόσο ότι μια τέτοια παύση η επιβράδυνση θα απαιτούσε τη συνεργασία μεταξύ διαφορετικών εταιρειών ΑΙ σε πολλές χώρες, ιδιαίτερα στις ΗΠΑ και την Κίνα, στην Κίνα, να αναλάβουν δράση ταυτόχρονα και με κοινούς κανόνες.
Η ανάγκη διεθνούς ομοφωνίας είναι ένα πρόβλημα που έχει επανειλημμένα θέσει ο διευθύνων σύμβουλος της Anthropic Ντάριο Άμοντεϊ, λέγοντας πως αν η εταιρεία του πατούσε φρένο μονομερώς θα κινδύνευε να μείνει πίσω από τον ανταγωνισμό.
«Χωρίς έναν παγκόσμιο μηχανισμό συντονισμού, οι εταιρείες και οι κυβερνήσεις θα πρέπει να λαμβάνουν δύσκολες αποφάσεις ασφάλειας, ενώ θα βρίσκονται υπό την πίεση του ανταγωνισμού και των γεωπολιτικών εξελίξεων», γράφει η έκθεση.
Κρατικός έλεγχος
Η Anthropic είναι γνωστή για την έμφαση που λέει ότι δίνει σε θέματα ασφάλειας, έχει όμως κατηγορηθεί από στελέχη της βιομηχανίας –αλλά και από αξιωματούχους του Λευκού Οίκου- για κινδυνολογία, την οποία χρησιμοποιεί ως στρατηγικό όπλο για να επιβραδύνει τους ανταγωνιστές της υπό το πρόσχημα της ασφάλειας.
Ωστόσο η κυβέρνηση του Ντόναλντ Τραμπ, ο οποίος είχε αρχικά ταχθεί εναντίον οποιουδήποτε ρυθμιστικού ελέγχου για τη βιομηχανία ΑΙ, δείχνει τώρα να αλλάζει στάση. Αυτή την εβδομάδα, ο Τραμπ υπέγραψε εκτελεστικό διάταγμα που δίνει στην κυβέρνηση περιθώριο 30 ημερών να ελέγχει τα ισχυρότερα μοντέλα ΑΙ πριν από τη διάθεσή τους.
Αιτία της αλλαγής στάσης φαίνεται πως ήταν το Claude Mythos της Anthropic, το οποίο σύμφωνα με την εταιρεία έχει ανακαλύψει «χιλιάδες» κενά ασφάλειας σε όλα τα γνωστά λειτουργικά συστήματα και θα μπορούσε να χρησιμοποιηθεί για κυβερνοεπιθέσεις, για παράδειγμα εναντίον τραπεζών.
Η εταιρεία αποφάσισε να παγώσει τη δημόσια διάθεσή του και να προσφέρει πρόσβαση μόνο σε μια ομάδα κυβερνητικών υπηρεσιών και οργανισμών, προκειμένου να τους δώσει την ευκαιρία να προετοιμαστούν.
H δημόσια διάθεση του Mythos προγραμματίζεται τώρα για τις επόμενες εβδομάδες.
Η Anthropic ζητά δημόσιο διάλογο για το μέλλον της τεχνητής νοημοσύνης (Reuters)
Η πρόταση της Anthropic αναπόφευκτα θα συναντήσει αντιδράσεις, καθώς πολλοί αμερικανοί αξιωματούχοι και στελέχη της βιομηχανίας επιμένουν ότι η Κίνα θα αποκτήσει προβάδισμα αν οι ΗΠΑ πατήσουν φρένο στην ανάπτυξη της ΑΙ.
Παρόλα αυτά, ο Ντόναλντ Τραμπ δήλωσε ότι συζήτησε το ενδεχόμενο συνεργασίας με την Κίνα για την ασφάλεια της ΑΙ κατά την πρόσφατη επίσκεψή του στο Πεκίνο.
Αυτοβελτίωση
Η Anthropic ανησυχεί περισσότερο για αυτό που ονομάζει «αναδρομική αυτοβελτίωση» (recursive self improvement), δηλαδή τη δυνατότητα των μοντέλων ΑΙ να βελτιώνουν τον εαυτό τους σε έναν επαναλαμβανόμενο κύκλο που οδηγεί σε όλο και ισχυρότερα συστήματα.
«Δεν βρισκόμαστε ακόμη σε αυτό το στάδιο και η αναδρομική αυτοβελτίωση δεν είναι αναπόφευκτη», γράφει στην έκθεση της Anthropic, η οποία ωστόσο προειδοποιεί ότι η δυνατότητα αυτή μπορεί να φτάσει νωρίτερα από ό,τι πιστεύουν οι κυβερνήσεις και οι θεσμοί.
«Τα διαθέσιμα στοιχεία δείχνουν ότι ο ανθρώπινος ρόλος συρρικνώνεται σε κάθε στάδιο της διαδικασίας ανάπτυξης της τεχνητής νοημοσύνης», ανέφερε η εταιρεία.
Το ερευνητικό της σκέλος, Anthropic Institute, σχεδιάζει τώρα να αναπτύξει τις δικλείδες ασφάλειας που θα επέτρεπαν μια εσκεμμένη επιβράδυνση.
Τους επόμενους μήνες η εταιρεία σχεδιάζει συζητήσεις με τη συμμετοχή πολιτικών, ερευνητών, φορέων της κοινωνίας των πολιτών και άλλων εταιρειών ΑΙ.
