Κανονικά αυτή τη στιγμή θα έγραφα για τις γεωπολιτικές επιπτώσεις του πολέμου με το Ιράν, και σίγουρα θα το κάνω σύντομα ξανά. Αλλά θέλω να διακόψω αυτή τη σκέψη για να αναδείξω μια εκπληκτική πρόοδο στην τεχνητή νοημοσύνη — μια πρόοδο που ήρθε νωρίτερα από ό,τι περιμέναμε και που θα έχει εξίσου βαθιές γεωπολιτικές επιπτώσεις.
Η εταιρεία τεχνητής νοημοσύνης Anthropic ανακοίνωσε την Τρίτη ότι θα κυκλοφορήσει τη νέα γενιά του μεγάλου γλωσσικού της μοντέλου, με την ονομασία Claude Mythos Preview, αλλά μόνο σε ένα περιορισμένο κονσόρτσιουμ περίπου 40 τεχνολογικών εταιρειών, μεταξύ των οποίων οι Google, Broadcom, Nvidia, Cisco, Palo Alto Networks, Apple, JPMorgan Chase, Amazon και Microsoft. Ορισμένοι από τους ανταγωνιστές της είναι μεταξύ αυτών των εταίρων, επειδή αυτό το νέο μοντέλο ΤΝ αντιπροσωπεύει ένα «βήμα αλλαγής» στις επιδόσεις που έχει ορισμένες κρίσιμες θετικές και αρνητικές επιπτώσεις για την κυβερνοασφάλεια και την εθνική ασφάλεια των ΗΠΑ.
Η καλή είδηση είναι ότι η Anthropic ανακάλυψε κατά την ανάπτυξη του Claude Mythos ότι η ΤΝ δεν μπορούσε μόνο να γράφει κώδικα λογισμικού πιο εύκολα και με μεγαλύτερη πολυπλοκότητα από οποιοδήποτε μοντέλο είναι διαθέσιμο σήμερα, αλλά ως παράγωγο αυτής της ικανότητας, μπορούσε επίσης να εντοπίζει ευπάθειες σε πρακτικά όλα τα πιο δημοφιλή συστήματα λογισμικού του κόσμου πολύ πιο εύκολα από πριν.
Η κακή είδηση είναι ότι αν αυτό το εργαλείο πέσει στα χέρια κακόβουλων παραγόντων, θα μπορούσαν να χακάρουν σχεδόν κάθε μεγάλο σύστημα λογισμικού στον κόσμο, συμπεριλαμβανομένων και αυτών που έχουν φτιάξει οι εταιρείες του κονσόρτσιουμ.
Δεν πρόκειται για διαφημιστικό κόλπο. Στις ημέρες πριν από αυτή την ανακοίνωση, εκπρόσωποι των κορυφαίων τεχνολογικών εταιρειών είχαν ιδιωτικές συνομιλίες με την κυβέρνηση Τραμπ σχετικά με τις επιπτώσεις για την ασφάλεια των Ηνωμένων Πολιτειών και όλων των άλλων χωρών που χρησιμοποιούν αυτά τα πλέον ευάλωτα συστήματα λογισμικού, όπως μου είπαν τεχνολόγοι που συμμετέχουν.
Και για καλό λόγο. Όπως ανέφερε η Anthropic σε γραπτή δήλωση την Τρίτη, μόνο τον τελευταίο μήνα «το Mythos Preview έχει ήδη εντοπίσει χιλιάδες ευπάθειες υψηλής σοβαρότητας, συμπεριλαμβανομένων ορισμένων σε κάθε μεγάλο λειτουργικό σύστημα και πρόγραμμα περιήγησης ιστού. Δεδομένου του ρυθμού προόδου της ΤΝ, δεν θα αργήσει πολύ μέχρι αυτές οι ικανότητες να διαδοθούν, ενδεχομένως και πέρα από τους παράγοντες που έχουν δεσμευτεί να τις αναπτύσσουν με ασφάλεια. Οι επιπτώσεις — οικονομικές, στη δημόσια ασφάλεια και στην εθνική ασφάλεια — θα μπορούσαν να είναι σοβαρές».
Το Project Glasswing, όπως ονόμασε η Anthropic το κονσόρτσιουμ, είναι μια πρωτοβουλία για να συνεργαστεί με τις μεγαλύτερες και πιο αξιόπιστες τεχνολογικές εταιρείες και τους παρόχους κρίσιμων υποδομών, συμπεριλαμβανομένων των τραπεζών, «ώστε να θέσουμε αυτές τις ικανότητες στην υπηρεσία αμυντικών σκοπών», πρόσθεσε η εταιρεία, και να δώσει στις κορυφαίες τεχνολογικές εταιρείες προβάδισμα στην ανεύρεση και διόρθωση αυτών των ευπαθειών.
«Δεν σχεδιάζουμε να κάνουμε το Claude Mythos Preview ευρέως διαθέσιμο, αλλά ο τελικός μας στόχος είναι να επιτρέψουμε στους χρήστες μας να αναπτύσσουν με ασφάλεια μοντέλα της κλάσης Mythos σε μεγάλη κλίμακα — για σκοπούς κυβερνοασφάλειας, αλλά και για τα αναρίθμητα άλλα οφέλη που θα φέρουν τέτοια ιδιαίτερα ικανά μοντέλα», ανέφερε η Anthropic.
Η δική μου μετάφραση: Θεέ μου! Η υπερνοήμων ΤΝ φτάνει πιο γρήγορα από ό,τι περιμέναμε, τουλάχιστον σε αυτόν τον τομέα. Ξέραμε ότι γινόταν εκπληκτικά καλή στο να επιτρέπει σε οποιονδήποτε, ανεξαρτήτως γνώσεων υπολογιστών, να γράφει κώδικα λογισμικού. Αλλά ακόμα και η Anthropic φαίνεται ότι δεν περίμενε ότι θα γινόταν τόσο καλή, τόσο γρήγορα, στο να βρίσκει τρόπους να εντοπίζει και να εκμεταλλεύεται ελαττώματα σε υπάρχοντα προγράμματα.
Η Anthropic ανέφερε ότι βρήκε κρίσιμες εκθέσεις σε κάθε μεγάλο λειτουργικό σύστημα και πρόγραμμα περιήγησης ιστού, πολλά από τα οποία ελέγχουν τα δίκτυα ηλεκτροδότησης, τα υδραγωγεία, τα συστήματα κρατήσεων αεροπορικών εταιρειών, τα δίκτυα λιανικής, τα στρατιωτικά συστήματα και τα νοσοκομεία σε όλο τον κόσμο.
Αν αυτό το εργαλείο ΤΝ γινόταν πράγματι ευρέως διαθέσιμο, θα σήμαινε ότι η ικανότητα να χακάρεις οποιοδήποτε μεγάλο σύστημα υποδομής — μια δύσκολη και δαπανηρή προσπάθεια που παλιά ήταν ουσιαστικά προνόμιο μόνο ειδικών του ιδιωτικού τομέα και υπηρεσιών πληροφοριών — θα γινόταν διαθέσιμη σε κάθε εγκληματικό παράγοντα, τρομοκρατική οργάνωση και χώρα, όσο μικρή κι αν είναι.
Δεν υπερβάλλω καθόλου όταν λέω ότι ακόμα και παιδιά θα μπορούσαν να το χρησιμοποιήσουν κατά λάθος. Μπαμπάδες και μαμάδες, ετοιμαστείτε για:
«Αγάπη μου, τι έκανες μετά το σχολείο σήμερα;»
«Μαμά, εγώ και οι φίλοι μου ρίξαμε κάτω το ηλεκτρικό δίκτυο. Τι έχουμε για βραδινό;»
Αυτός είναι ο λόγος που η Anthropic δίνει προσεκτικά ελεγχόμενες εκδόσεις στους κύριους παρόχους λογισμικού, ώστε να μπορέσουν να εντοπίσουν και να διορθώσουν τις ευπάθειες πριν το κάνουν οι κακοποιοί — ή τα παιδιά σας.
Σε στιγμές σαν κι αυτή, προτιμώ να κάνω μια βαθιά βουτιά με τον τεχνολογικό μου μέντορα, τον Craig Mundie, πρώην διευθυντή έρευνας και στρατηγικής στη Microsoft, μέλος του Συμβουλευτικού Συμβουλίου του Προέδρου Ομπάμα για την Επιστήμη και την Τεχνολογία, και συν-συγγραφέα, μαζί με τον Henry Kissinger και τον Eric Schmidt, του βιβλίου για την ΤΝ με τίτλο «Genesis».
Κατά τη γνώμη μας, καμία χώρα στον κόσμο δεν μπορεί να λύσει μόνη της αυτό το πρόβλημα. Η λύση — αυτό μπορεί να ξαφνιάσει πολλούς — πρέπει να ξεκινήσει από τις δύο υπερδυνάμεις της ΤΝ, τις ΗΠΑ και την Κίνα. Έχει γίνει πλέον επείγον να μάθουν να συνεργάζονται για να αποτρέψουν τους κακόβουλους παράγοντες από το να αποκτήσουν πρόσβαση σε αυτό το επόμενο επίπεδο κυβερνοϊκανοτήτων.
Ένα τόσο ισχυρό εργαλείο θα απειλούσε και τις δύο χώρες, αφήνοντάς τις εκτεθειμένες σε εγκληματίες μέσα στις χώρες τους, καθώς και σε τρομοκρατικές ομάδες και άλλους εξωτερικούς αντιπάλους. Θα μπορούσε εύκολα να γίνει μεγαλύτερη απειλή για κάθε μία από τις δύο χώρες από ό,τι οι δύο χώρες η μία για την άλλη.
Πράγματι, πρόκειται δυνητικά για μια τόσο θεμελιώδη και σημαντική καμπή όσο ήταν η εμφάνιση της αμοιβαίας εξασφαλισμένης καταστροφής και η ανάγκη για μη διάδοση των πυρηνικών. Οι ΗΠΑ και η Κίνα πρέπει να συνεργαστούν για να προστατεύσουν τον εαυτό τους, καθώς και τον υπόλοιπο κόσμο, από ανθρώπους και αυτόνομες ΤΝ που χρησιμοποιούν αυτή την τεχνολογία — πολύ περισσότερο από ό,τι χρειάζεται να ανησυχούν για τη Ρωσία.
Είναι τόσο σημαντικό και επείγον που θα έπρεπε να είναι ένα από τα κύρια θέματα στην ατζέντα της συνόδου κορυφής μεταξύ Τραμπ και του Προέδρου Σι Τζινπίνγκ στο Πεκίνο τον επόμενο μήνα.
«Αυτό που παλιά ήταν προνόμιο μεγάλων χωρών, μεγάλων στρατών, μεγάλων εταιρειών και μεγάλων εγκληματικών οργανώσεων με μεγάλα προϋπολογισμούς — αυτή η ικανότητα να αναπτύσσουν εξελιγμένες επιχειρήσεις κυβερνοεπιθέσεων — μπορεί να γίνει εύκολα διαθέσιμο σε μικρούς παράγοντες», εξήγησε ο Mundie. «Αυτό που πρόκειται να δούμε δεν είναι τίποτα λιγότερο από την πλήρη εκδημοκρατικοποίηση των ικανοτήτων κυβερνοεπίθεσης».
Αυτό σημαίνει ότι οι υπεύθυνες κυβερνήσεις, σε συνεννόηση με τις εταιρείες που κατασκευάζουν αυτά τα εργαλεία ΤΝ και τις υποδομές λογισμικού, πρέπει να κάνουν τρία πράγματα επειγόντως, όπως υποστηρίζει ο Mundie.
Πρώτα απ’ όλα, λέει, πρέπει να «ελέγξουμε προσεκτικά την κυκλοφορία αυτών των νέων υπερνοήμονων μοντέλων και να διασφαλίσουμε ότι θα δοθούν μόνο στις πιο υπεύθυνες κυβερνήσεις και εταιρείες».
Στη συνέχεια, πρέπει να χρησιμοποιήσουμε τον χρόνο που κερδίζουμε για να διανείμουμε αμυντικά εργαλεία στους καλούς παράγοντες «ώστε το λογισμικό που τροφοδοτεί τις κρίσιμες υποδομές τους να μπορεί να εντοπίσει και να διορθώσει όλα τα ελαττώματά του πριν οι χάκερ αποκτήσουν αναπόφευκτα αυτά τα εργαλεία με τον έναν ή τον άλλον τρόπο». (Παρεμπιπτόντως, το κόστος διόρθωσης των ευπαθειών που σίγουρα θα ανακαλυφθούν σε παλαιά συστήματα λογισμικού, όπως αυτά των εταιρειών τηλεπικοινωνιών, θα είναι σημαντικό. Και μετά πολλαπλασιάστε το σε ολόκληρη τη βιομηχανική μας βάση.)
Τέλος, υποστηρίζει ο Mundie, πρέπει να συνεργαστούμε με την Κίνα και όλες τις υπεύθυνες χώρες για να δημιουργήσουμε ασφαλείς, προστατευμένους χώρους εργασίας μέσα σε όλα τα κρίσιμα δίκτυα, δημόσια και ιδιωτικά, στους οποίους οι αξιόπιστες εταιρείες και κυβερνήσεις «θα μπορούν να μεταφέρουν όλες τις κρίσιμες υπηρεσίες τους — ώστε να προστατεύονται από μελλοντικές επιθέσεις hacking».
Θα είναι ενδιαφέρον να δούμε τι θα θυμάται περισσότερο η ιστορία από τις 7 Απριλίου 2026 — την αναβολή της αμερικανικής ρίψης βομβών στο Ιράν ή την προσεκτικά ελεγχόμενη κυκλοφορία του Claude Mythos Preview από την Anthropic και τους τεχνικούς της συμμάχους
Thomas Friedman
The New York Times
9/4/26
via Babis Georges Petrakis
================
Anthropic’s Restraint Is a Terrifying Warning Sign
Σχόλια