Αντί για ανεξέλεγκτους πράκτορες τεχνητής νοημοσύνης που υποτίθεται ότι θα μας σκοτώσουν όλους, το Πεκίνο αντιμετωπίζει έναν πιο άμεσο εφιάλτη: ότι η τεχνολογία αυτή θα μπορούσε να βοηθήσει τους ανθρώπους να διαλύσουν εκείνοι πρώτοι την κοινωνία. ΣΥΝΕΧΕΙΑ ΕΔΩ
Αφού η Σίλικον Βάλεϊ πέρασε την τελευταία εβδομάδα εκφράζοντας ανησυχίες και φόβους ότι η τεχνητή νοημοσύνη μπορεί να καταστρέψει την ανθρωπότητα, η Κίνα απέρριψε τις δηλώσεις αυτές που θεωρεί "κινδυνολογία". Ο υπουργός Κρατικής Ασφάλειας Τσεν Γιξίν συνέταξε ένα έγγραφο την Κυριακή, προσφέροντας μια εικόνα των μεγαλύτερων φόβων της δικής του χώρας. Καμία αναφορά στον αφανισμό του ανθρώπινου είδους. Η κύρια ανησυχία αφορά τον τρόπο με τον οποίο η τεχνολογία θα μπορούσε να υπονομεύσει την κοινωνική σταθερότητα μέσω deepfakes, επιχειρήσεων επηρεασμού και γνωσιακού πολέμου μεγάλης κλίμακας. Δεύτερη ανησυχία αποτελούν οι απειλές στον κυβερνοχώρο, οι οποίες θα μπορούσαν να διευκολύνουν σημαντικά τη συλλογή ευαίσθητων και προσωπικών πληροφοριών.
Ένα πρόσφατο περιστατικό υποδηλώνει ότι οι δύο αυτοί κίνδυνοι μπορεί να συμβαδίζουν. Νωρίτερα αυτό το μήνα, μια μικρή ομάδα ερευνητών στον τομέα της κυβερνοασφάλειας στην Καλιφόρνια δημοσίευσε ευρήματα που έδειχναν πώς κατάφεραν να προσομοιώσουν μια μεγάλη παραβίαση ασφάλειας στο WeChat, το super-app που ουσιαστικά λειτουργεί ως βασική ψηφιακή υποδομή για την καθημερινή ζωή στην Κίνα. Η Calif, η εταιρεία με έδρα το Πάλο Άλτο που δημοσίευσε τη λεγόμενη απειλή "WeWorm", επιβεβαίωσε ότι η μητρική εταιρεία του WeChat, η Tencent Holdings Ltd., έχει μετριάσει τον κίνδυνο.
Ωστόσο, τα ευρήματά τους είναι αρκετά ανησυχητικά ώστε να θορυβήσουν τους αξιωματούχους του Πεκίνου: η ομάδα περιέγραψε λεπτομερώς πώς μπόρεσαν να χρησιμοποιήσουν εργαλεία τεχνητής νοημοσύνης για να δημιουργήσουν ένα ένα bug ικανό να αναλάβει τον πλήρη έλεγχο ενός λογαριασμού στο WeChat σε δευτερόλεπτα. Το μόνο που βλέπει ο απλός χρήστης είναι μια εισερχόμενη κλήση από κάποιον στις επαφές του.
Παρ’ όλα αυτά, υπάρχει ελπίδα. Η γνωστοποίηση προς την Tencent πραγματοποιήθηκε ομαλά και δεν υπήρξαν τεχνικά προβλήματα, μου είπε μέσω email ο Μπρους Ντανγκ της Calif, προσθέτοντας ότι οι μηχανικοί ανταποκρίθηκαν άμεσα και τα ζητήματα "επιλύθηκαν γρήγορα". Μια καταστροφή που θα μπορούσε να αποσταθεροποιήσει μια πλατφόρμα που χρησιμοποιούν πάνω από ένα δισεκατομμύριο άνθρωποι για να διευθύνουν επιχειρήσεις, να πληρώνουν για αγαθά και να επικοινωνούν αποτράπηκε χάρη στη γρήγορη διασυνοριακή συνεργασία.
Σε μια ανάρτηση, ο Διευθύνων Σύμβουλος της Calif, Τάι Ντουόνγκ, περιέγραψε το πείραμα ως "έκκληση προς τις Ηνωμένες Πολιτείες, την Κίνα και άλλες κυβερνήσεις να συνεργαστούν μεταξύ τους και με τον ιδιωτικό τομέα για την ανάπτυξη και την εφαρμογή της τεχνητής νοημοσύνης" με ασφάλεια. Κυρίως, πρόσθεσε ότι το να κατηγορούμε την τεχνητή νοημοσύνη και να περιορίζουμε την περαιτέρω ανάπτυξή της είναι "το λάθος δίδαγμα". Τα τρωτά σημεία υπάρχουν ήδη, αυτό που έχει αλλάξει είναι ότι η ΑΙ μπορεί να "τα εντοπίσει και να τα διορθώσει". Με άλλα λόγια, το περιστατικό με το WeChat δεν αφορά την επιβράδυνση της κούρσας, αλλά το να καταστεί η διαφάνεια μια βιώσιμη πορεία προς τα εμπρός, η οποία θα είναι πολιτικά αποδεκτή τόσο στην Ουάσινγκτον όσο και στο Πεκίνο.
Παρά τις αυξανόμενες προειδοποιήσεις για "αποκάλυψη" από τη Σίλικον Βάλεϊ, ο πρόεδρος Σι Τζινπίνγκ υπογράμμισε την πρόταση του Πεκίνου για ένα "ανοιχτό οικοσύστημα για την τεχνητή νοημοσύνη" κατά τη διάρκεια ομιλίας του στη σύνοδο κορυφής των BRICS στο Νέο Δελχί την Κυριακή. Ο Σι ζήτησε ένα πλαίσιο διακυβέρνησης "βασισμένο στη συναίνεση", που σημαίνει ότι δεν θα είναι μόνο οι ΗΠΑ που αποφασίζουν τους κανόνες. Αυτό συνάδει με την έκκληση του κορυφαίου αξιωματούχου των μυστικών υπηρεσιών του, Τσεν, για παγκόσμια συνεργασία όσον αφορά τους κινδύνους, αποφεύγοντας παράλληλα να επιτραπεί σε μία χώρα να έχει το μονοπώλιο της δύναμης της τεχνητής νοημοσύνης (μια όχι και τόσο διακριτική αναφορά στις ΗΠΑ). Το Πεκίνο πιθανότατα δεν θα συμφωνήσει σε μια "παύση" που θα επιβληθεί από την Ουάσινγκτον, αλλά αν θέλει να ηγηθεί παγκοσμίως στον τομέα αυτής της τεχνολογίας, πρέπει να είναι πρόθυμο να συνεργαστεί με άλλες χώρες όσον αφορά στις απειλές στις οποίες μπορούν τουλάχιστον να συμφωνήσουν και οι δύο πλευρές. Αυτό μπορεί να μην σταματήσει την τεχνολογική κούρσα, αλλά αποτελεί ένα μικρό βήμα προς την κατεύθυνση να γίνει πολύ λιγότερο απερίσκεπτη.
Η τελευταία έκκληση για την ανάγκη δικλείδων ασφαλείας στις ΗΠΑ είναι η απίστευτα κενή φράση "pace the frontier", μια πρόταση γεμάτη τεχνική ορολογία από τον Ντάριο Αμοντέι της Anthropic PBC, με την οποία συμφώνησαν - πράγμα σπάνιο - οι Σαμ Άλτμαν της OpenAI και Έλον Μασκ της xAI. Μια δήλωση που υποστηρίζει αυτή την ιδέα έχει συγκεντρώσει πάνω από χίλιες υπογραφές, από σχεδόν όλες τις κορυφαίες εταιρείες τεχνητής νοημοσύνης της Σίλικον Βάλεϊ. Ωστόσο, λίγοι φαίνεται να γνωρίζουν τι σημαίνει στην πραγματικότητα. Αν ανησυχούν ειλικρινά για το ενδεχόμενο η αυτοβελτιούμενη τεχνητή νοημοσύνη (self-improving AI) να οδηγήσει στον αφανισμό της ανθρωπότητας, οι αόριστες εκκλήσεις για επιβράδυνση της ανάπτυξής της αποτελούν μια εξαιρετικά αδύναμη απάντηση.
Παρ’ όλα αυτά, θα ήταν προς το συμφέρον των εταιρειών να αφιερώνουν λιγότερους πόρους στην προσπάθεια δημιουργίας μιας "μηχανής-Θεού" και περισσότερους στο να διασφαλίσουν ότι τα προϊόντα τους δεν χρησιμοποιούνται καταχρηστικά. Δεν μπορούν να εξαπολύουν κυβερνο-όπλα και ταυτόχρονα να πωλούν αμυντικά μέσα. Αντί για μια υποτιθέμενη "επιβράδυνση" της ανάπτυξης της τεχνητής νοημοσύνης με τους δικούς τους όρους, οι υπεύθυνοι χάραξης πολιτικής πρέπει να απαιτήσουν μέγιστη διαφάνεια σχετικά με τους κινδύνους που διαπιστώνουν τώρα, και όχι γνωστοποιήσεις μήνες μετά από ένα περιστατικό.
Προς τιμήν του, ο ίδιος ο Αμοντέι το είπε στο μανιφέστο του, που ξεπερνούσε τις 3.800 λέξεις και δημοσιεύθηκε μετά την παραίτηση ενός από τους υπαλλήλους του, ο οποίος έκρουσε τον κώδωνα του κινδύνου λέγοντας ότι οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη πιστεύουν ότι αυτή θα μπορούσε να "μας σκοτώσει όλους". Ανεξάρτητα από τις δεσμεύσεις που αναλαμβάνουν, ο Αμοντέι δήλωσε: "Το κοινό δικαιούται να γνωρίζει τι συμβαίνει". Έχει δίκιο.
Το Πεκίνο και η Ουάσινγκτον μπορεί να μην καταφέρουν να συμφωνήσουν σε πολλά θέματα όσον αφορά στη διακυβέρνηση. Ωστόσο, το περιστατικό με το WeChat αποτελεί ένδειξη ότι η διασυνοριακή επικοινωνία σχετικά με τους κινδύνους είναι εφικτή. Η τεχνητή νοημοσύνη έχει ήδη αλλάξει το διαδίκτυο και την ιδιωτικότητα. Φανταστείτε μια κυβερνοεπίθεση που θα εξέθετε κάθε ιδιωτική ψηφιακή επικοινωνία που είχατε ποτέ και το χάος που θα προκαλούσε σε επιχειρήσεις και κοινότητες. Η δημιουργία διαύλων επικοινωνίας για ερευνητές και εταιρείες, ώστε να μοιράζονται τις παρατηρήσεις τους και να επισημαίνουν αναδυόμενες απειλές, θα μετριάσει εγγενώς ορισμένες από τις επιπτώσεις αυτής της κούρσας και θα ανοίξει το δρόμο για τις πιο δύσκολες συζητήσεις.
Αν οι ΗΠΑ και η Κίνα δεν μπορούν να συνεργαστούν για τους κινδύνους που είναι ήδη ορατοί, υπάρχουν ελάχιστες ελπίδες ότι θα καταφέρουν να διαχειριστούν εκείνους για τους οποίους οι ίδιοι οι δημιουργοί της τεχνητής νοημοσύνης προειδοποιούν ότι θα μπορούσαν να σημαίνουν το τέλος για όλους μας.
======================
Σχόλια