Δύο Αμερικανοί επιστήμονες είναι πεπεισμένοι : Αν κάποιος σκεφτεί την ιδέα της κατασκευής μιας τεχνητής υπερνοημοσύνης, τότε όλοι θα πεθάνουμε. Ένας από αυτούς είναι ο Nate Soares. Σε συνέντευξη του στη Welt, σκιαγραφεί μια ζοφερή εικόνα.
Ένα βιβλίο προκαλεί αίσθηση στις ΗΠΑ: «if Anyone Builds it, Everyone Dies» των Eliezer Yudkowski και Nate Soares. Ο τίτλος είναι η θέση τους: Αν έστω και ένα εργαστήριο κάπου κατασκευάσει μια τεχνητή υπερ-νοημοσύνη (ASI), όλοι θα πεθάνουμε. Μια ASI όχι μόνο θα ήταν ανώτερη από τους ανθρώπους, όπως οι σημερινές Τεχνητές Νοημοσύνης, σε μεμονωμένες εργασίες - από το σκάκι μέχρι τις ιατρικές διαγνώσεις και τη σύνοψη και τη μετάφραση κειμένων - αλλά από κάθε άποψη και ποιότητα.
Οι Yudkowski και Soares ερευνούν και δημοσιεύουν για την τεχνητή νοημοσύνη εδώ και 20 χρόνια. Στο βιβλίο τους, καταδεικνύουν ότι είναι προς το παρόν αδύνατο να γνωρίζουμε ποιους στόχους θα έθετε μια υπερ-νοημοσύνη για τον εαυτό της, αλλά ότι προφανείς στόχοι - όπως η αυτοβελτίωση και η αναπαραγωγή της Τεχνητής Υπερνοημοσύνης, η εξάλειψη του ανταγωνισμού, ο έλεγχος της Γης και ο αποικισμός του ηλιακού συστήματος - θα κατανάλωναν τεράστιες ποσότητες ενέργειας και άλλων πόρων και θα κατέστρεφαν τα μέσα διαβίωσής μας. Στις ΗΠΑ, οι Yudkowski και Soares λαμβάνονται σοβαρά υπόψη από πολλούς ειδικούς. Το βιβλίο τους δεν έχει βρει ακόμη εκδότη στη Γερμανία.
WELT : Πώς διασφαλίζουμε ότι προγραμματίζουμε την Τεχνητή Νοημοσύνη έτσι ώστε να μην μας εξαφανίσει ; Αυτό δεν είναι δυνατό με μια Τεχνητή Νοημοσύνη.
Nate Soares : Δεν είναι ουσιαστικά αδύνατο να προγραμματίσουμε μια Τεχνητή Νοημοσύνη να κάνει καλά πράγματα και όχι παράξενα, εξωγήινα πράγματα. Το πρόβλημα είναι: δεν ξέρουμε πώς. Στους περισσότερους τομείς της γνώσης, μαθαίνουμε μέσω δοκιμών και σφαλμάτων. Αλλά εδώ, ένα λάθος θα μπορούσε να είναι μοιραίο για την ανθρωπότητα. Επιπλέον, η Τεχνητή Νοημοσύνη, και ιδιαίτερα η υπερ-νοημοσύνη, εκτρέφεται, δεν κατασκευάζεται. Είναι πιο εύκολο να προγραμματίσεις κάτι που καταλαβαίνεις επειδή το έχεις κάνει.
WELT: Το βιβλίο σας υπονοεί ότι μια ASI (Τεχνητή Υπερνοημοσύνη) που θα δραπετεύσει από το εργαστήριο θα μας σκοτώσει όλους. Καταλαβαίνω ότι θα σκότωνε τους ανθρώπους που θα μπορούσαν να την απειλήσουν, αλλά γιατί να θέλει να τους σκοτώσει όλους ;
Soares: Δεν ισχυριζόμαστε ότι η Τεχνητή Νοημοσύνη θέλει να μας σκοτώσει ή είναι κακόβουλη. Κι όμως, θα είχε λόγους να μας σκοτώσει. Πρώτον, όπως λέτε, επειδή οι άνθρωποι θα μπορούσαν να γίνουν επικίνδυνοι για την Τεχνητή Νοημοσύνη. Θα μπορούσαν να την κλείσουν, να την καταστρέψουν ή να κατασκευάσουν μια αντίπαλη Τεχνητή Νοημοσύνη. Ίσως τότε η Τεχνητή Νοημοσύνη να καταστρέψει όλους τους υπολογιστές, όχι όλους τους ανθρώπους.
WELT: Πράγμα που ισοδυναμεί με το ίδιο πράγμα...
Soares : Πράγμα που μας φέρνει στον δεύτερο λόγο για τον οποίο θα πεθάνουμε ακόμα κι αν η Τεχνητή Νοημοσύνη δεν προσπαθεί ενεργά να μας σκοτώσει. Για τους περισσότερους από τους στόχους που μπορεί να έχει μια Τεχνητή Νοημοσύνη, είμαστε εντελώς άσχετοι, αλλά είναι πιο εύκολο να τους επιτύχουμε όσο περισσότερη ενέργεια έχει η Τεχνητή Νοημοσύνη. Έτσι, θα μπορούσε να γεμίσει ολόκληρη τη Γη με ηλιακούς συλλέκτες και αυτοαναπαραγόμενα εργοστάσια, ώστε να μην αναπτύσσονται φυτά και να πεθαίνουμε στο σκοτάδι. Θα μπορούσε να χρησιμοποιήσει τους ωκεανούς για να ψύξει τα τεράστια κέντρα δεδομένων της και να τα βράσει.
WELT : Είμαι επιφυλακτικός απέναντι στους προφήτες της Ημέρας της Κρίσης. Έτσι, εκτός από την ατομική βόμβα, την κλιματική αλλαγή, τους αστεροειδείς και τους φονικούς ιούς, τώρα έχουμε μια φονική Τεχνητή Νοημοσύνη.
Σοάρες : Λοιπόν, κοιτάξτε την ατομική βόμβα. Η ανθρωπότητα επέζησε, τουλάχιστον μέχρι σήμερα. Αλλά όχι επειδή ήταν ασφαλής. Αλλά επειδή η ανθρωπότητα αναγνώρισε το πρόβλημα και ενώθηκε για να το λύσει. Οι άνθρωποι που ανησυχούσαν για μια πυρηνική αποκάλυψη δεν ήταν καταστροφολόγοι. Αλλά η ανθρωπότητα είδε το πρόβλημα και έκανε ένα βήμα πίσω από την άβυσσο. Δεν λέω: Όλοι θα πεθάνουμε. Λέω : Έχουμε ένα πρόβλημα, πρέπει να κάνουμε ένα βήμα πίσω.
WELT: Αυτό σημαίνει: Κανείς δεν επιτρέπεται να κατασκευάσει μια Τεχνητή Νοημοσύνη. Προτείνετε μια διεθνή συνθήκη για να μην κατασκευάζονται κέντρα δεδομένων με περισσότερες από εννέα εξελιγμένες GPU.
Σοάρες: Θα πρέπει να τα πάμε καλύτερα από ό,τι τα πήγαμε με τα πυρηνικά όπλα, και αυτό είναι δύσκολο. Αλλά χρειάστηκαν στη Βόρεια Κορέα 50 με 60 χρόνια για να αναπτύξει πυρηνικά όπλα. Αυτός είναι σίγουρα ένας λόγος ελπίδας. Ίσως μια συνθήκη να μας αγοράσει μόνο 30 με 50 χρόνια. Αλλά χρειαζόμαστε απλώς χρόνο...
WELT: Να καταλάβουμε πώς θα μπορούσε να λειτουργήσει η «ευθυγράμμιση» των στόχων της τεχνητής νοημοσύνης με τους δικούς μας ;
Soares : Ή να κάνουμε τους ανθρώπους πιο τεχνητά ευφυείς, ώστε να μπορούν να το καταλάβουν αυτό. Η βιοτεχνολογία αναπτύσσεται με γοργούς ρυθμούς. Όπως είπα, το πρόβλημα με την ευθυγράμμιση είναι ότι πρέπει να το κάνεις σωστά με την πρώτη φορά. Υπάρχουν παραδείγματα αυτού. Η επιστήμη γενικά λειτουργεί μέσω δοκιμής και λάθους, αλλά ο Άλμπερτ Αϊνστάιν διατύπωσε τις θεωρίες του για τον χώρο, τον χρόνο και την ταχύτητα πολύ πριν μπορέσουμε να επαληθεύσουμε δεδομένα από ατομικά ρολόγια σε δορυφόρους που επιβεβαίωναν τις θεωρίες του. Ειδικά στην επιστήμη των υπολογιστών, άνθρωποι όπως η Ada Lovelace, ο Charles Babbage και ο Alan Turing έθεσαν τα θεμέλια πριν καν υπάρξουν οι υπολογιστές. Έτσι, μπορείτε να πετύχετε τη σωστή ευθυγράμμιση με την πρώτη φορά αν οι άνθρωποι είναι αρκετά ευφυείς: 30 χρόνια χρόνου και άνθρωποι με τεχνητά ενισχυμένη νοημοσύνη: αυτό θα μπορούσε να λειτουργήσει. Αλλά το πρώτο βήμα είναι μια διεθνής συνθήκη που θα μας αγοράσει τα 30 χρόνια. Αυτή θα ήταν η λογική προσέγγιση.
WELT: Και αν αυτό δεν συμβεί ;
Σοάρες: Αν οι πολιτικοί αναγνωρίσουν τους κινδύνους της υπερ-νοημοσύνης και αν όλοι προσπαθήσουν να σαμποτάρουν την υπερ-νοημοσύνη ο ένας του άλλου, αυτό θα μπορούσε να σταματήσει την ανάπτυξή της σχετικά αποτελεσματικά, ακόμη και χωρίς συνθήκη. Είδαμε πώς αναπτύχθηκε και χρησιμοποιήθηκε ο ιός Stuxnet από κρατικούς παράγοντες εναντίον άλλων κρατών.
WELT: Αυτό ακούγεται πιο ρεαλιστικό. Πολλοί πολιτικοί επιστήμονες πιστεύουν ότι δεν ήταν οι διεθνείς συνθήκες που μας έσωσαν από την πυρηνική αποκάλυψη, αλλά η προοπτική της αμοιβαίας εξόντωσης.
Σοάρες: Ναι, αλλά είχαν τη βόμβα. Η υπερ-νοημοσύνη δεν αφορά το να την αποκτήσουν πρώτοι υπεύθυνοι παράγοντες. Αν μια ομάδα αναπτύξει μια ASI, όλοι θα πεθάνουμε. Δεν μπορείς να αλυσοδέσεις μια ASI. Και το πρόβλημα είναι: Ίσως μια ομάδα πιστεύει ότι είναι η μόνη που μπορεί να το κάνει σωστά. Βλέπουμε μια αχτίδα ελπίδας στο γεγονός ότι τα κορυφαία εργαστήρια δεν το λένε αυτό. Ο Dario Amodei της αμερικανικής εταιρείας Anthropic δήλωσε πρόσφατα ότι υπάρχει 25% πιθανότητα εξαιρετικά κακών συνεπειών στην ανάπτυξη της ASI, με την οποία εννοεί τα σενάρια που περιγράφουμε στο βιβλίο μας. Δεν θα έμπαιναν σε αεροπλάνο αν υπήρχε 25% πιθανότητα συντριβής. Αν οι άνθρωποι συνειδητοποιούσαν ότι ο αγώνας για την ανάπτυξη της ASI είναι αυτοκτονία, ίσως να σταματούσαν στο χρόνο.
WELT: Είναι ενδιαφέρον που παραθέτετε τον Διευθύνοντα Σύμβουλο της Anthropic. Η εταιρεία χρησιμοποιεί την Τεχνητή Νοημοσύνη της "Claude" για να αναπτύξει τον "Claude II". Δεν ξέρουμε τι ταΐζει ο Claude τον διάδοχό του.
Σοάρες: Είναι όλοι απερίσκεπτοι ηλίθιοι. Ίσως υπερβάλλουν για τον ρόλο του Claude στην αναπαραγωγή του Claude Ii. Αλλά πολλοί πολύ έξυπνοι άνθρωποι ξοδεύουν πολλά χρήματα αναπτύσσοντας Τεχνητή Νοημοσύνη που αναπτύσσει την Τεχνητή Νοημοσύνη. Και όταν αυτός ο κύκλος κλείσει, πολλά μπορούν να συμβούν πολύ γρήγορα.
WELT: Στη Σιγκαπούρη, η εταιρεία Sapient Intelligence έχει αναπτύξει μια εναλλακτική λύση στα Μεγάλα Γλωσσικά Μοντέλα (LLM). Το ονομάζουν HRM, Ιεραρχικό Μοντέλο Συλλογιστικής. Μιμείται τη δομή του ανθρώπινου εγκεφάλου και απαιτεί μόνο ένα κλάσμα της μνήμης που απαιτείται από ένα LLM. Όχι ακόμα υπερνοημοσύνη, αλλά αυτό είναι θέμα χρόνου.
Soares : Είτε πρόκειται για HRM είτε για κάτι άλλο: Γνωρίζουμε ότι πρέπει να υπάρχουν πολύ πιο αποτελεσματικά συστήματα Τεχνητής Νοημοσύνης. Πώς το ξέρουμε αυτό ; Επειδή η εκπαίδευση ενός LLM απαιτεί τόση ενέργεια όσο η λειτουργία μιας μικρής πόλης. Η εκπαίδευση ενός ανθρώπου απαιτεί 100 watt, όσο η λειτουργία μιας μεγάλης λάμπας. Έτσι, η Τεχνητή Νοημοσύνη είναι εξαιρετικά αναποτελεσματική. Και γι' αυτό είναι πιο εύκολο να περιοριστεί η Τεχνητή Νοημοσύνη τώρα αν δράσουμε γρήγορα. Τώρα χρειάζονται εξειδικευμένα τσιπ, εξειδικευμένους ειδικούς και τεράστιες ποσότητες ενέργειας. Έτσι, τώρα μπορούμε να τους σταματήσουμε. Αν περιμένουμε μέχρι η Τεχνητή Νοημοσύνη να τρέξει σε κάθε υπολογιστή, θα βρεθούμε σε μια πολύ πιο δύσκολη κατάσταση.
WELT: Αν δεν είμαστε ήδη εκεί.
Soares: Ελπίζω όχι. Με ρωτούν αν μπορούμε να περιμένουμε μέχρι να μάθουμε με βεβαιότητα αν η υπερνοημοσύνη είναι όντως τόσο επικίνδυνη όσο ισχυριζόμαστε. Όχι, δεν μπορούμε. Πρέπει να δράσουμε τώρα, παρόλο που και επειδή δεν είμαστε σίγουροι.
Die Welt
4/10/25
===============
via Babis Georges Petrakis
========================
Οι νέες
λογισμικές προβλεπτικές μπορεί να συνεχίσουν να παράγουν δείκτες και
νούμερα, αλλά τα «μεγέθη» δεν πατάνε πάνω σε απλές παραδοχές· πατάνε
πάνω σε «απαιτήσεις» μηχανικής μάθησης δεδομένων και σε μοντέλα υψηλής
αλγοριθμικής μηχανικής
Πλέον στις οικονομοτεχνικές μελέτες τα νέα παιδιά που φτιάχνουν πλάνα για «επιχειρηματικούς και μηχανομαθησιακούς στόχους» πρέπει πρώτα να κατανοήσουν τον κόσμο της «μηχανικής μάθησης».
Στο
πρόσφατα μεταφρασμένο βιβλίο (εκδ. Παπασωτηρίου) η συγγραφέας Chip
Huyen, συνιδρύτρια της Claypot AI, όπως διαβάζουμε στο οπισθόφυλλο,
«εξετάζει κάθε σχεδιαστική απόφαση –όπως πώς πρέπει να γίνεται η
επεξεργασία και η δημιουργία των δεδομένων εκπαίδευσης, ποια
χαρακτηριστικά πρέπει να χρησιμοποιούνται, πόσο συχνά πρέπει να
επανεκπαιδεύονται τα μοντέλα και ποιοι δείκτες πρέπει να
παρακολουθούνται– με γνώμονα το πώς μπορεί να βοηθήσει το σύστημά σας ως
σύνολο να πετύχει τους στόχους του. Το δε επαναληπτικό μεθοδολογικό
πλαίσιο που παρουσιάζεται στο βιβλίο στηρίζεται σε πραγματικές μελέτες
περίπτωσης, οι οποίες συνοδεύονται από πληθώρα αναφορών».
Οι νέες λοιπόν λογισμικές προβλεπτικές μπορεί να συνεχίσουν να παράγουν δείκτες και νούμερα, αλλά τα «μεγέθη» δεν πατάνε πάνω σε απλές παραδοχές· πατάνε πάνω σε «απαιτήσεις» μηχανικής μάθησης δεδομένων και σε μοντέλα υψηλής αλγοριθμικής μηχανικής.
Οι καινούργιες έννοιες πάνω στις προβλέψεις τις οικονομικές έχουν ίδια ονομασία μεν αλλά νέα μηχανική υποδομή: Αξιοπιστία, Κλιμακωσιμοτητα, Συντηρησιμοτητα, Προσαρμοστικότητα, Επαναληπτικότητα.
Τα νέα επίδικα στην οικονομική πρόβλεψη σχετίζονται με υψηλή υπολογιστική και αλγοριθμικό τεϊλορισμό. Με μεθοδική διατύπωση μηχανομαθησιακών ορίων στη διαχείριση δεδομένων.
Αντικειμενικές συναρτήσεις αντικαθιστούν τις υποκειμενικές προσδοκίες (ο νους παλεύει έναντι των δεδομένων).
Κανένα business plan και καμία στρατηγική μελέτη δεν μπορεί να σταθεί εάν δεν «πατάει» σε υψηλού επιπέδου νέες τεχνοδομές και νόρμες προγραμματισμού μοντέλων μηχανικής μάθησης.
Στο συγκεκριμένο εκπληκτικό τεχνικό βιβλίο μαθαίνουμε. π.χ., για τις «γραμμοτακτικές και στηλοτακτικές διαμορφώσεις» και για «κειμενικές και δυαδικές».
Το γενικότερο υπόδειγμα υπολογιστικής σε λογισμικά προβλέψεων μεγεθών απόδοσης στηρίζεται πάνω στο «σχεσιακό μοντέλο (π.χ. τα NoSQL).
Δομημένα και αδόμητα δεδομένα τροφοδοτούν τις μηχανές αποθήκευσης και αναζήτησης μετα-δεδομένων για επεξεργασία. Αυτή ακριβώς η συναλλακτική και αναλυτική επεξεργασία αλλάζει όλη την επιχειρησιακή οικονομία και την παραγωγικότητα.
Εξαγωγή, μετασχηματισμός και φόρτωση δεδομένων καθορίζουν τη δυναμική της ροής των δεδομένων. Τα μοντέλα μηχανικής μάθησης είναι αυτά που εξουσιάζουν τα μοντέλα για τις προβλέψεις. Και αυτά που εξουσιάζουν ουσιαστικά την οικονομία (και τις κοινωνίες φυσικά).
«Σε ένα ακμάζον αλλά χαοτικό οικοσύστημα, μια εμπεριστατωμένη από άκρο σε άκρο θεώρηση της μηχανικής μάθησης λειτουργεί και ως χάρτης και ως πυξίδα», λέει ο Jacopo Tagliabue, διευθυντής τεχνητής νοημοσύνης στην Coveo.
Χωρίς αυτήν την πυξίδα, η αλήθεια είναι ότι δεν μπορεί να υπάρξει η περίφημη ευθυγράμμιση της «ομαλής αστοχίας» γύρω από το σύγχρονο οικονομικό και τεχνολογικό σύστημα..
Σχόλια