Ο Yuval Noah Harari και ο Yann Le Cun συνομιλούν και διαφωνούν για το μέλλον της τεχνητής νοημοσύνης (Μέρος Πρώτο).
Είναι το βασικό θέμα που απασχολεί τόσο τον Σι Τζινπίνγκ όσο και τον Τζο Μπάιντεν. Ο Βλαντιμίρ Πούτιν δήλωσε το 2017 ότι η χώρα που θα γίνονταν ηγέτης στον τομέα της τεχνητής νοημοσύνης θα γινόταν και αυτή που θα κυριαρχούσε στον κόσμο. Σήμερα είναι αδύνατο να αγνοήσουμε τις εξελίξεις στην τεχνητή νοημοσύνη που μπορεί να διευκολύνει τις έρευνες στο Διάστημα ή την τελειοποίηση υλικών, να επιτρέπει την αναπαράσταση της αναδίπλωσης των πρωτεϊνών ή και να παραμορφώνει την αλήθεια.
Τι να σκεφτούμε για αυτήν την πρόσφατη θεαματική επιτάχυνση αυτού που περιγράφηκε για πρώτη φορά ως «τεχνητή νοημοσύνη» το 1956 σε ένα συνέδριο στο Ντάρτμουθ ; Από διαφορετικές αφετηρίες ο Yann Le Cun και ο Yuval Noah Harari συζητούν για τις πρόσφατες εξελίξεις. Ο ένας είναι ερευνητής βραβευμένος με το βραβείο Turing, ο άλλος ιστορικός και διάσημος συγγραφέας. Ο πρώτος δεν βλέπει κανένα λόγο πανικού ενώ ο δεύτερος φοβάται ότι θα οδηγήσει στην κατάρρευση του πολιτισμού μας. Ο Yuval Noah Harari υπέγραψε επίσης την ανοιχτή επιστολή του think tank The Future of Life, όπως και σχεδόν 30.000 ερευνητές, ζητώντας ένα εξάμηνο διάλειμμα στην ανάπτυξη εργαλείων πιο ισχυρών από το GPT-4 ενώ ο Yann Le Cun είδε σε αυτήν την έκκληση μόνο μια έκφραση φόβου από προφήτες της καταστροφής.
Le Point : Ας ξεκινήσουμε με το πιο σημαντικό : ποιος είναι ο ορισμός σας για τη νοημοσύνη ;
Yann Le Cun : Η νοημοσύνη είναι να μπορείς να αντιληφθείς μια κατάσταση και μετά να σχεδιάσεις μια σειρά ενεργειών και να ενεργήσεις για να πετύχεις έναν στόχο.
Yuval Noah Harari : Η νοημοσύνη είναι η ικανότητα επίλυσης προβλημάτων. Τόσο οι άνθρωποι που καταφέρνουν να φτάσουν στο φεγγάρι όσο και οι μονοκύτταροι οργανισμοί που αναζητούν τροφή είναι έξυπνοι. Δεν είναι το ίδιο με τη συνείδηση. Στον άνθρωπο είναι ανακατεμένα. Η συνείδηση είναι η ικανότητα να νιώθεις πόνο, ευχαρίστηση, αγάπη, μίσος. Οι άνθρωποι μερικές φορές χρησιμοποιούν τη συνείδηση για να λύσουν προβλήματα αλλά πολλοί οργανισμοί, όπως τα φυτά και οι μικροοργανισμοί λύνουν προβλήματα χωρίς να έχουν συνείδηση. Οι μηχανές μπορούν επίσης να είναι έξυπνες και να λύνουν προβλήματα χωρίς να έχουν συναισθήματα.
Yann Le Cun : Όχι ακόμα αλλά θα συμβεί.
Le Point : Μια έξυπνη μηχανή που θα συναισθάνεται ; Πότε μπορεί να συμβεί αυτό ;
Yann Le Cun : Είναι πολύ δύσκολο να πούμε πόσο χρόνο θα πάρει. Αλλά δεν υπάρχει αμφιβολία ότι θα υπάρξουν μηχανές τουλάχιστον τόσο έξυπνες όσο οι άνθρωποι. Και αν έχουν την ικανότητα να βάζουν στόχους τότε θα έχουν επίσης και κάτι αντίστοιχο με τα τα ανθρώπινα συναισθήματα, γιατί πολύ συχνά τα συναισθήματα δεν είναι παρά μόνο μια προσμονή αποτελεσμάτων. Για να προγραμματίσετε, πρέπει να είστε σε θέση να προβλέψετε εάν το αποτέλεσμα θα είναι καλό ή κακό και αυτή είναι μια από τις κύριες αιτίες των συναισθημάτων. Ως άνθρωποι, εάν προσμένουμε ότι μια κατάσταση είναι πιθανό να είναι επικίνδυνη, βιώνουμε φόβο, που μας ωθεί να εξερευνήσουμε διάφορες επιλογές για να ξεφύγουμε από την επικίνδυνη κατάσταση. Εάν οι μηχανές μπορούν να το κάνουν αυτό, θα έχουν συναισθήματα.
Le Point : Όμως απ' ό,τι φαίνεται, βρισκόμαστε πολύ μακριά από την μηχανή με συνείδηση για την οποία μίλαγε ο Alan Turing την δεκαετία του 1950...
Yuval Noah Harari : Είναι πιθανό αλλά όχι αναπόφευκτο. Η συνείδηση είναι η ικανότητα να βιώνει κανείς συναισθήματα, επομένως είναι απολύτως πιθανό για τις μηχανές να αποκτήσουν συνείδηση. Αλλά θα μπορούσαν επίσης να προοδεύσουν σύμφωνα με έναν διαφορετικό τρόπο εξέλιξης, αναπτύσσοντας άλλους τύπους νοημοσύνης, ανώτερους από την ανθρώπινη νοημοσύνη, που δεν περιέχουν κανένα συναίσθημα. Αυτό συμβαίνει ήδη σε περιορισμένους τομείς όπως το σκάκι ή το Go. Το AlphaGo [το λογισμικό που αναπτύχθηκε από την DeepMind και κέρδισε τον παίκτη Lee Sedol στη Σεούλ το 2016, που θεωρείται ένας από τους καλύτερους στον κόσμο, σημείωμα του συντάκτη] δεν αισθάνεται χαρά όταν κερδίζει το παιχνίδι, και όμως είναι πιο έξυπνο από τους ανθρώπους σε αυτό το παιχνίδι. Με τη γενική τεχνητή νοημοσύνη, η νοημοσύνη μας θα μπορούσε να ξεπεραστεί κατά πολύ από μηχανές χωρίς συναισθήματα.
Yann Le Cun : Θα υπάρχουν σίγουρα πολλά συστήματα που θα ονομάζουμε έξυπνα. Υπάρχουν ήδη μερικά, για παράδειγμα ένας παίκτης go ή ακόμα και ένα σύστημα αυτόματης οδήγησης. Δεν έχουν συναισθήματα, αλλά αν θέλουμε να έχουν κάποιο επίπεδο αυτονομίας και να δουλέψουν προσπαθώντας να πετύχουν έναν στόχο, τότε πιθανότατα θα τα προικίσουμε με ένα ισοδύναμο συναισθημάτων, γιατί θα πρέπει να είναι σε θέση να έχουν προσδοκίες για το ποιο θα είναι το αποτέλεσμα μιας συγκεκριμένης ακολουθίας ενεργειών.
Le Point : Το ChatGPT, που οικειοποιείται τη γλώσσα μας, τόσο ουσιαστική για το κοινωνικό συμβόλαιο, είναι επικίνδυνο ;
Yann Le Cun : Δεν νομίζω ότι αυτό το chatbot είναι επικίνδυνο αυτή τη στιγμή. Θα μπορούσε να γίνει τέτοιο εάν είναι ήταν σχεδιασμένο με κλειστό τρόπο. Ο τρόπος για να προχωρήσετε με τα μεγάλα γλωσσικά μοντέλα είναι να τα κάνετε ανοιχτού κώδικα open source. Αυτή είναι μια καλή ιδέα από οικονομική άποψη αλλά και από άποψη ασφάλειας και έρευνας. Ας φανταστούμε ένα μέλλον όπου θα μπορούμε όλοι να έχουμε έναν έξυπνο βοηθό υπό τον έλεγχό μας : είναι σαν, ξαφνικά, μια ομάδα ανθρώπων εξυπνότερων από εμάς να εργάζονται υπό τις εντολές μας, για να μας κάνουν πιο αποτελεσματικούς, παραγωγικούς και δημιουργικούς. Θα απευθυνθούμε σε αυτούς τους ευφυείς βοηθούς με πολύ φυσικό τρόπο, όπως στην ταινία Her. Ως πρώην βιομηχανικός διευθυντής και καθηγητής πανεπιστημίου, προσπαθώ να συνεργάζομαι μόνο με ανθρώπους πιο έξυπνους από εμένα. Αυτός είναι ένας καλός τρόπος για να πετύχεις. Οπότε δεν πρέπει να νιώθουμε ότι απειλούμαστε από αυτό αλλά να το ενισχύσουμε. Είναι η αρχή μιας Αναγέννησης, μιας νέας εποχής Διαφωτισμού.
Yuval Noah Harari : Το ερώτημα είναι σε ποιανού χέρια βρίσκεται. Μπορεί να είναι υπέροχο, αλλά αν η τεχνητή νοημοσύνη πέσει σε λάθος χέρια, μπορεί επίσης να καταστρέψει τη δημοκρατία. Η πηγή της δημοκρατίας είναι η συζήτηση μεταξύ των ανθρώπων και, εάν υπάρχουν αυτοί οι «βοηθοί» ικανοί να συνομιλήσουν καλύτερα από οποιονδήποτε άνθρωπο, στην υπηρεσία ανεύθυνων παραγόντων, μπορεί να προκύψει ένα σενάριο καταστροφής. Εάν η συνομιλία μεταξύ ανθρώπων χακαριστεί ή παραμορφωθεί κάτι που η τεχνητή νοημοσύνη είναι πλέον αρκετά ικανή να κάνει, θα καταστρέψει τα θεμέλια του δημοκρατικού συστήματος. Και, όπως είδαμε έναν αδυσώπητο αγώνα για την προσοχή στα μέσα κοινωνικής δικτύωσης πριν από δέκα χρόνια, τώρα έχουμε να κάνουμε με έναν αγώνα για την οικειότητα αλλά η οικειότητα είναι πολύ πιο ισχυρή από την προσοχή. Εάν καταφέρετε να κάνετε κάποιον να εμπιστευτεί την τεχνητή νοημοσύνη σας, γίνεστε πανίσχυροι. Δεν χρειάζεται να κάνετε πια την έρευνά σας στο Google (γι' αυτό φοβάται η Google), ρωτήστε τον «βοηθό» σας. Δεν χρειάζονται πλέον εφημερίδες η Τεχνητή Νοημοσύνη σας θα μπορεί να σας πει τα νέα ! Ίσως, στο 95% των περιπτώσεων να εξυπηρετεί τα συμφέροντά σας, κάτι που θα σας κάνει να την εμπιστευτείτε και να δημιουργήσετε έναν πολύ στενό δεσμό μαζί της. Και μετά, σιγά σιγά, θα κατευθύνει τις πολιτικές σας απόψεις προς την κατεύθυνση που της δίνουν οι άνθρωποι που το σχεδίασαν. Αυτό που έχουμε δει με τους αλγόριθμους συστάσεων προιόντων θα ωχριά σε σύγκριση με τη δύναμη αυτών των «βοηθών» ικανών να αλλάζουν τις απόψεις των ανθρώπων, από το ποια προϊόντα να αγοράζουν μέχρι ποιους πολιτικούς να ψηφίζουν.
Le Point
10/5/23
==================
ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ: ὈΙ ΣΟΦΙΣΤΕΣ ΞΑΝΑΡΧΟΝΤΑΙ!!!
Τους τελευταίους μῆνες βομβαρδιζόμεθα ἀπό κορῶνες σχετικά με την Τεχνητή Νοημοσύνη (τ.ν.), δια την δῆθεν ἀλματώδη ἐξὲλιξη
τῆς τ.ν. καί τα ἐρωτηματικά ποῦ προκαλεῖ για την ύπαρξη του ανθρώπου,
δια την έντονη ανησυχία στην παγκόσμια επιστημονική και όχι μόνο
κοινότητα, διά τούς κινδύνους ποῦ αὐτή δῆθεν συνεπάγεται δια τον
ἄνθρωπο, καί διάφορα ἄλλα τινά ἀπό ἐξωνυμένους δῆθεν ἐπιστήμονες
πληροφορικῆς οἱ ὀποῖοι ἐπιχειροῦν να μᾶς πείσουν δια την παντοδυναμία
τῆς τ.ν., ὅτι δῆθεν ζοῦμε σε ἕνα MATRIX καὶ ἄλλα τινά φαιδρά!!!
Κατά
μία ἱστορική συμπαιγνία, ἡ τρέχουσα κατάστασις με την τεχνητή νοημοσύνη
(τ.ν.) ὁμοιάζει ἀναλογικά με την περίοδο τῆς κυριαρχίας τῶν ΣΟΦΙΣΤΩΝ
καὶ τῶν ΡΗΤΟΡΩΝ-ΔΗΜΑΓΩΓΩΝ εἰς την ἀρχαία Ἀθήνα οἴτινες συνέτειναν εἰς
την παρακμή τῆς πόλεως και την κατάρευσιν αὐτῆς εἰς τον Πελοποννησιακό
πόλεμο!!!! Τότε οἱ σοφιστές καὶ οἱ ρήτορες-δημαγωγοί ἔπειθον με την
ρητορική τους τον Δῆμο ὑπέρ τῶν ἀπόψεών τους, ἀνεξαρτήτως ἀληθείας καὶ
ἀντικειμενικότητος αὐτῶν.
Χαρακτηριστικός εἶναι ὁ διάλογος τοῦ Σωκράτους με τον μέγα σοφιστή ΓΟΡΓΙΑ ὁ ὀποῖος ἰσχυριζόταν εἰς τον ΣΩΚΡΑΤΗ ὅτι:
ΓΟΡΓ.
"Λέγω ὅτι τό αγαθόν τοΰτο είναι ή δύναμις νά πείθη κανείς στό
δικαστήριον τους δικαστάς καί εἰς τήν Βουλήν τους βουλευτάς καί είς τήν
Συνέλευσιν τοΰ λαοῦ τους πολίτας και είς οἰανδήποτε συνέλευσιν τους εἰς
αυτήν προσερχόμενους.
Καί
ασφαλώς μέ τήν δύναμιν αυτήν δουλον μέν θά εχης τόν ἰατρόν, δοῦλον δέ
τόν γυμναστήν ό δέ χρηματιστής ούτος θά φανή ὅτι χάριν άλλου κερδίζει
χρήματα καί ὄχι για τόν εαυτόν του, άλλα γιά σένα, ὁ οποίος μπορείς να
όμιλῆς και να πείθης τά πλήθη."
Ὁ
Γοργίας ἐχαρακτήριζε ὡς μέγιστο ἀγαθό το να "πείθῃ" κανείς για να
δύνασαι να εἶσαι ἐλεύθερος και να ἐξουσιάζεις τους ἄλλους εἰς την πόλιν.
Αὐτό ἀκριβῶς συμβαίνει σήμερον με την τ.ν.
Οἱ
παγκόσμιες γιγαντιαῖες ἐταιρεῖες πληροφορικῆς, προσπαθοῦν να μᾶς
πείσουν ὅτι η τ.ν. θα ἀντικαταστήσῃ τον ἄνθρωπο προκειμένου να
ἐνισχύσουν την παγκόσμια κυριαρχία τους εἰς την οἰκονομία και τις ἄλλες
δραστηριότητες. Θέλουν με τα προγράμματα να κυριαρχήσουν εἰς την
παγκόσμια παραγωγή και θέσουν ὑπο τον ἔλεγχό τους τους φυσικού πόρους
τοῦ πλανήτη.
Ἀγνοοῦν
ὅμως οἱ ἄπληστοι θεομπαῖχτες ὄτι πλέον ἡ ἀνθρωπότης ἔχει ἀρωγό τον
τρισμέγιστο Πλάτωνα, ὄστις ἀποκαλύπτει ἐπακριβῶς τον ρολο τῶν σοφιστῶν
εἰς την ἱστορία με τα βιβλία του (Κρίτων, Γοργίας, Πρωταγόρας καὶ
πλείστα ἄλλα)!!!
=========================
Σχόλια