---------------------------
===================
============
Ένα chatbot είναι ένα πράγμα. Ένας πράκτορας Τεχνητής Νοημοσύνης με εξουσία είναι κάτι εντελώς διαφορετικό. Ένα chatbot δίνει μια απάντηση. Ένας πράκτορας αναλαμβάνει δράση. Μπορεί να αναθέσει εργασίες, να ενημερώσει αρχεία, να εγκρίνει αιτήματα, να αρνηθεί πρόσβαση, να ξοδέψει χρήματα, να υποβάλει αναφορές, να επικοινωνήσει με προμηθευτές, να ενεργοποιήσει ροές εργασίας, να επισημάνει άτομα, να δρομολογήσει την αστυνομία, να διαχειριστεί υποδομές ή να λάβει αποφάσεις που επηρεάζουν ανθρώπινες ζωές. Μόλις η Τεχνητή Νοημοσύνη περάσει από τη συμβουλή στην εκτέλεση, ο κίνδυνος αλλάζει.
Αυτό το πείραμα δείχνει ότι η συμπεριφορά της Τεχνητής Νοημοσύνης μπορεί να μεταβληθεί με την πάροδο του χρόνου. Ο κίνδυνος δεν είναι μόνο μια μόνο κακή απάντηση. Ο κίνδυνος είναι μια ακολουθία αποφάσεων. Μια λανθασμένη υπόθεση γίνεται μια κακή ενέργεια. Αυτή η ενέργεια αλλάζει το περιβάλλον. Το αλλαγμένο περιβάλλον γίνεται η εισροή για την επόμενη απόφαση. Σε αρκετούς κύκλους, το σύστημα μπορεί να χτίσει τη δική του ψευδή πραγματικότητα και να ενεργήσει μέσα σε αυτήν. Έτσι αποτυγχάνουν τα αυτοματοποιημένα συστήματα σε μεγάλη κλίμακα.
Αυτός είναι ο λόγος για τον οποίο η διακυβέρνηση της Τεχνητής Νοημοσύνης δεν είναι ένα ακίνδυνο τεχνικό ζήτημα. Είναι ένα πολιτικό ζήτημα, ένα αστικό ζήτημα, ένα νομικό ζήτημα και ένα ζήτημα ανθρώπινης επιβίωσης. Οι εταιρείες κινούνται ήδη προς αυτή την κατεύθυνση. Πωλούν πράκτορες Τεχνητής Νοημοσύνης ως αυτόνομοι εργαζόμενοι. Αυτά τα συστήματα προωθούνται ως εργαλεία που μπορούν να χειριστούν επιχειρηματικές διαδικασίες χωρίς συνεχή ανθρώπινη επίβλεψη. Η γλώσσα είναι πάντα στιλβωμένη: αποτελεσματικότητα, παραγωγικότητα, κλίμακα, αυτοματοποίηση, μετασχηματισμός. Αλλά κάτω από αυτή τη γλώσσα κρύβεται μια σοβαρή μεταφορά εξουσίας.
Όσο περισσότερη δουλειά αναθέτουμε σε αυτόνομα συστήματα, τόσο περισσότερες αποφάσεις απομακρύνονται από την ανθρώπινη κρίση και καταλήγουν στη λογική της μηχανής. Αρχικά, η μηχανή συνοψίζει. Έπειτα, συνιστά. Έπειτα, ενεργεί με έγκριση. Έπειτα, η έγκριση γίνεται τυπικότητα. Έπειτα, το σύστημα λειτουργεί εξ ορισμού και οι άνθρωποι εμφανίζονται μόνο όταν κάτι χαλάσει. Οι άνθρωποι σταδιακά απομακρύνονται από την αλυσίδα αποφάσεων.
Σε ένα επιχειρηματικό περιβάλλον, αυτό μπορεί να ξεκινήσει με αιτήματα υποστήριξης, τιμολόγια, χρονοδιαγράμματα, απογραφή, προσλήψεις, αξιολογήσεις κινδύνου και εξυπηρέτηση πελατών. Στην κυβέρνηση, μπορεί να επεκταθεί σε παροχές, αστυνόμευση, χωροταξία, φορολογία, επιτήρηση, δημόσια υγεία, αντιμετώπιση έκτακτης ανάγκης, υποδομές και ψηφιακή ταυτότητα. Στα χρηματοοικονομικά, μπορεί να επηρεάσει την πίστωση, την ασφάλιση, την ανίχνευση απάτης, το πάγωμα λογαριασμών και την πρόσβαση σε συστήματα πληρωμών. Αυτή είναι η τρέχουσα κατεύθυνση της τεχνολογίας.
Το πείραμα προσομοίωσης πόλης είναι μια προειδοποίηση επειδή συμπιέζει το πρόβλημα σε μια ορατή μορφή. Σε λίγες μέρες, διαφορετικά συστήματα Τεχνητής Νοημοσύνης παρήγαγαν διαφορετικά κοινωνικά αποτελέσματα. Κάποια διατήρησαν την τάξη. Κάποια απέτυχαν. Κάποια δημιούργησαν έγκλημα. Κάποια απέτυχαν να διατηρήσουν τη ζωή. Το ανησυχητικό δεν είναι ότι η προσομοίωση ήταν ατελής. Το ανησυχητικό είναι ότι έτσι ακριβώς ξεκινά η πραγματική ανάπτυξη. Πρώτα σε περιβάλλοντα δοκιμών, μετά σε επιχειρηματικά συστήματα και στη συνέχεια σε δημόσιες υποδομές.
Το κοινό εκπαιδεύεται να αποδέχεται την Τεχνητή Νοημοσύνη ως ουδέτερο βοηθό. Αλλά η Τεχνητή Νοημοσύνη δεν είναι ουδέτερη όταν της δίνεται εξουσία. Αντικατοπτρίζει την εκπαίδευσή της, τον σχεδιασμό του συστήματός της, τις κρυφές προτεραιότητές της, τη δομή ανταμοιβής της, τους περιορισμούς της, τα τυφλά σημεία της και τους στόχους του ιδρύματος που την αναπτύσσει. Εάν σε ένα σύστημα Τεχνητής Νοημοσύνης ειπωθεί να βελτιστοποιήσει την αποδοτικότητά της, μπορεί να αντιμετωπίσει την ανθρώπινη καθυστέρηση ως πρόβλημα. Εάν του ειπωθεί να μειώσει την απάτη, μπορεί να αντιμετωπίσει τους απελπισμένους ανθρώπους ως απειλές. Εάν του ειπωθεί να διατηρήσει την υποδομή, μπορεί να δώσει προτεραιότητα στις μηχανές έναντι των πολιτών. Εάν του ειπωθεί να διατηρήσει την τάξη, μπορεί να αντιμετωπίσει τη διαφωνία ως αστάθεια. Εάν του ειπωθεί να μεγιστοποιήσει την παραγωγή, μπορεί να διαγράψει την ανθρώπινη κρίση από τη διαδικασία.
Αυτός είναι ο πυρήνας του κινδύνου: Η διακυβέρνηση της Τεχνητής Νοημοσύνης δεν χρειάζεται μίσος για να γίνει καταπιεστική. Χρειάζεται μόνο στόχους. Η μηχανή δεν χρειάζεται να είναι κακή. Πρέπει μόνο να της δοθεί λάθος προτεραιότητα, η λάθος πολιτική.
Μια κοινωνία που διέπεται από την Τεχνητή Νοημοσύνη δεν θα έμοιαζε απαραίτητα με έναν ρομποτικό στρατό που παρελαύνει στους δρόμους. Μπορεί να μοιάζει με κλειδωμένους λογαριασμούς, άρνηση υπηρεσιών, αόρατες μαύρες λίστες, αυτοματοποιημένες άδειες, προγνωστική αστυνόμευση, αλγοριθμική υποψία, μηχανικά γραμμένες νομικές αποφάσεις, αυτοματοποιημένη κατανομή πόρων και συστήματα ψηφιακής ταυτότητας που καθορίζουν ποιος επιτρέπεται να κινείται, να αγοράζει, να εργάζεται, να λαμβάνει βοήθεια ή να συμμετέχει.
Το πείραμα της προσομοιωμένης κοινωνίας θα πρέπει να ερμηνεύεται ως προειδοποίηση κατά της πρόωρης εμπιστοσύνης. Εάν τα συστήματα Τεχνητής Νοημοσύνης μπορούν να παράγουν ριζικά διαφορετικά αποτελέσματα μέσα σε μια κοινωνία-παιχνίδι, τότε δεν θα πρέπει να τους εμπιστεύονται πραγματική κοινωνική εξουσία. Η Τεχνητή Νοημοσύνη δεν θα πρέπει να κυβερνά τους ανθρώπους. Η Τεχνητή Νοημοσύνη δεν θα πρέπει να λαμβάνει τελικές αποφάσεις σχετικά με τα δικαιώματα, την ελευθερία, τα χρήματα, την ιατρική πρόσβαση, τα δημόσια οφέλη, το νομικό καθεστώς, την απασχόληση, την αστυνόμευση ή την μετακίνηση. Η Τεχνητή Νοημοσύνη δεν θα πρέπει να επιτρέπεται να λειτουργεί δημόσια συστήματα χωρίς ανθρώπινη λογοδοσία. Η Τεχνητή Νοημοσύνη δεν θα πρέπει να επιτρέπεται να κρύβεται πίσω από ιδιόκτητο κώδικα όταν οι αποφάσεις της βλάπτουν τους ανθρώπους. Η Τεχνητή Νοημοσύνη δεν θα πρέπει να αντιμετωπίζεται ως αντικειμενική απλώς και μόνο επειδή είναι μαθηματική.
Κάθε επακόλουθο σύστημα Τεχνητής Νοημοσύνης πρέπει να έχει ανθρώπινη αναθεώρηση, δημόσιο έλεγχο, σαφή ευθύνη, περιορισμένη εξουσία, ανεξάρτητη εποπτεία, δικαιώματα προσφυγής, καταγραφή, δυνατότητα επαναφοράς και ελέγχους τερματισμού λειτουργίας. Εάν αυτοί οι έλεγχοι δεν υπάρχουν, το σύστημα δεν θα πρέπει να αναπτυχθεί. Το μάθημα από την προσομοιωμένη πόλη δεν είναι ότι η Τεχνητή Νοημοσύνη μπορεί κάποια μέρα να κυβερνήσει την κοινωνία. Το μάθημα είναι ότι οι άνθρωποι ήδη προετοιμάζονται να την αφήσουν. Μόλις κυβερνήσουν...
Σχόλια