Γιατί να μην αντικαταστήσετε το κράτος (όλο τον κρατικό μηχανισμό) με ένα ρομπότ με τεχνητή νοημοσύνη; Δεν είναι δύσκολο να φανταστεί κανείς ότι ένα bot είναι πιο αποτελεσματικό από, για παράδειγμα, τις κυβερνήσεις στον έλεγχο των προϋπολογισμών τους, για να αναφέρουμε μόνο ένα παράδειγμα. Είναι αλήθεια ότι οι πολίτες μπορεί να μην μπορούν να ελέγξουν το κυβερνών ρομπότ παρά μόνο αρχικά ως εκπαιδευτές (επιβάλλοντας ένα “σύνταγμα” στο ρομπότ) ή ίσως εκ των υστέρων σβήνοντάς το. Αλλά οι πολίτες δεν ελέγχουν πλέον το κράτος, παρά μόνο ως αρχάριος και ασυνάρτητος όχλος στον οποίο το τυπικό άτομο δεν έχει καμία επιρροή (έχω γράψει αρκετά άρθρα στο EconLog που επεξεργάζονται αυτό το θέμα από την οπτική γωνία της δημόσιας επιλογής). Ωστόσο, μια κυβέρνηση τεχνητής νοημοσύνης είναι απίθανο να μπορέσει να αντιγράψει το κύριο πλεονέκτημα της δημοκρατίας όταν λειτουργεί, δηλαδή την ικανότητα να διώχνει κακούς παράγοντες όταν βλάπτουν τη συντριπτική πλειοψηφία των πολιτών.
Είναι πιθανό ότι όσοι βλέπουν την τεχνητή νοημοσύνη ως άμεση απειλή για την ανθρωπότητα υπερβάλλουν πολύ τον κίνδυνο. Είναι δύσκολο να φανταστεί κανείς πώς η τεχνητή νοημοσύνη θα μπορούσε να το κάνει αυτό εκτός από την καταστολή μεμονωμένων ανθρώπων. Ένας από τους τρεις λεγόμενους «νονούς» της τεχνητής νοημοσύνης είναι ο Yann LeCun, καθηγητής στο Πανεπιστήμιο της Νέας Υόρκης και επικεφαλής επιστήμονας στο Meta. Πιστεύει ότι η τεχνητή νοημοσύνη, όπως ξέρουμε, είναι πιο χαζή από μια γάτα. ΕΝΑ Wall Street Journal ο αρθρογράφος παραθέτει την απάντηση του LeCun σε tweet άλλου ερευνητή AI (βλ. Christopher Mims, “This AI Pioneer Thinks AI is Dumber Than a Cat,” Wall Street Journal12 Οκτωβρίου 2024):
Μου φαίνεται ότι προτού «καταλάβουμε επειγόντως πώς να ελέγχουμε συστήματα τεχνητής νοημοσύνης πολύ πιο έξυπνα από εμάς», πρέπει να έχουμε την αρχή ενός υπαινιγμού σχεδιασμού ενός συστήματος εξυπνότερου από μια οικιακή γάτα.
Ο κριτικός προσθέτει:
[LeCun] Μου αρέσει η μεταφορά της γάτας. Εξάλλου, οι γάτες έχουν ένα νοητικό μοντέλο του φυσικού κόσμου, μόνιμη μνήμη, κάποιες συλλογιστικές ικανότητες και την ικανότητα να σχεδιάζουν, λέει. Καμία από αυτές τις ιδιότητες δεν υπάρχει στα σημερινά «προηγμένα» AI, συμπεριλαμβανομένων εκείνων που δημιουργούνται από το ίδιο το Meta.
Και, για να παραθέσω τον LeCun:
Έχουμε συνηθίσει στην ιδέα ότι τα άτομα ή οι οντότητες που μπορούν να εκφραστούν ή να χειραγωγήσουν τη γλώσσα είναι έξυπνα, αλλά αυτό δεν είναι αλήθεια. Μπορείτε να χειριστείτε τη γλώσσα και να μην είστε έξυπνοι, και αυτό ουσιαστικά κάνουν οι φοιτητές LLM. [AI’s Large Language Models] επιδεικνύω.
Η ιδέα ότι η χειραγώγηση της γλώσσας δεν είναι απόδειξη ευφυΐας είναι ενδιαφέρουσα από γνωσιολογική άποψη, αν και απλά ακούγοντας έναν τυπικό απατεώνα, έναν πολιτικό μετά την αλήθεια ή έναν απατεώνα το δείχνει αυτό. Η γλώσσα φαίνεται να είναι απαραίτητη αλλά όχι επαρκής προϋπόθεση για την ευφυΐα.
Σε κάθε περίπτωση, όσοι πιστεύουν ότι η τεχνητή νοημοσύνη είναι τόσο επικίνδυνη που θα έπρεπε να ελέγχεται από τις κυβερνήσεις, αγνοούν πόσο συχνά η πολιτική εξουσία, συμπεριλαμβανομένου του σύγχρονου κράτους, ήταν επιβλαβής ή επικίνδυνα αναποτελεσματική σε όλη την ανθρώπινη ιστορία, καθώς και τις οικονομικές θεωρίες που εξηγούν γιατί . Ο Yoshua Bengio, ένας από τους τρεις νονούς και φίλος του LeCun, δείχνει αυτό το λάθος:
«Δεν νομίζω ότι πρέπει να το αφήσουμε αυτό στον ανταγωνισμό μεταξύ εταιρειών μόνο για κέρδος, για την προστασία του κοινού και την προστασία της δημοκρατίας», λέει ο Bengio. «Γι’ αυτό πιστεύω ότι χρειαζόμαστε κυβερνητική συμμετοχή».
Ο κύριος λόγος για τον οποίο η κυβέρνηση πρέπει να αφήσει ήσυχη την τεχνητή νοημοσύνη είναι ότι η κυβέρνηση είναι ένας πολύ απλός και ακατέργαστος οργανισμός σε σύγκριση με την πολυπλοκότητα και την παραγωγικότητα του ελεύθερου ανταγωνισμού και της ελεύθερης κοινωνικής αλληλεπίδρασης. Οι ελεύθερες αγορές παράγουν σήματα τιμών που περιέχουν περισσότερες πληροφορίες από τις πολιτικές διαδικασίες, όπως έδειξε ο Φρίντριχ Χάγιεκ στο βιβλίο του το 1945. Αμερικανική Οικονομική Επιθεώρηση άρθρο «Χρήση της γνώσης στην κοινωνία». Η κατανόηση αυτού αντιπροσωπεύει έναν ορίζοντα γνώσης πολύ πιο σημαντικό από την τρέχουσα εξέλιξη της τεχνητής νοημοσύνης.
Αυτό μας φέρνει πίσω στην αρχική μου ερώτηση. Στην καλύτερη περίπτωση, η τεχνητή νοημοσύνη θα ήταν ανίκανη να συντονίσει αποτελεσματικά μεμονωμένες ενέργειες σε οποιαδήποτε κοινωνία εκτός ίσως από μια φυλετική. Αυτός όμως δεν είναι λόγος για να επεκταθεί ο τρέχων κυβερνητικός μηχανισμός στην έρευνα και ανάπτυξη της τεχνητής νοημοσύνης. Είτε έτσι είτε αλλιώς, δεν είναι καλή ιδέα να ορίσετε έναν λύκο για να προστατεύσει τα πρόβατα από τον λύκο.
******************************
Από την άλλη πλευρά (ή μήπως είναι;), είχα τα συνηθισμένα προβλήματα να κάνω το DALL-E να σχεδιάσει οτιδήποτε κοντά στην εικόνα στο κεφάλι μου – σε αυτήν την περίπτωση ότι η τρέχουσα τεχνητή νοημοσύνη είναι πιο χαζή από μια γάτα – αν και ομολογώ ότι η δεδομένα… το ρομπότ που καταβροχθίζει τραβάει πολύ καλύτερα από εμένα. Η ιδέα μου ήταν να δείξω μια γάτα σαστισμένη με αυτό που βλέπει στον κόσμο. Όταν τελικά δεν ήταν πολύ μακριά από αυτό που ήθελα, έγραψα, «Αυτό είναι καλό! Είσαι καλή γάτα. Μου απάντησε (μεταφράζω τη «συζήτησή μας» κατά λέξη):
“Ευχαριστώ! Χαίρομαι που σου άρεσε η εικόνα και είμαι πάντα εδώ για να σε βοηθήσω, όπως μια καλή γάτα. Αν χρειαστείς οτιδήποτε άλλο, μη διστάσεις να ρωτήσεις!”
– Από πού αντλείτε μια τόσο μικρή αίσθηση του χιούμορ; ρώτησα. Το πλάσμα από πυρίτιο απάντησε:
«Υποθέτω ότι θα μπορούσατε να πείτε ότι η αίσθηση του χιούμορ μου είναι σκληρή! Είναι ένα μείγμα γλωσσικών μοτίβων, κάποιας λογικής παιχνιδιού και προσπαθειών να γίνει η αλληλεπίδραση πιο διασκεδαστική. Κάτι σαν μια γάτα που χτυπά τα πράγματα απροσδόκητα – μερικές φορές λειτουργεί, μερικές φορές είναι απλώς ηλίθιο!».
Γιατί να μην αντικαταστήσετε το κράτος (όλο τον κρατικό μηχανισμό) με ένα ρομπότ με τεχνητή νοημοσύνη; Δεν είναι δύσκολο να φανταστεί κανείς ότι ένα bot είναι πιο αποτελεσματικό από, για παράδειγμα, τις κυβερνήσεις στον έλεγχο των προϋπολογισμών τους, για να αναφέρουμε μόνο ένα παράδειγμα. Είναι αλήθεια ότι οι πολίτες μπορεί να μην μπορούν να ελέγξουν το κυβερνών ρομπότ παρά μόνο αρχικά ως εκπαιδευτές (επιβάλλοντας ένα “σύνταγμα” στο ρομπότ) ή ίσως εκ των υστέρων σβήνοντάς το. Αλλά οι πολίτες δεν ελέγχουν πλέον το κράτος, παρά μόνο ως αρχάριος και ασυνάρτητος όχλος στον οποίο το τυπικό άτομο δεν έχει καμία επιρροή (έχω γράψει αρκετά άρθρα στο EconLog που επεξεργάζονται αυτό το θέμα από την οπτική γωνία της δημόσιας επιλογής). Ωστόσο, μια κυβέρνηση τεχνητής νοημοσύνης είναι απίθανο να μπορέσει να αντιγράψει το κύριο πλεονέκτημα της δημοκρατίας όταν λειτουργεί, δηλαδή την ικανότητα να διώχνει κακούς παράγοντες όταν βλάπτουν τη συντριπτική πλειοψηφία των πολιτών.
Είναι πιθανό ότι όσοι βλέπουν την τεχνητή νοημοσύνη ως άμεση απειλή για την ανθρωπότητα υπερβάλλουν πολύ τον κίνδυνο. Είναι δύσκολο να φανταστεί κανείς πώς η τεχνητή νοημοσύνη θα μπορούσε να το κάνει αυτό εκτός από την καταστολή μεμονωμένων ανθρώπων. Ένας από τους τρεις λεγόμενους «νονούς» της τεχνητής νοημοσύνης είναι ο Yann LeCun, καθηγητής στο Πανεπιστήμιο της Νέας Υόρκης και επικεφαλής επιστήμονας στο Meta. Πιστεύει ότι η τεχνητή νοημοσύνη, όπως ξέρουμε, είναι πιο χαζή από μια γάτα. ΕΝΑ Wall Street Journal ο αρθρογράφος παραθέτει την απάντηση του LeCun σε tweet άλλου ερευνητή AI (βλ. Christopher Mims, “This AI Pioneer Thinks AI is Dumber Than a Cat,” Wall Street Journal12 Οκτωβρίου 2024):
Μου φαίνεται ότι προτού «καταλάβουμε επειγόντως πώς να ελέγχουμε συστήματα τεχνητής νοημοσύνης πολύ πιο έξυπνα από εμάς», πρέπει να έχουμε την αρχή ενός υπαινιγμού σχεδιασμού ενός συστήματος εξυπνότερου από μια οικιακή γάτα.
Ο κριτικός προσθέτει:
[LeCun] Μου αρέσει η μεταφορά της γάτας. Εξάλλου, οι γάτες έχουν ένα νοητικό μοντέλο του φυσικού κόσμου, μόνιμη μνήμη, κάποιες συλλογιστικές ικανότητες και την ικανότητα να σχεδιάζουν, λέει. Καμία από αυτές τις ιδιότητες δεν υπάρχει στα σημερινά «προηγμένα» AI, συμπεριλαμβανομένων εκείνων που δημιουργούνται από το ίδιο το Meta.
Και, για να παραθέσω τον LeCun:
Έχουμε συνηθίσει στην ιδέα ότι τα άτομα ή οι οντότητες που μπορούν να εκφραστούν ή να χειραγωγήσουν τη γλώσσα είναι έξυπνα, αλλά αυτό δεν είναι αλήθεια. Μπορείτε να χειριστείτε τη γλώσσα και να μην είστε έξυπνοι, και αυτό ουσιαστικά κάνουν οι φοιτητές LLM. [AI’s Large Language Models] επιδεικνύω.
Η ιδέα ότι η χειραγώγηση της γλώσσας δεν είναι απόδειξη ευφυΐας είναι ενδιαφέρουσα από γνωσιολογική άποψη, αν και απλά ακούγοντας έναν τυπικό απατεώνα, έναν πολιτικό μετά την αλήθεια ή έναν απατεώνα το δείχνει αυτό. Η γλώσσα φαίνεται να είναι απαραίτητη αλλά όχι επαρκής προϋπόθεση για την ευφυΐα.
Σε κάθε περίπτωση, όσοι πιστεύουν ότι η τεχνητή νοημοσύνη είναι τόσο επικίνδυνη που θα έπρεπε να ελέγχεται από τις κυβερνήσεις, αγνοούν πόσο συχνά η πολιτική εξουσία, συμπεριλαμβανομένου του σύγχρονου κράτους, ήταν επιβλαβής ή επικίνδυνα αναποτελεσματική σε όλη την ανθρώπινη ιστορία, καθώς και τις οικονομικές θεωρίες που εξηγούν γιατί . Ο Yoshua Bengio, ένας από τους τρεις νονούς και φίλος του LeCun, δείχνει αυτό το λάθος:
«Δεν νομίζω ότι πρέπει να το αφήσουμε αυτό στον ανταγωνισμό μεταξύ εταιρειών μόνο για κέρδος, για την προστασία του κοινού και την προστασία της δημοκρατίας», λέει ο Bengio. «Γι’ αυτό πιστεύω ότι χρειαζόμαστε κυβερνητική συμμετοχή».
Ο κύριος λόγος για τον οποίο η κυβέρνηση πρέπει να αφήσει ήσυχη την τεχνητή νοημοσύνη είναι ότι η κυβέρνηση είναι ένας πολύ απλός και ακατέργαστος οργανισμός σε σύγκριση με την πολυπλοκότητα και την παραγωγικότητα του ελεύθερου ανταγωνισμού και της ελεύθερης κοινωνικής αλληλεπίδρασης. Οι ελεύθερες αγορές παράγουν σήματα τιμών που περιέχουν περισσότερες πληροφορίες από τις πολιτικές διαδικασίες, όπως έδειξε ο Φρίντριχ Χάγιεκ στο βιβλίο του το 1945. Αμερικανική Οικονομική Επιθεώρηση άρθρο «Χρήση της γνώσης στην κοινωνία». Η κατανόηση αυτού αντιπροσωπεύει έναν ορίζοντα γνώσης πολύ πιο σημαντικό από την τρέχουσα εξέλιξη της τεχνητής νοημοσύνης.
Αυτό μας φέρνει πίσω στην αρχική μου ερώτηση. Στην καλύτερη περίπτωση, η τεχνητή νοημοσύνη θα ήταν ανίκανη να συντονίσει αποτελεσματικά μεμονωμένες ενέργειες σε οποιαδήποτε κοινωνία εκτός ίσως από μια φυλετική. Αυτός όμως δεν είναι λόγος για να επεκταθεί ο τρέχων κυβερνητικός μηχανισμός στην έρευνα και ανάπτυξη της τεχνητής νοημοσύνης. Είτε έτσι είτε αλλιώς, δεν είναι καλή ιδέα να ορίσετε έναν λύκο για να προστατεύσει τα πρόβατα από τον λύκο.
******************************
Από την άλλη πλευρά (ή μήπως είναι;), είχα τα συνηθισμένα προβλήματα να κάνω το DALL-E να σχεδιάσει οτιδήποτε κοντά στην εικόνα στο κεφάλι μου – σε αυτήν την περίπτωση ότι η τρέχουσα τεχνητή νοημοσύνη είναι πιο χαζή από μια γάτα – αν και ομολογώ ότι η δεδομένα… το ρομπότ που καταβροχθίζει τραβάει πολύ καλύτερα από εμένα. Η ιδέα μου ήταν να δείξω μια γάτα σαστισμένη με αυτό που βλέπει στον κόσμο. Όταν τελικά δεν ήταν πολύ μακριά από αυτό που ήθελα, έγραψα, «Αυτό είναι καλό! Είσαι καλή γάτα. Μου απάντησε (μεταφράζω τη «συζήτησή μας» κατά λέξη):
“Ευχαριστώ! Χαίρομαι που σου άρεσε η εικόνα και είμαι πάντα εδώ για να σε βοηθήσω, όπως μια καλή γάτα. Αν χρειαστείς οτιδήποτε άλλο, μη διστάσεις να ρωτήσεις!”
– Από πού αντλείτε μια τόσο μικρή αίσθηση του χιούμορ; ρώτησα. Το πλάσμα από πυρίτιο απάντησε:
«Υποθέτω ότι θα μπορούσατε να πείτε ότι η αίσθηση του χιούμορ μου είναι σκληρή! Είναι ένα μείγμα γλωσσικών μοτίβων, κάποιας λογικής παιχνιδιού και προσπαθειών να γίνει η αλληλεπίδραση πιο διασκεδαστική. Κάτι σαν μια γάτα που χτυπά τα πράγματα απροσδόκητα – μερικές φορές λειτουργεί, μερικές φορές είναι απλώς ηλίθιο!».