Προοπτικές «ισκινού» στη διαχείριση της ανθρωπότητας

2024 Συγγραφέας: Seth Attwood | [email protected]. Τελευταία τροποποίηση: 2023-12-16 16:02

Τι θα συμβεί αν εμπιστεύεστε την τεχνητή νοημοσύνη για τον έλεγχο των ανθρώπων; Στη νομοθεσία μας, το 99% των νόμων έρχονται σε αντίθεση μεταξύ τους. Λογικά θα έπρεπε να υπάρξει κατάρρευση ισχύος και διακοπή του συστήματος ελέγχου…

Τώρα ας σκεφτούμε το μέρος που τεχνητή νοημοσύνη(εφεξής - ίσκιν) θα πάρει στη ζωή μας όταν (αν) εφευρεθεί και εφαρμοστεί. Προτείνω να μην διαφωνείτε για την εσωτερική του φύση. Ας είναι απλώς ένας πολύ προηγμένος αλγόριθμος που έχει τη δυνατότητα να δουλεύει με Big Data και μπορεί να αντιγράψει παρόμοια μοτίβα συμπεριφοράς πραγματικών ανθρώπων. Αλλά, αν θέλεις, άσε αυτό που συζητιέται να είναι αληθινός άντρας, όπως εσύ ο ίδιος το καταλαβαίνεις.

Το κύριο ερώτημα εδώ είναι αυτό. Πού εφαρμόζουμε αυτό το Hammer of Thor μόλις το λάβουμε; Και καταρχήν, δεν υπάρχει αμφιβολία ότι μπορεί να γίνει. Μπορούμε να κάνουμε ψηφιακούς μύλους, αλγόριθμους αυτοεκμάθησης επίσης, μεγάλη ημερομηνία συσσώρευσης - όλα είναι εκεί.

Ας πούμε, στη διαχείριση τεχνικών συστημάτων, για παράδειγμα, μεμονωμένες μονάδες μεταφορών; - Λοιπόν, kamon… Γιατί να φτιάξεις ένα έξυπνο και πολύπλοκο σύστημα για να του εμπιστευτείς ότι μπορεί να αντέξει το άλογο; Θα υπάρχει αρκετός και ένας πρωτόγονος αλγόριθμος σε έναν επεξεργαστή για 10 δολάρια ανά κάδο, το πρόβλημα με τη διαχείριση μεταφορών είναι μόνο στη λήψη δεδομένων και σε ηθικά ζητήματα. Τι τότε? Σκεφτείτε περίπου δεκαπέντε δευτερόλεπτα.

Κατά τη γνώμη μου, υπάρχει μόνο ένα το πραγματικό πράγμα για έναν iskin είναι να διαχειρίζεται ανθρώπους … Πιο συγκεκριμένα, οι διαδικασίες στις οποίες συμμετέχουν οι άνθρωποι. Δεν έχει νόημα να ανταλλάσσουμε λιγότερα για διάφορους λόγους. Κάθε άτομο είναι έτοιμο να διαχειριστεί ανθρώπους χωρίς καμία ειδική εκπαίδευση. Για παράδειγμα, εμπιστευόμαστε απόλυτα τον καθένα για τη διαχείριση των δικών μας παιδιών. Επίσης, σχεδόν όλοι στις ομάδες είχαν τουλάχιστον κάποια διοικητική εμπειρία. Τουλάχιστον στο επίπεδο «ρίξε άλλο ένα φτυάρι στο φορείο και θα το κουβαλήσουμε». Αν όλοι ένα άτομο είναι καταρχήν ικανό να διαχειρίζεται ανθρώπους, τότε μια τεχνητή νοημοσύνη πρέπει να είναι σε θέση να το κάνει αυτό, διαφορετικά πρόκειται για διανοητική βλάβη.

Ωστόσο, τα αποτελέσματα της διαχείρισης ανθρώπων απέχουν πολύ από το να είναι ιδανικά. Οποιοσδήποτε πραγματικός έλεγχος είναι μια σειρά από λάθη και ανακρίβειες. Επιπλέον, ο αριθμός των σφαλμάτων σχεδόν δεν εξαρτάται από το επίπεδο του διαχειριστή· είναι μια ορισμένη σταθερά. Απλώς ο επιστάτης των φορτωτών κάνει μικρολάθη και ο κυβερνήτης έχει το δικαίωμα να κάνει λάθη που συνεπάγονται σοβαρές συνέπειες. Το καταλαβαίνουμε αυτό. «Θα έπρεπε να είχαμε κάνει λάθος» είναι το κύριο αποτέλεσμα της αντανάκλασης του γύρω κόσμου, συμπεριλαμβανομένου του εαυτού μας.

Και τώρα, στα χέρια μας είναι ένα AI που υποτίθεται ότι «το κάνει». Και θα το εφαρμόσουμε αμέσως, γιατί το πρόβλημα που μπορεί θεωρητικά να λύσει είναι το πιο σημαντικό. Και ο Jamshut με τρεις τάξεις εκπαίδευσης μπορεί επίσης να οδηγεί φορτηγό.

Εάν συμφωνείτε μαζί μου σε αυτό, τότε ας συνεχίσουμε να παρουσιάζουμε τη λειτουργικότητα του τεχνητού δέρματος που προορίζεται για διαχείριση. Ποιανού τα καθήκοντα να επιτελεί, ποιον να αντικαταστήσει ή τουλάχιστον να ενισχύσει με τις αποφάσεις του;

Είναι σαφές ότι αυτοί θα είναι υπάλληλοι (τόσο στη δημόσια διοίκηση όσο και στις επιχειρήσεις). Οι αξιωματούχοι παίρνουν αποφάσεις. Οι υπάλληλοι γίνονται δεκτοί σε όλα τα επίπεδα αρμοδιοτήτων. Οι αξιωματούχοι είναι σημαντικοί και απαραίτητοι σήμερα, γιατί οι αποφάσεις δεν θα ληφθούν από μόνες τους. Υπάρχει όμως ένα σημείο.

Ας δούμε κάθε μάνατζερ (δηλαδή κάθε αξιωματούχο) από τη σκοπιά του κυριολεκτικού περιεχομένου των πρακτικών του δραστηριοτήτων. Όχι όμως με την έννοια των κινήτρων του - το αρχέτυπο των κινήτρων, όπως ήταν, δεν θα έπρεπε να είναι. Ένας υπάλληλος είτε εγκρίνει συναλλαγές είτε ακυρώνει συναλλαγές που έχουν εγκριθεί από άλλο υπάλληλο.

Σε ένα ιδανικό μηχάνημα, όλες οι συναλλαγές πρέπει να εγκρίνονται άνευ όρων και καμία συναλλαγή δεν μπορεί να ακυρωθεί επειδή είχαν προηγουμένως εγκριθεί νόμιμα. Ένας σημαντικός παράγοντας σε αυτό το σύστημα είναι ότι οι συναλλαγές υποβάλλονται στον υπάλληλο από το «μαύρο κουτί» για εξέταση. Δεν του δίνεται εξήγηση για το γιατί πρέπει να γίνει μια τέτοια συναλλαγή ή γιατί εγκρίθηκε από άλλον υπάλληλο. Το σύστημα ελέγχου είναι κατασκευασμένο ως εξής. Παραπάνω έρχεται μια εντολή με τη μορφή εντολής για την πραγματοποίηση ορισμένων συναλλαγών.

Σημειώστε ότι η ιδεολογική δομή ενός τέτοιου συστήματος δεν συνεπάγεται καθόλου τη δυνατότητα ακύρωσης (μη έγκρισης) μιας συναλλαγής που ελήφθη από τα πάνω, από το «μαύρο κουτί». Αλλά στην πράξη, μια τέτοια πιθανότητα υπάρχει πάντα. Και είναι αυτή που παρέχει δύο πιο σημαντικά πράγματα: την εξουσία οποιουδήποτε αξιωματούχου και τον περιορισμό αυτής της εξουσίας.

Επιτρέψτε μου να εξηγήσω ότι οποιοδήποτε λάθος (είπαμε παραπάνω ότι είναι αναπόφευκτο και μόνιμο) μπορεί να διαλυθεί στην αντίθεση των υποκείμενων γραφειοκρατικών μαζών, τότε οι συνέπειες του λάθους μπορούν να ελαχιστοποιηθούν.

Ωστόσο, σε ένα θεωρητικό ιδανικό σύστημα διαχείρισης δεν πρέπει να υπάρχουν λάθη, γι' αυτό ο ρόλος ενός υπαλλήλου περιορίζεται στην επίσημη έγκριση συναλλαγών, τις οποίες δεν μπορεί παρά να εγκρίνει, επειδή είναι σωστές. Δεν χρειάζεται δηλαδή. Έτσι, η ερώτηση καταλήγει στο αρχικό σήμα διαχείρισης. Αν είναι σωστό, τότε δεν υπάρχει νόημα σε όλα τα κατώτερα επίπεδα.

Άρα, θεωρητικά, ο ενοποιημένος προϋπολογισμός του κράτους θα έπρεπε να λειτουργεί. Όταν γίνεται αποδεκτό, σημαίνει ότι αποκαλύπτεται όλη η φράκταλ ουσία του. Κάθε τριχοειδές πρέπει να λάβει την καθορισμένη μερίδα αίματος και ως απάντηση - το επιδιωκόμενο αποτέλεσμα. Ναι, στο κάτω μέρος υπάρχουν "αλλά δεν παραδώσαμε σκυρόδεμα εγκαίρως, και ως εκ τούτου…" Αλλά με συγχωρείτε, αυτό είναι στο κάτω μέρος και η συσκευή ελέγχου αποτελείται από πολλά επίπεδα που δεν αγγίζουν το σκυρόδεμα καθόλου λειτουργούν με συναλλαγές. Καταλαβαίνω ότι στα μεσαία επίπεδα το "μπετόν δεν παραδόθηκε" φαίνεται διαφορετικό, όπως "ο αντιπρόεδρος της κατασκευής κοσμοδρομίου έκλεψε 100 εκατομμύρια, και ως εκ τούτου…" Εδώ μιλάω για ένα ιδανικό σχήμα.

Ας επιστρέψουμε στο ιδανικό δέρμα μας. Εξάλλου, σε αυτό το έργο πρέπει να λύσει τα ίδια ζητήματα - έγκριση ή απαγόρευση συναλλαγών. Και μπορεί να το κάνει! Μόνο τώρα μόνος του θα μπορεί να αντικαταστήσει όλα τα επίπεδα διοίκησης ταυτόχρονα. Άλλωστε, εάν, αντικαθιστώντας τον υπουργό, εγκρίνει μια μεγάλη συναλλαγή σε υπουργικό επίπεδο, τότε η απόφασή του θα πρέπει να αναγνωριστεί ως σωστή. Και περιλαμβάνει την ανάλυση ολόκληρης της περαιτέρω διανομής μιας μεγάλης συναλλαγής μέχρι την πληρωμή του IP Pupkin για την επισκευή της βεράντας του ψυχιατρείου στο Kineshma.

Έτσι, ολόκληρη η αλυσίδα των υπαλλήλων που είναι υποχρεωμένοι να εγκρίνουν συναλλαγές χαμηλότερων επιπέδων μετά από το πρώτο μπορεί να αντικατασταθεί με ασφάλεια με τον ίδιο αλγόριθμο AI. Το ζήτημα έχει ήδη επιλυθεί, μέχρι το τέλος. Το AI μας δεν χρειάζεται καν να χρησιμοποιηθεί για την αντικατάσταση ολόκληρης της αλυσίδας, το AI απλά ακυρώνει την ανάγκη για αυτό. Η απόφασή του είναι αληθινή γιατί είναι σωστή. Και περιλαμβάνει αμέσως λύσεις για ολόκληρο το φράκταλ.

Παρατήρηση. Οποιοσδήποτε υφιστάμενος υπάλληλος στον πραγματικό μας κόσμο μπορεί να είναι πιο έξυπνος από έναν ανώτερο. Μετά θα σαμποτάρει τις αποφάσεις του αφεντικού και μετά θα τον βοηθήσει. Αυτό συμβαίνει πάντα. Όλοι οι υπάρχοντες αξιωματούχοι παίρνουν τις θέσεις των πρώην προϊσταμένων τους, εκτός από το αρχικό επίπεδο. Αλλά σε αυτή την περίπτωση, ο ανταγωνισμός αποκλείεται. Ένας ίσκινος αποφασίζει μόνος του τα πάντα σε όλη την αλυσίδα, δεν μπορεί να αντικρούσει τον εαυτό του.

Εξάλλου. Στο σύστημα διακυβέρνησής μας, υπάρχουν δικαστήρια, στα οποία έχουμε δώσει την εξουσία να ακυρώνουν οποιαδήποτε συναλλαγή μας και να πραγματοποιούν τις δικές τους, ανεξάρτητα από τη γνώμη μας για αυτές. (Το να βάλεις έναν δολοφόνο στη φυλακή είναι επίσης μια συναλλαγή που δεσμεύεται από κανόνες. Ο δικαστής εδώ είναι ένας υπάλληλος που εγκρίνει ή ακυρώνει μια συναλλαγή που έρχεται σε αυτόν όπως ορίζεται από το μαύρο κουτί.) Αν ο ηλίθιος μας είναι καλός, τότε είναι καλύτερος από τους υπαλλήλους, γιατί του εμπιστευτήκαμε την έγκριση ή την ακύρωση συναλλαγών για αυτούς (για εμάς). Άρα είναι καλύτερος από τους κριτές. Διαφορετικά, αποδεικνύεται ότι οι αποφάσεις του iskin μπορούν να αμφισβητηθούν και να ακυρωθούν από τους ανθρώπους. Και αν οι άνθρωποι το αποδεχθούν αυτό, τότε θα παραδεχτούν ότι το AI είναι χειρότερο από τους ανθρώπους. Τότε σε ποια βάση αντικαθιστά αξιωματούχους;

Συμπέρασμα. Ούτε ο Ίσκιν θα κριθεί. Πάλι. Αν εσείς οι άνθρωποι γράψατε τον καλύτερο σας αλγόριθμο, τον αναγνωρίσατε τόσο καλά που του δώσατε εξουσία πάνω στον εαυτό σας, τότε δεν μπορείτε να γράψετε έναν ακόμα καλύτερο αλγόριθμο ώστε να κρίνει τις αποφάσεις του πρώτου. Θα βάλεις τον καλύτερο σου αλγόριθμο και ως μάνατζερ και ως κριτής. Πιο συγκεκριμένα, οι δικαστές απλώς θα εξαφανιστούν. Θα πρέπει να δώσετε σε αυτό το AI πλήρη εξουσία πάνω σας.

Παρεμπιπτόντως, το αρχικό μαύρο κουτί, από όπου προέρχονται τα αρχικά δεδομένα για έλεγχο στο ISK, μπορεί επίσης να ψηφιοποιηθεί. Και μάλιστα πρέπει να ψηφιοποιηθεί. Ο ενοποιημένος προϋπολογισμός θα πρέπει να ταιριάζει καλύτερα. Και το κάνει επίσης.

Άλλη μια στιγμή. Ή μήπως να βάλεις ένα άτομο πάνω από το άτομο που θα έλεγχε τις αποφάσεις του για να μην συμβούν τα λάθη που μπορεί να συμβούν λόγω της απανθρωπιάς του, για παράδειγμα; - Τότε όλοι οι αξιωματούχοι θα διατηρήσουν τις θέσεις και την εξουσία τους. Θα τους δοθεί επίσης το δικαίωμα να ακυρώσουν συναλλαγές που έχουν εγκριθεί από το ISK ή να εγκρίνουν ακυρωμένες. Αλίμονο, δεν φαίνεται αληθινό. Ο Iskin θα παράσχει μια εκτύπωση του συλλογισμού πίσω από την απόφασή του. Και ένα άτομο δεν θα μπορεί να αντικρούσει την επίσημη λογική με τα συναισθήματα ή τα ενδιαφέροντά του. Ακόμη και σε αυτήν την περίπτωση, αν ένας ζωντανός υπάλληλος προσκολλάται σε κάθε εκδήλωση μιας (στην πραγματικότητα, μιας μόνο) πράξης, δεν θα μπορέσουν να του αντισταθούν.

Συγγνώμη για τη σύγχυση, υπάρχουν πολλές σκέψεις και η έκταση του κειμένου μεγαλώνει ανεπανόρθωτα.

Όταν το ISK είναι ενεργοποιημένο, θα συμβεί πλήρης κατάρρευση. Όχι, καταλαβαίνω ότι στην αρχή τον οδηγούν σε δοκιμαστική λειτουργία. Αλλά αυτό θα είναι βεβήλωση, γιατί τότε θα είναι απαραίτητο να μιμηθεί ολόκληρη την κοινωνία, με όλες τις συνδέσεις της στο σύνολό της, όχι ένα απλοποιημένο μοντέλο, αλλά οι ψηφιακοί αλωνιστές δεν μπορούν να το κάνουν αυτό.

Στη συνέχεια, θα ξεκινήσει σε περιορισμένη λειτουργία, στην υπό όρους Περιοχή Περμ. Σφάλματα, εντοπισμός σφαλμάτων, νέα κυκλοφορία και παραγωγή;

Αλλά αργά ή γρήγορα, η κόκκινη κορδέλα θα κοπεί και οι άνθρωποι θα μπορούν να ελέγχουν το αυτοκίνητο σε πλήρη ισχύ (με το χέρι στον διακόπτη).

Και ξέρεις τι θα γίνει; Ο Iskin θα τερματίσει όλες τις συναλλαγές εντελώς. Η λογική «αν-τότε» θα συγκρουστεί με εκατομμύρια ρυθμιστικούς κανόνες στην ισχύουσα νομοθεσία, που έρχονται σε αντίθεση δεκάδες χιλιάδες φορές μεταξύ τους. Finita. Τα τρένα μας θα σταματήσουν, η πληρωμή για μια κονσέρβα saury στο σούπερ μάρκετ δεν θα λειτουργήσει. Όλοι θα κατηγορηθούν αμέσως για ένα σωρό αδικήματα και εγκλήματα που θα μπορούσαν να σταλούν στις αρχές, αλλά όλα τα άτομα στις αρχές θα υπόκεινται σε άμεση απόλυση και δίκη. Οι δικαστικές αποφάσεις θα εκδώσουν αμέσως την αξίωση. Μεγάλο ραντεβού, όλα γράφονται για σένα. Εντάξει, αυτά είναι τα μικρά πράγματα. Δεν θα μπορούν όμως να σου μεταφέρουν ούτε τον μισθό, γιατί το γραφείο χρωστάει φόρους, και το βαγόνι σου βάζει πρόστιμα.

Υπερβολή; Οχι. Η πρώτη εκτόξευση (με το χέρι στον διακόπτη) θα είναι ελεγχόμενη, δοκιμή δύο, δοκιμή είκοσι δύο … Και μια μέρα θα ενεργοποιηθεί πλήρως, σαν να είχε περάσει ολόκληρο τον κύκλο των δοκιμών. Και μετά… Και θα απολύσουμε τους υπαλλήλους, οι εθελοντές θα σώσουν την κατάσταση.

Είναι δυνατόν να αποφευχθούν τέτοιες θλιβερές συνέπειες; - Φυσικά, μπορείτε να δοκιμάσετε. Για να γίνει αυτό, πρέπει να γίνουν μια σειρά από πράγματα. Καταστρέψτε το 99% της νομοθεσίας, ανακυκλώστε το υπόλοιπο 1% χωρίς να ρίξετε το μωρό έξω με νερό. (Τέτοια πράγματα γίνονται συνήθως μετά από μια πλήρη επανάσταση με έναν πλήρη εμφύλιο πόλεμο. Πώς να το κάνουμε σε καιρό ειρήνης - δεν έχω ιδέα.) Επιπλέον, η ηθική πρέπει να ξαναδουλέψει. Όσον αφορά την κλοπή ενός πακέτου χαρτιού από το γραφείο (ή την εξαπάτηση της γυναίκας του), είτε είναι απολύτως αποδεκτό (αντανακλάται στον νόμο), είτε συνεπάγεται εντελώς χρονικό όριο. Αυτή η ηθική πρέπει να ξαναγίνει στο μυαλό της κοινωνίας. Διαφορετικά, θα αρχίσει να κόβει τα οπτικά καλώδια, κάτι που είναι φθηνό, απλό και αποτελεσματικό κατά της τεχνητής νοημοσύνης. Μια άλλη επιλογή είναι να πετάξετε αυτό το iskin σε έναν πιθανό σύντροφο, αφήστε τον να κόψει τα χέρια του. Και, φυσικά, οι ανώτερες τάξεις δεν πρέπει να γίνονται άβολες. Εάν δεν μπορούν, τότε θα το χρησιμοποιήσουν ως τελευταία ευκαιρία.

Δεν προσπαθώ να σας πείσω να κολλήσετε τους υπολογιστές. Δεν θα πάμε πουθενά από το ίσκιν. Θα μας προσπεράσει, θα πρέπει να ασχοληθούμε μαζί του. Ας προσπαθήσουμε να κατανοήσουμε με τι (με ποιον) πρέπει να δώσουμε μάχη με τη μοίρα μας.