Τι απειλεί την ανθρωπότητα με τη μηχανογράφηση ολόκληρης της ζωής μας

2024 Συγγραφέας: Seth Attwood | [email protected]. Τελευταία τροποποίηση: 2023-12-16 16:02

Τα smartphone, τα ρομπότ και οι υπολογιστές κάνουν τη ζωή μας πιο εύκολη, αλλά μήπως χάνουμε κάτι σε αυτό; Ο δημοσιογράφος μίλησε με τον Αμερικανό συγγραφέα Nicholas Carr για τους κινδύνους, ακόμη και τις απειλές του υπερβολικού αυτοματισμού.

Είναι ευρέως η πεποίθηση ότι η αυτοματοποίηση των πάντων και όλων βελτιώνει την ποιότητα της ζωής μας. Οι υπολογιστές μας βοηθούν να επιτύχουμε κορυφαία απόδοση. Οι εφαρμογές λογισμικού κάνουν τις εργασίες πιο γρήγορες και ευκολότερες. Τα ρομπότ αναλαμβάνουν την κουραστική και σκληρή δουλειά. Η συνεχής ροή καινοτομιών από τη Silicon Valley απλώς ενισχύει την πεποίθηση των ανθρώπων ότι οι νέες τεχνολογίες κάνουν τη ζωή καλύτερη.

Ωστόσο, υπάρχει μια άλλη άποψη. Ο συγγραφέας Nicholas Carr υποβάλλει τα αξιώματα του σύγχρονου ψηφιακού κόσμου σε μια αμερόληπτη ανάλυση. Το δοκίμιό του "Does Google Make Us Stupid?", που δημοσιεύτηκε στο Atlantic το 2008, εξακολουθεί να είναι αμφιλεγόμενο, όπως και το μπεστ σέλερ του 2010, The Shallows.

Οι υποστηρικτές της θεωρίας ότι η τεχνολογία θα σώσει τον κόσμο μας βλέπουν τον Carr ως έναν από τους πιο ισχυρούς αντιπάλους τους. Και όσοι είναι επιφυλακτικοί για τις συνέπειες της τεχνολογικής προόδου για την ανθρωπότητα τη σέβονται για την ισορροπημένη επιχειρηματολογία της.

Τώρα ο Carr ενδιαφέρεται για μια νέα ερώτηση: πρέπει να φοβόμαστε ότι σταδιακά δεν θα υπάρξουν δύσκολες εργασίες για εμάς στον κόσμο; Θα γίνει πολύ αποδοτική η ζωή μας χάρη στις νέες τεχνολογίες;

Συναντήθηκα με τον συγγραφέα πριν από λίγο καιρό για να μιλήσω για το νέο του βιβλίο, The Glass Cage: Automation and Us, και τι τον έκανε να το γράψει.

1. Καταρρίπτοντας τον κύριο μύθο για τις νέες τεχνολογίες

Τομ Τσάτφιλντ: Αν καταλαβαίνω καλά, στο βιβλίο «Το γυάλινο κλουβί» προσπαθείτε να καταρρίψετε τον μύθο ότι η απλοποίηση της ζωής μας χάρη στην τεχνολογική πρόοδο είναι αναγκαστικά θετικό φαινόμενο.

Νίκολας Καρ: Τόσο σε προσωπικό όσο και σε θεσμικό επίπεδο, έχουμε συνηθίσει να πιστεύουμε ότι η αποτελεσματικότητα και η άνεση είναι εξ ορισμού καλές και η μεγιστοποίησή τους είναι σίγουρα ένας αξιόλογος στόχος. Μου φαίνεται ότι αυτή η προσέγγιση της τεχνολογίας σε όλες τις μορφές της, ειδικά με τη μορφή αυτοματισμού υπολογιστών, είναι μάλλον αφελής. Αυτό ισχύει επίσης για τις δικές μας επιθυμίες και την πραγματική ζωή στον σύγχρονο κόσμο.

Θα αντικαταστήσουν ποτέ οι υπολογιστές τον άνθρωπο;

Τ. Χ.: Κι όμως, οι περισσότεροι οπαδοί της τεχνολογικής προόδου τηρούν τη χρηστική άποψη, σύμφωνα με την οποία τα μεγαλύτερα λάθη που κάνουμε οφείλονται στην παραμέληση της αποτελεσματικότητας και της λογικής, και μάλιστα εμείς οι ίδιοι δεν ξέρουμε τι είναι καλό για εμάς. Επομένως, από την άποψή τους, το καθήκον της τεχνολογικής προόδου είναι να εντοπίσει τις ελλείψεις της ανθρώπινης σκέψης και στη συνέχεια να δημιουργήσει συστήματα που θα αντισταθμίζουν αυτές τις ελλείψεις. Είναι λάθος αυτή η γνώμη;

Ν. Κ.: Από τη μια πλευρά, πολλές καινοτομίες στην ανάπτυξη της τεχνολογίας των υπολογιστών και στην ανάπτυξη αυτοματοποιημένων συστημάτων δεν έχουν καμία σχέση με τον σαρωτικό ισχυρισμό ότι οι άνθρωποι είναι πολύ ατελείς σε σύγκριση με τους υπολογιστές. Ναι, ένας υπολογιστής μπορεί να προγραμματιστεί να εκτελεί ορισμένες λειτουργίες επ' αόριστον με σταθερή ποιότητα. Και είναι αλήθεια ότι ένας άνθρωπος δεν είναι ικανός για κάτι τέτοιο.

Αλλά κάποιοι προχωρούν ακόμη παραπέρα και υποστηρίζουν ότι οι άνθρωποι είναι πολύ ατελείς, ότι ο ρόλος τους πρέπει να περιοριστεί όσο το δυνατόν περισσότερο και ότι οι υπολογιστές θα πρέπει να είναι υπεύθυνοι για όλες τις βασικές εργασίες. Δεν πρόκειται μόνο για την προσπάθεια αντιστάθμισης των ανθρώπινων ελλείψεων - η ιδέα είναι να αφαιρέσουμε εντελώς τον ανθρώπινο παράγοντα, με αποτέλεσμα, όπως υποστηρίζεται, η ζωή μας να γίνει πολύ καλύτερη.

Τ. Χ.: Φαίνεται ότι αυτή δεν είναι η καλύτερη ιδέα. Υπάρχει βέλτιστο επίπεδο αυτοματισμού;

Ν. Κ.: Κατά τη γνώμη μου, το ερώτημα δεν είναι αν χρειάζεται να αυτοματοποιήσουμε αυτό ή εκείνο το πολύπλοκο έργο. Το ερώτημα είναι πώς χρησιμοποιούμε την αυτοματοποίηση, πώς ακριβώς να χρησιμοποιήσουμε τους υπολογιστές για να συμπληρώσουμε τις ανθρώπινες γνώσεις και δεξιότητες, να αντισταθμίσουμε τα ελαττώματα στην ανθρώπινη σκέψη και συμπεριφορά, και επίσης να κινητοποιήσουμε τους ανθρώπους να αξιοποιήσουν στο έπακρο τη δική τους εμπειρία για να φτάσουν σε νέα ύψη.

Μετατρεπόμαστε σε παρατηρητές οθόνης υπολογιστή

Η υπερβολική εξάρτηση από το λογισμικό μπορεί να μας μετατρέψει σε παρατηρητές οθόνης υπολογιστών και χειριστές ροής διεργασιών. Οι υπολογιστές μπορούν να διαδραματίσουν πολύ σημαντικό ρόλο επειδή είμαστε μόνο άνθρωποι - μπορεί να πέσουμε θύματα προκαταλήψεων ή να χάσουμε σημαντικές πληροφορίες. Αλλά ο κίνδυνος είναι ότι είναι πολύ εύκολο να αναθέσουμε σε εξωτερικούς υπολογιστές όλες τις λειτουργίες μας, κάτι που κατά τη γνώμη μου θα ήταν λάθος απόφαση.

2. Χρειάζεται να φέρετε την πραγματική ζωή πιο κοντά στο σενάριο ενός βιντεοπαιχνιδιού;

Τ. Χ.: Με χαρά παρατήρησα ότι στο βιβλίο σας αναφέρετε τα βιντεοπαιχνίδια ως παράδειγμα αλληλεπίδρασης ανθρώπου-μηχανής, στα οποία το ζητούμενο είναι να ξεπερνάς τις δυσκολίες και όχι να τις αποφεύγεις. Τα πιο δημοφιλή παιχνίδια είναι ένα είδος δουλειάς που δίνει στον παίκτη μια αίσθηση ικανοποίησης. Μπορούμε μόνο να παραπονεθούμε ότι η δουλειά που πολλοί από εμάς πρέπει να κάνουμε καθημερινά απαιτεί πολύ λιγότερη ικανότητα και μας φέρνει πολύ λιγότερη ευχαρίστηση.

Τα βιντεοπαιχνίδια διεγείρουν τον παίκτη να καταβάλει επιπλέον προσπάθεια και να χρησιμοποιήσει τον εγκέφαλο όσο το δυνατόν περισσότερο

Ν. Κ.: Τα βιντεοπαιχνίδια είναι ενδιαφέροντα καθώς η ιδέα τους έρχεται σε αντίθεση με τις γενικά αποδεκτές αρχές της δημιουργίας λογισμικού. Ο σκοπός των παιχνιδιών υπολογιστή δεν είναι καθόλου να απαλλάξουν τον χρήστη από την ταλαιπωρία. Αντίθετα, διεγείρουν τον παίκτη να καταβάλει επιπλέον προσπάθεια και να χρησιμοποιήσει τον εγκέφαλο όσο το δυνατόν περισσότερο. Απολαμβάνουμε τα βιντεοπαιχνίδια ακριβώς επειδή μας προκαλούν με ολοένα αυξανόμενες προκλήσεις. Βρισκόμαστε συνεχώς σε δύσκολες καταστάσεις – αλλά όχι σε καταστάσεις που προκαλούν απόγνωση. Η υπέρβαση κάθε νέου επιπέδου βελτιώνει μόνο τις δεξιότητές μας.

Αυτή η διαδικασία μοιάζει πολύ με το πώς ένα άτομο αποκτά εμπειρία ζωής στην πραγματική ζωή. Όπως γνωρίζουμε, για την ανάπτυξη των ικανοτήτων, ένα άτομο χρειάζεται να αντιμετωπίζει σοβαρά εμπόδια ξανά και ξανά και να τα ξεπερνά ξανά και ξανά, χρησιμοποιώντας όλες τις γνώσεις και τις δεξιότητές του. Σταδιακά, ένα άτομο φτάνει σε ένα νέο επίπεδο, μετά από το οποίο αυξάνεται η πολυπλοκότητα των εμποδίων.

Νομίζω ότι οι άνθρωποι αγαπούν τα βιντεοπαιχνίδια για τον ίδιο λόγο που νιώθουν ικανοποίηση από την απόκτηση νέων εμπειριών και την υπέρβαση εμποδίων. Η λύση ενός δύσκολου έργου, στη διαδικασία του οποίου αποκτάται νέα γνώση, απαραίτητη για να ξεπεραστούν νέες, ακόμη πιο περίπλοκες δυσκολίες, δίνει σε ένα άτομο μεγάλη ευχαρίστηση.

Η ολοκληρωτική υποταγή στον υπολογιστή θα μας οδηγήσει σε μια ζωή στην οποία θα υπάρχει ελάχιστος χώρος για αυτοπραγμάτωση

Μία από τις κύριες ανησυχίες που εκφράζω στο βιβλίο είναι ότι η στάση μας για την πρόοδο συνδέεται με την επιθυμία να αποφύγουμε όσο το δυνατόν περισσότερο την επίλυση δύσκολων προβλημάτων. Μου φαίνεται ότι αυτή η άποψη έρχεται σε αντίθεση με την ίδια την έννοια της ικανοποίησης από τη ζωή και της αυτοπραγμάτωσης.

3. Θα εξαλείψουν οι υπολογιστές την ανάγκη για ανθρώπους;

Τ. Χ.: Σε αντίθεση με τα βιντεοπαιχνίδια, στον πραγματικό κόσμο, η σκληρή δουλειά δεν ανταμείβεται απαραίτητα. Ο πραγματικός κόσμος είναι άδικος και ανισόρροπος. Ίσως η πιο ανησυχητική τάση εδώ είναι ότι τα συμφέροντα του ατόμου (ψυχολογικά, προσωπικά, ακόμη και όσον αφορά την επιβίωση) ολοένα και περισσότερο δεν ευθυγραμμίζονται με τις εταιρικές και κυβερνητικές αντιλήψεις περί σκοπιμότητας. Φοβάστε ότι οι υπολογιστές θα αντικαταστήσουν επιτέλους τους ανθρώπους;

Πολλά παιχνίδια είναι δύσκολο να περάσουν και απαιτούν ασυνήθιστες δεξιότητες και εφευρετικότητα από τους παίκτες. Γιατί λοιπόν η υπόλοιπη τεχνολογία να κάνει τη ζωή μας πιο εύκολη;

Ν. Κ.: Όταν μάζευα υλικό για το βιβλίο, με τρόμαξε πολύ ένα άρθρο (αποσπάσματα από τα οποία παραθέτω στο κείμενο), γραμμένο από έναν ειδικό στη στρατιωτική στρατηγική. Σύμφωνα με τον ίδιο, δεδομένης της αυξανόμενης κλίμακας της χρήσης τεχνολογιών υπολογιστών στο πεδίο της μάχης, πολύ σύντομα μπορεί απλώς να μην υπάρχει χώρος για ένα άτομο σε στρατιωτικές υποθέσεις. Η ταχύτητα λήψης αποφάσεων έχει αυξηθεί τόσο πολύ που οι άνθρωποι απλά δεν μπορούν να συμβαδίσουν με τους υπολογιστές. Αναπόφευκτα κινούμαστε προς έναν πλήρως αυτοματοποιημένο πόλεμο: τα μη επανδρωμένα εναέρια οχήματα θα αποφασίσουν μόνα τους πότε θα εκτοξεύσουν πυραύλους σε στόχους και οι ρομποτικοί στρατιώτες στο έδαφος θα αποφασίσουν μόνοι τους πότε θα πυροβολήσουν.

Κατά τη γνώμη μου, αυτή η κατάσταση παρατηρείται όχι μόνο στις στρατιωτικές υποθέσεις, αλλά και σε πολλούς άλλους τομείς - για παράδειγμα, στον κόσμο των οικονομικών. Οι άνθρωποι απλώς δεν συμβαδίζουν με τους υπολογιστές όταν διαπραγματεύονται χρηματοοικονομικά μέσα, για παράδειγμα.

Τι μας περιμένει; Μπορεί όχι μόνο να χάσουμε την ικανότητα που μας διακρίνει από τους υπολογιστές για κριτική αξιολόγηση των δικών μας ενεργειών - ίσως θα εφαρμόσουμε τέτοια συστήματα αλόγιστα, πιστεύοντας ότι το κύριο πράγμα είναι η ταχύτητα λήψης αποφάσεων. Και μετά, αν πειστούμε ότι κάναμε λάθος, θα διαπιστώσουμε ότι δεν υπάρχει γυρισμός. Πολύ συχνά αποδεικνύεται ότι είναι αδύνατο να ενσωματωθεί ένα άτομο σε ένα σύστημα που αρχικά βασίστηκε στην τεχνολογία υπολογιστών.

Τ. Χ.: Και εγώ τρομοκρατήθηκα όταν διάβασα ένα απόσπασμα του βιβλίου σας σχετικά με τον αυτοματοποιημένο πόλεμο. Είχα την αίσθηση ότι η διαδικασία που θα μας οδηγήσει σε πλήρως αυτόνομα συστήματα μάχης δεν μπορεί να σταματήσει. Μέρος της φρίκης μου προέρχεται από τις αναμνήσεις της οικονομικής κρίσης του 2008, η οποία ουσιαστικά εξαφάνισε τρισεκατομμύρια δολάρια. Τουλάχιστον τώρα οι άνθρωποι είναι πιο υπεύθυνοι για τα οικονομικά τους. Αλλά αν συμβεί αυτό στη στρατιωτική σφαίρα, δεν θα καταστραφούν δολάρια, αλλά ανθρώπινες ζωές.

Ένα μέλλον χωρίς ανθρώπους;

Ν. Κ.: Δεν είναι μόνο ότι οι νέες τεχνολογίες, ειδικά οι τεχνολογίες λογισμικού, μπορούν σήμερα να αναπαραχθούν και να διανεμηθούν πολύ γρήγορα. Το θέμα είναι ότι όλες αυτές οι διαδικασίες γίνονται σε ένα ανταγωνιστικό περιβάλλον. Είτε μιλάμε για κούρσα εξοπλισμών είτε για επιχειρηματικό διαγωνισμό, μόλις κάποιος από τους ανταγωνιστές αποκτήσει βραχυπρόθεσμο πλεονέκτημα σε βάρος της μιας ή της άλλης τεχνολογίας, αυτή η τεχνολογία εισάγεται αμέσως όπου είναι δυνατόν - επειδή κανείς δεν θέλει να είναι σε μειονέκτημα.

Νομίζω ότι σε αυτή την κατάσταση είναι πολύ εύκολο να παραβλέπουμε το γεγονός ότι είμαστε ουσιαστικά ζώα. Οι άνθρωποι έχουν περάσει από μια εξελικτική πορεία για χιλιετίες για χάρη του να μπορούν να ζήσουν και να επιβιώσουν. Ο ρόλος της ανθρωπότητας, καθώς και τα αισθήματά μας ικανοποίησης και αυτοπραγμάτωσης, σχετίζονται στενά με την εμπειρία μας να ζούμε σε έναν κόσμο που καθορίζει τον συνηθισμένο μας ρυθμό.

Επομένως, όταν αντιπαραθέτουμε ένα άτομο, με όλα τα φυσικά του πλεονεκτήματα και μειονεκτήματα, σε έναν γρήγορο και ακριβή υπολογιστή, υπάρχει η επιθυμία να δώσουμε όλη μας τη ζωή στους υπολογιστές. Ωστόσο, ξεχνάμε ότι η ολοκληρωτική υποταγή στον υπολογιστή θα μας οδηγήσει σε μια ζωή στην οποία θα υπάρχει ελάχιστος χώρος για αυτοπραγμάτωση.

4. Πώς αυτοματοποιούμε τον κόσμο;

Τ. Χ.: Πιστεύω ότι πρέπει να είμαστε επικριτικοί απέναντι στις νέες τεχνολογίες, αλλά με ανησυχεί το γεγονός ότι οι άνθρωποι μετατρέπουν την περιττή δυσκολία και την αντιτεχνολογική «αυθεντικότητα» σε φετίχ. Υπάρχει μια τέτοια μοντέρνα σχολή σκέψης που επαινεί τη σκληρή σωματική εργασία και ισχυρίζεται ότι ό,τι κάνουμε πρέπει να είναι τεχνικό και αυθεντικό. Κατά τη γνώμη μου, μια τέτοια θέση μυρίζει σνομπισμό και δεν λαμβάνει υπόψη τον τεράστιο αριθμό θετικών επιτευγμάτων που έφερε μαζί της ο εκδημοκρατισμός της τεχνολογικής προόδου.

Ν. Κ.: Συμφωνώ απόλυτα μαζί σας. Σε μια συνέντευξη, με ρώτησαν πώς η επιφυλακτική μου στάση απέναντι στην πρόοδο θα βοηθούσε, για παράδειγμα, τους ανθρώπους που εργάζονται σε σκληρές συνθήκες σε εργοστάσια επεξεργασίας κρέατος. Απάντησα ότι, φυσικά, θα υπάρχει πάντα ένας χώρος για την αυτοματοποίηση της παραγωγής όπου θα πρέπει να βελτιωθούν οι συνθήκες εργασίας των ανθρώπων. Απλώς μπορείτε να καινοτομήσετε έξυπνα ή μπορείτε να το κάνετε αλόγιστα. μπορούμε να βρούμε έναν τρόπο να λάβουμε υπόψη την αξία της ανθρώπινης εμπειρίας και τη σημασία της αυτοπραγμάτωσης, ή μπορούμε απλώς να επαινέσουμε τις δυνατότητες των υπολογιστών. Το να κάνεις τη σωστή επιλογή δεν είναι εύκολο. Εάν αντιλαμβανόμαστε αυτό το καθήκον αποκλειστικά σε μαύρο και άσπρο - είτε υπερασπιζόμαστε τυφλά τη σκληρή, εξαντλητική σωματική εργασία σε οποιεσδήποτε καταστάσεις, είτε, αντίθετα, βλέπουμε το νόημα της ζωής στον συβαρισμό - αυτό δεν θα βοηθήσει την αιτία.

Η πιο δύσκολη και απαιτητική εργασία εξαιρετικής ακρίβειας αφήνεται καλύτερα στα μηχανήματα

Οι άνθρωποι δημιουργούν και χρησιμοποιούν συνεχώς εργαλεία. Από αμνημονεύτων χρόνων, πρέπει να λαμβάνουμε αποφάσεις που σχετίζονται με τον καταμερισμό της εργασίας, με τον καταμερισμό του όγκου της εργασίας μεταξύ ενός ατόμου και των εργαλείων που έχει στη διάθεσή του. Και μου φαίνεται ότι η εκπληκτική αποτελεσματικότητα των υπολογιστών στην εκτέλεση ενός ευρέος φάσματος εργασιών περιπλέκει μόνο τη διαδικασία λήψης τέτοιων αποφάσεων.

5. Τι μας περιμένει;

Τ. Χ.: Άρα η ανθρωπότητα κινείται προς την επιτυχία;

Ν. Κ.: Ο ιστορικός φυσικής ιστορίας Thomas Hughes, ο οποίος πέθανε πέρυσι, πρότεινε την έννοια της «τεχνολογικής ορμής». Πίστευε ότι οι τεχνολογίες που είναι ενσωματωμένες σε κοινωνικές δομές και διαδικασίες αρχίζουν να αναπτύσσονται μόνες τους, παρασύροντας την κοινωνία μαζί τους. Είναι πολύ πιθανό η τροχιά μας να έχει ήδη καθοριστεί και να συνεχίσουμε στον σημερινό μας δρόμο, χωρίς να θέσουμε ερωτήσεις για το αν κινούμαστε στη σωστή κατεύθυνση. Πραγματικά δεν ξέρω τι θα γίνει. Το περισσότερο που μπορώ να κάνω είναι να προσπαθήσω να συλλογιστώ για αυτές τις πραγματικά δύσκολες ερωτήσεις όσο καλύτερα μπορώ.

Ελπίζω ότι εμείς, ως άτομα και ως μέλη της κοινωνίας, θα μπορέσουμε να διατηρήσουμε ένα ορισμένο επίπεδο κατανόησης του τι μας συμβαίνει, καθώς και ένα ορισμένο επίπεδο περιέργειας, και θα λάβουμε αποφάσεις με βάση τα μακροπρόθεσμα συμφέροντά μας, και όχι με βάση τις συνήθεις έννοιες της ευκολίας, της ταχύτητας, της ακρίβειας και της αποτελεσματικότητας.

Θα έρθει η μέρα και τα ρομπότ θα μας απαλλάξουν από όλες τις δυσκολίες. Το χρειαζόμαστε;

Μου φαίνεται ότι πρέπει να προσπαθήσουμε να διασφαλίσουμε ότι οι υπολογιστές εμπλουτίζουν την εμπειρία της ζωής μας και μας ανοίγουν νέες ευκαιρίες και δεν μας μετατρέπουν σε παθητικούς παρατηρητές των οθονών οθόνης. Εξακολουθώ να πιστεύω ότι αν αξιοποιήσουμε περισσότερο τις νέες τεχνολογίες, θα μπορέσουν να κάνουν ό,τι η τεχνολογία και τα εργαλεία έκαναν σε όλη την ανθρώπινη ιστορία - να δημιουργήσουν έναν πιο ενδιαφέροντα κόσμο γύρω μας και να μας βοηθήσουν να γίνουμε καλύτεροι. Τελικά, όλα εξαρτώνται από εμάς τους ίδιους.