Η σκοτεινή πλευρά των νέων τεχνολογιών

Το ντοκιμαντέρ "Το δίλημμα των κοινωνικών δικτύων" (Netflix) αποκαλύπτει ένα ανησυχητικό πανόραμα σχετικά με τις συνέπειες της κατάχρησης νέων τεχνολογιών επικοινωνίας.

Εθισμός στην οθόνη, γενικευμένα καταθλιπτικά συμπτώματα και χειρισμός συμπεριφορών για εμπορικούς σκοπούς. Σε ποιο βαθμό έχουν γίνει ορισμένες προόδους για την ανθρωπότητα επιζήμιες για τη συνύπαρξη και την ποιότητα ζωής μας;

• Σχετικό άρθρο: "Εθισμός στα κοινωνικά δίκτυα: η κατάχρηση του εικονικού"

Η γνώμη των δημιουργών

Το «δίλημμα των κοινωνικών δικτύων» δημιουργείται, παράγεται και διευθύνεται από εκείνους που κατέχουν υψηλές θέσεις σε εταιρείες όπως το Twitter, το Google, Το Instagram, το Facebook και το YouTube, βοήθησαν στην οικοδόμηση του «υπολογιστή τέρας» που σήμερα αποτελεί μέρος της καθημερινής ζωής εκατομμυρίων Ανθρωποι.

Το ντοκιμαντέρ ξεκινά από μια ανησυχία: ίσως είμαστε αφελείς σχετικά με τις συνέπειες των εργαλείων που έχουμε δημιουργήσει οι ίδιοι. Αυτό συμβαίνει στο σημείο που πολλοί από αυτούς που δημιούργησαν αυτούς τους ιστότοπους και κοινωνικά δίκτυα σήμερα αναγνωρίζονται ως «εθισμένοι» σε αυτά τα εργαλεία.

Αισθάνονται λύπη και φόβο που συμμετείχαν σε αυτήν τη διαδικασία, και αυτά τα συναισθήματα συνδέονται με την τρομερή υποψία ότι κάποια ανθρωπότητα τα πράγματα ξεφεύγουν από το χέρι, και ότι με μια έννοια συμπεριφερόμαστε σε κοινωνικό επίπεδο σύμφωνα με την αρχαία παραβολή του «μαϊμού με ξυράφι".

Μια ενδιαφέρουσα πτυχή του ντοκιμαντέρ είναι ότι αποφεύγει κάθε πειρασμό «συνωμοσίας» αποκαλύπτοντας ότι τελικά «δεν υπάρχει κακός». Ποιο είναι λοιπόν το πρόβλημα;

Η γέννηση του "Frankenstein"

Με τη βιομηχανία του Διαδικτύου, έχουν δημιουργηθεί οι πιο λεπτοί, πολύπλοκοι και αποτελεσματικοί μηχανισμοί μάρκετινγκ στην ιστορία της ανθρωπότητας. Η διαχείριση αγορών τρισεκατομμυρίων δολαρίων μέσω του Διαδικτύου

Εάν είστε επιχειρηματίας, θα γνωρίζετε ότι ποτέ δεν έχει προβλεφθεί με ακρίβεια το κοινό που θέλετε να στοχεύσετε ένα προϊόν ή υπηρεσία που προσφέρετε, τη στιγμή που το κάνετε, καθώς και τη διαμόρφωση των συμπεριφορών των δυνατοτήτων σας Καταναλωτές.

Τώρα, πώς επιτυγχάνεται αυτό; Πολύ απλό: εξαιρετικές προβλέψεις μπορούν να γίνουν μόνο από την κατοχή πολλών δεδομένων. Όσο περισσότερες πληροφορίες χειρίζεστε για τους χρήστες, τόσο πιο σίγουροι έχετε ότι η διαφήμισή σας θα λειτουργεί.

Πολλοί πιστεύουν ότι το Google είναι απλώς μια μηχανή αναζήτησης. Αυτό που συχνά παραβλέπουν είναι ότι το επιχειρηματικό μοντέλο αυτών των εταιρειών βασίζεται στην εύρεση όσο το δυνατόν περισσότερων για τις προτιμήσεις, τις συμπεριφορές και τις τάσεις μας, τα οποία είναι εγγεγραμμένη σε καθεμία από τις ενέργειές μας στον Ιστό.

Με λίγα λόγια, τι εργαλεία όπως οι Διαφημίσεις στο Facebook κάνουν (με τον ίδιο τρόπο που λειτουργούν τα βίντεο για παράδειγμα συνιστάται από το YouTube) είναι η τμηματοποίηση του κοινού με εξαιρετικά εξειδικευμένο τρόπο, λαμβάνοντας υπόψη την ηλικία, το φύλο, τη γεωγραφική τοποθεσία, τα ενδιαφέροντα και άλλες μεταβλητές. Για ποιο σκοπό γίνεται αυτό; Πολύ απλό: προκειμένου να προσελκύσετε δυνητικούς πελάτες για ορισμένα προϊόντα που προσφέρονται από διαφημιζόμενους που είναι αυτοί που, τελικά, προσλαμβάνουν τις υπηρεσίες τους.

Και αυτό μας φέρνει στη «σκοτεινή πλευρά της επιχείρησης», δηλαδή στα ερωτήματα σχετικά με τα ηθικά όρια που εμπλέκονται σε αυτήν τη διαδικασία.

Η χειραγώγηση είναι το κλειδί για το θέμα

Εάν ζούμε σε μια μεγάλη πόλη, σίγουρα η ακόλουθη εικόνα δεν θα μας είναι άγνωστη: όταν μπαίνουμε σε ένα μέρος κοινό (όπως ένα μέσο μεταφοράς ή ένα μπαρ) βλέπουμε το 90% των ατόμων να απορροφώνται στην οθόνη των τηλεφώνων τους κινητά. Ενδεχομένως σε μικρότερη κλίμακα, μέσα σε μια οικογενειακή ομάδα, κάτι παρόμοιο συμβαίνει στην καθημερινή ζωή.

Όπως το θέτει το ντοκιμαντέρ, «φαίνεται ότι ο κόσμος έχει τρελαθεί ή ότι έχει πέσει σε ένα είδος ξόρκι». Αυτό που συμβαίνει, μεταξύ άλλων, είναι αυτό όσοι σχεδίασαν το σύστημα το έκαναν με σκοπό να προσελκύσουν όσο το δυνατόν περισσότερο την προσοχή του χρήστη.

Το σύστημα έχει προγραμματιστεί να βελτιώσει τον εαυτό του ως προς αυτό και να μας προσφέρει ευχαρίστηση. Είναι σαν να δείχναμε αυτές τις μηχανές τεχνητής νοημοσύνης προς εμάς για να μάθουμε όλο και περισσότερο τι θα προκαλούσε μια «επιτυχημένη» απάντηση από τον χρήστη.

Με άλλα λόγια, στον υπολογιστή δίνεται μια εντολή: "Θέλω αυτό το αποτέλεσμα." Και τότε ο υπολογιστής μαθαίνει να το κάνει (από εκεί προέρχεται ο όρος "μηχανική μάθηση"). Α) Ναι, κάθε μέρα το σύστημα βελτιώνεται επιλέγοντας τις σωστές διαφημίσεις με τη σωστή σειρά ώστε να ξοδεύετε περισσότερο χρόνο ενδιαφερόμενοι για αυτά τα περιεχόμενα.

Αυτό που αποκαλύπτει το ντοκιμαντέρ είναι ότι οι χρήστες του Διαδικτύου (και σήμερα, ποιος δεν είναι;) έχουμε γίνει, χωρίς να το συνειδητοποιήσουμε, το δικό μας καταναλωτικό αγαθό. Με λίγα λόγια: "Εάν δεν πληρώνετε για το προϊόν, είστε το προϊόν."

Τι είναι ο αλγόριθμος;

Όπως εξηγείται καλά στο ντοκιμαντέρ, "οι αλγόριθμοι είναι απόψεις σε κώδικα." Δεν είναι αντικειμενικά, δεν αντιστοιχούν σε καμία πραγματικότητα αλλά διαμορφώνονται σύμφωνα με έναν ορισμό της επιτυχίας, και αυτός ο ορισμός της επιτυχίας δεν είναι άλλος από το κέρδος.

Ένα παράδειγμα αυτού είναι ο τρόπος με τον οποίο οι μηχανές αναζήτησης "συμπληρώνουν" πληροφορίες σχετικά με συγκεκριμένα θέματα βάσει ο τόπος στον πλανήτη από τον οποίο πραγματοποιείται η αναζήτηση ή ανάλογα με το τι γνωρίζει η Google για τα ενδιαφέροντά σας και απολαύσεις.

Για παράδειγμα, αν είστε Google: "η κλιματική αλλαγή είναι ..." ανάλογα με διάφορους παράγοντες, θα διαπιστώσετε ότι είναι απειλή, ότι είναι αναπόφευκτο, ότι είναι ψεύτικο, και ούτω καθεξής... Ένα άλλο παράδειγμα είναι τα περίφημα "ψεύτικα νέα" που, σύμφωνα με μελέτες, πολλαπλασιάζεται έξι φορές πιο γρήγορα από τα νέα αληθής. Αυτό το γνωρίζουμε από ορισμένες ουσίες που υποτίθεται ότι θεραπεύουν μαγικά το COVID-19.

Με άλλα λόγια: Εάν έχετε την τάση να πιστεύετε στις θεωρίες συνωμοσίας, το σύστημα θα σας ενθαρρύνει να βρείτε περιεχόμενο που να συμμορφώνεται με αυτές τις θεωρίες. Εάν έχετε μια σχέση με ένα συγκεκριμένο πολιτικό κόμμα ή έχετε εκφράσει μίσος προς ορισμένες μειονότητες, κάτι που θα το κάνει ο αλγόριθμος δεν είναι να σας δείξει καμία αλήθεια αλλά να "κουνήσετε τα φαντάσματά σας" για να συλλάβετε όλο και περισσότερα δικά σας προσοχή.

Ως εκ τούτου, λέγεται στο ντοκιμαντέρ ότι Αυτές οι διαδικασίες διαβρώνουν γρήγορα τον κοινωνικό ιστό. Λοιπόν, εάν ο καθένας δείξει την αλήθεια που τους δημιουργεί, συνδέεται με ανθρώπους που σκέφτονται το ίδιο και τους δίνεται επιχειρήματα ότι δικαιολογούν τις πεποιθήσεις τους (φτάνοντας παράλογα άκρα όπως η επίπεδη Γη) αυτό εξηγεί ότι υπάρχουν όλο και περισσότερες κρίσεις δημοκρατικός.

Συγγραφέας: Guillermo Miatello, διευθυντής της Academia de Psicoanálisis Madrid SL.