Sisi gelap dari teknologi baru

Film dokumenter "The dilemma of social networks" (Netflix) mengungkapkan panorama yang mengkhawatirkan tentang konsekuensi dari penyalahgunaan teknologi komunikasi baru.

Kecanduan layar, gejala depresi umum, dan manipulasi perilaku untuk tujuan komersial. Sejauh mana kemajuan tertentu bagi umat manusia telah merusak koeksistensi dan kualitas hidup kita?

• Artikel terkait: "Kecanduan jejaring sosial: penyalahgunaan virtual"

Pendapat para pencipta

"Dilema jaringan sosial" dibuat, diproduksi, dan diarahkan oleh mereka yang menduduki posisi tinggi di perusahaan seperti Twitter, Google, Instagram, Facebook, dan YouTube, membantu membangun "monster komputer" yang saat ini menjadi bagian dari kehidupan sehari-hari jutaan orang orang-orang.

Film dokumenter ini berangkat dari sebuah keprihatinan: mungkin kita selama ini naif tentang konsekuensi dari alat yang kita buat sendiri. Ini sampai pada titik di mana banyak dari mereka yang membuat situs dan jejaring sosial ini sekarang diakui sebagai "kecanduan" alat ini.

Mereka merasa menyesal dan takut karena telah menjadi bagian dari proses ini, dan perasaan ini bergabung dengan kecurigaan yang menakutkan bahwa umat manusia tertentu certain hal-hal menjadi tidak terkendali, dan bahwa dalam arti tertentu kita berperilaku pada tingkat sosial sesuai dengan perumpamaan kuno "monyet dengan pisau cukur".

Aspek yang menarik dari film dokumenter ini adalah menghindari godaan "konspirasi" dengan mengungkapkan bahwa pada akhirnya "tidak ada orang jahat". Lalu, apa masalahnya?

Kelahiran "Frankenstein"

Dengan industri Internet, mekanisme pemasaran yang paling halus, kompleks, dan efektif telah dibuat dalam sejarah umat manusia. Pasar triliunan dolar dikelola melalui Internet.

Jika Anda seorang pengusaha, Anda akan tahu bahwa audiens yang ingin Anda targetkan belum pernah diprediksi dengan akurasi seperti itu produk atau layanan yang Anda tawarkan, saat Anda melakukannya, serta membentuk perilaku potensi Anda konsumen.

Sekarang, bagaimana ini dicapai? Sangat sederhana: prediksi hebat hanya dapat dibuat dengan memiliki banyak data. Semakin banyak informasi yang Anda tangani tentang pengguna, semakin yakin bahwa iklan Anda akan berhasil.

Banyak yang percaya bahwa Google hanyalah sebuah mesin pencari. Apa yang sering mereka abaikan adalah bahwa model bisnis perusahaan-perusahaan ini didasarkan pada pencarian sebanyak mungkin tentang selera, perilaku, dan kecenderungan kita, yang semuanya terdaftar di setiap tindakan kami di web.

Singkatnya, apa yang dilakukan alat seperti Iklan Facebook (dengan cara yang sama seperti video bekerja misalnya direkomendasikan dari YouTube) adalah mengelompokkan pemirsa dengan cara yang sangat khusus, dengan mempertimbangkan usia, jenis kelamin, lokasi geografis, minat, dan variabel lainnya. Untuk tujuan apa ini dilakukan? Sangat sederhana: untuk menarik pelanggan potensial untuk produk tertentu yang ditawarkan oleh pengiklan yang, pada akhirnya, menyewa layanan mereka.

Dan ini membawa kita ke "sisi gelap bisnis", yaitu pertanyaan tentang batasan etika yang terlibat dalam proses ini.

Manipulasi adalah kunci dari masalah ini

Jika kita tinggal di kota besar, pasti gambar berikut ini tidak akan asing lagi bagi kita: saat memasuki suatu tempat publik (seperti alat transportasi atau bar) kami melihat 90% orang asyik dengan layar ponsel mereka ponsel. Mungkin dalam skala yang lebih kecil, dalam kelompok keluarga, hal serupa terjadi dalam kehidupan sehari-hari.

Seperti yang dikatakan oleh film dokumenter itu, "tampaknya dunia telah menjadi gila atau telah jatuh ke dalam semacam mantra." Apa yang terjadi, antara lain, adalah mereka yang merancang sistem melakukannya dengan tujuan menarik perhatian pengguna sebanyak mungkin.

Sistem ini diprogram untuk memperbaiki dirinya sendiri dalam hal ini dan memberi kita kesenangan. Seolah-olah kami mengarahkan mesin kecerdasan buatan ini ke arah kami untuk semakin mempelajari kembali apa yang akan menyebabkan respons "berhasil" dari pengguna.

Dengan kata lain, komputer diberi perintah: "Saya ingin hasil ini." Dan kemudian komputer belajar melakukannya (dari situlah istilah "pembelajaran mesin" berasal). A) Ya, setiap hari sistem meningkat dengan memilih iklan yang benar dalam urutan yang benar sehingga Anda menghabiskan lebih banyak waktu tertarik pada konten ini.

Apa yang diungkapkan oleh dokumenter itu adalah bahwa pengguna Internet (dan hari ini, siapa yang tidak?) kita telah menjadi, tanpa disadari, barang konsumsi kita sendiri. Singkatnya: "Jika Anda tidak membayar produk, Anda adalah produknya."

Apa itu algoritma?

Seperti dijelaskan dengan baik dalam film dokumenter, "algoritma adalah opini dalam kode." Mereka tidak objektif, mereka tidak sesuai dengan kenyataan apa pun tetapi dikonfigurasi menurut definisi kesuksesan tertentu certain, dan definisi sukses ini tidak lain adalah keuntungan.

Contohnya adalah bagaimana mesin pencari "mengisi" informasi tentang topik tertentu berdasarkan tempat di planet tempat pencarian dilakukan atau tergantung pada apa yang diketahui Google tentang minat Anda dan kesenangan.

Misalnya, jika Anda Google: "perubahan iklim adalah ..." tergantung pada berbagai faktor, Anda akan menemukan bahwa itu adalah ancaman, tidak dapat dihindari, itu palsu, dan seterusnya... Contoh lain adalah "berita palsu" yang terkenal, yang menurut penelitian, berkembang biak enam kali lebih cepat daripada berita benar. Kita tahu ini dari zat tertentu yang seharusnya secara ajaib menyembuhkan COVID-19.

Dengan kata lain: Jika Anda memiliki kecenderungan untuk percaya pada teori konspirasi, sistem akan mendorong Anda untuk menemukan konten yang sesuai dengan teori ini. Jika Anda memiliki afinitas untuk partai politik tertentu atau telah menyatakan kebencian terhadap minoritas tertentu, yang akan algoritmenya bukan untuk menunjukkan kebenaran apa pun kepada Anda tetapi untuk "mengguncang hantu Anda" untuk menangkap lebih banyak dan lebih banyak lagi Anda perhatian.

Oleh karena itu dikatakan dalam film dokumenter bahwa Proses-proses ini dengan cepat merusak tatanan sosial. Nah, jika masing-masing diperlihatkan kebenaran yang mengada-ada, mereka dikaitkan dengan orang-orang yang berpikiran sama dan mereka diberi argumen bahwa membenarkan keyakinan mereka (mencapai ekstrem absurd seperti Bumi datar) ini menjelaskan bahwa ada semakin banyak krisis dalam sistem demokratis.

Penulis: Guillermo Miatello, direktur Academia de Psicoanálisis Madrid SL.