Temná stránka nových technologií

Dokument „Dilema sociálních sítí“ (Netflix) odhaluje znepokojivé panorama důsledků zneužití nových komunikačních technologií.

Závislost na obrazovce, generalizované depresivní příznaky a manipulace s chováním pro komerční účely. Do jaké míry se určité pokroky pro lidstvo staly škodlivými pro naše soužití a kvalitu života?

• Související článek: „Závislost na sociálních sítích: zneužívání virtuálních“

Názor tvůrců

„Dilema sociálních sítí“ vytvářejí, produkují a režírují ti, kteří na vysokých pozicích ve společnostech jako Twitter, Google, Instagram, Facebook a YouTube pomohly vybudovat „počítačové monstrum“, které je dnes součástí každodenního života milionů lidí lidé.

Dokument začíná znepokojením: možná jsme byli naivní ohledně důsledků nástrojů, které jsme si sami vytvořili. Je tomu tak až do bodu, kdy je mnoho z těch, kteří tyto stránky a sociální sítě vytvořili, považováno za „závislé“ na těchto nástrojích.

Cítí lítost a strach, že byli součástí tohoto procesu, a k těmto pocitům se přidává obávané podezření, že určité lidstvo věci se nám vymkly z rukou a že se v jistém smyslu chováme na sociální úrovni v souladu se starodávným podobenstvím „opice s Břitva".

Zajímavým aspektem dokumentu je, že se vyhýbá jakémukoli pokušení „spiknutí“ odhalením, že nakonec „není žádný zlý člověk“. V čem tedy je problém?

Zrození "Frankensteina"

S internetovým průmyslem byly vytvořeny nejjemnější, nejsložitější a nejúčinnější marketingové mechanismy v historii lidstva. Trhy bilionů dolarů jsou řízeny prostřednictvím internetu.

Pokud jste podnikatel, budete vědět, že nikdy předtím nebylo s takovou přesností předpovězeno publikum, na které chcete cílit produkt nebo službu, kterou nabízíte, v okamžiku, kdy to děláte, a také formování chování vašich potenciálů spotřebitelé.

Jak je toho dosaženo? Velmi jednoduché: skvělé předpovědi lze vyvodit pouze z velkého množství dat. Čím více informací o uživatelích zpracováváte, tím více máte jistotu, že vaše reklama bude fungovat.

Mnoho lidí věří, že Google je jednoduše vyhledávač. Často přehlížejí, že obchodní model těchto společností je založen na zjištění co nejvíce o našem vkusu, chování a tendencích, a to vše je registrována v každé z našich akcí na webu.

Stručně řečeno, jaké nástroje jako Facebook Ads fungují (stejně jako například videa) YouTube) je segmentace publika ultra specializovaným způsobem s ohledem na věk, pohlaví, geografickou polohu, zájmy další proměnné. Za jakým účelem se to dělá? Velmi jednoduché: s cílem přilákat potenciální zákazníky pro určité produkty nabízené inzerenty, kteří jsou nakonec těmi, kdo si jejich služby najímají.

A to nás přivádí k „temné stránce podnikání“, tedy k otázkám týkajícím se etických limitů, které tento proces zahrnuje.

Manipulace je klíčem k věci

Pokud žijeme ve velkém městě, určitě nám nebude znám následující obrázek: při vstupu na místo veřejnost (například dopravní prostředek nebo bar) vidíme 90% lidí pohlcených na obrazovce svých telefonů mobilní telefony. Možná v menším měřítku, v rámci rodinné skupiny, se něco podobného děje v každodenním životě.

Jak dokument uvádí: „Zdá se, že se svět zbláznil nebo že upadl do jakési kouzla.“ Stává se mimo jiné to ti, kdo systém navrhli, tak učinili s cílem co nejvíce upoutat pozornost uživatele.

Systém je naprogramován tak, aby se v tomto ohledu zdokonaloval a poskytoval nám potěšení. Je to, jako bychom směřovali tyto motory umělé inteligence směrem k nám, abychom se stále více učili, co by vyvolalo „úspěšnou“ reakci uživatele.

Jinými slovy, počítač dostane příkaz: „Chci tento výsledek.“ A pak se počítač naučí dělat to (odtud pochází i pojem „strojové učení“). A) Ano, každý den se systém vylepšuje výběrem správných reklam ve správném pořadí abyste se více zajímali o tento obsah.

Dokument odhaluje to, že uživatelé internetu (a dnes, kdo ne?) stali jsme se, aniž bychom si to uvědomovali, naším vlastním spotřebním zbožím. Stručně řečeno: „Pokud za produkt neplatíte, jste ním právě vy.“

Co je to algoritmus?

Jak je v dokumentu dobře vysvětleno, „algoritmy jsou názory v kódu“. Nejsou objektivní, neodpovídají žádné realitě, ale jsou konfigurovány podle určité definice úspěchua tato definice úspěchu není nic jiného než zisk.

Příkladem toho je, jak vyhledávače „vyplňují“ informace o určitých tématech na základě místo na planetě, ze kterého se vyhledávání provádí, nebo podle toho, co Google ví o vašich zájmech a potěšení.

Například pokud na Googlu zadáte: „změna klimatu je ...“ v závislosti na různých faktorech zjistíte, že jde o hrozbu, že je nevyhnutelná, že jde o podvod, a tak dále... Dalším příkladem jsou slavné „falešné zprávy“, které se podle studií množí šestkrát rychleji než zprávy skutečný. Víme to z určitých látek, které měly magicky léčit COVID-19.

Jinými slovy: pokud máte sklon věřit v konspirační teorie, systém vás povzbudí, abyste našli obsah, který je v souladu s těmito teoriemi. Pokud máte spřízněnost s určitou politickou stranou nebo jste vyjádřili nenávist k některým menšinám, což bude algoritmus není ukázat vám žádnou pravdu, ale „zatřást svými duchy“, abyste zachytili více a více vašich Pozornost.

Proto se v dokumentu říká, že Tyto procesy rychle korodují sociální strukturu. Pokud se každému ukáže pravda, která ho tvoří, jsou spojeni s lidmi, kteří si myslí totéž, a dostávají argumenty, že ospravedlnit jejich přesvědčení (dosažení absurdních extrémů, jako je plochá Země), to vysvětluje, že v systémech stále více a více krizí demokratický.

Autor: Guillermo Miatello, ředitel Academia de Psicoanálisis Madrid SL.