O lado negro das novas tecnologias

O documentário "O dilema das redes sociais" (Netflix) revela um panorama alarmante sobre as consequências do uso indevido das novas tecnologias de comunicação.

Dependência de tela, sintomas depressivos generalizados e manipulação de comportamentos para fins comerciais. Em que medida certos avanços para a humanidade prejudicam nossa convivência e qualidade de vida?

• Artigo relacionado: “Vício em redes sociais: o abuso do virtual”

A opinião dos criadores

“O dilema das redes sociais” é criado, produzido e dirigido por quem, ocupando posições de destaque em empresas como Twitter, Google, Instagram, Facebook e YouTube ajudaram a construir o "monstro do computador" que hoje faz parte do dia a dia de milhões de pessoas.

O documentário parte de uma preocupação: talvez tenhamos sido ingênuos quanto às consequências das ferramentas que criamos.. A tal ponto que muitos dos que criaram esses sites e redes sociais hoje são reconhecidos como "viciados" nessas ferramentas.

Sentem remorso e medo por terem feito parte desse processo, e a esses sentimentos se juntam a temida suspeita de que certa humanidade as coisas estão saindo do controle e que, de certa forma, estamos nos conduzindo em um nível social de acordo com a antiga parábola do "macaco com navalha".

Um aspecto interessante do documentário é que ele evita qualquer tentação de “conspiração” ao revelar que no final das contas “não existe bandido”. Qual é, então, o problema?

O nascimento de "Frankenstein"

Com a indústria da Internet, os mecanismos de marketing mais sutis, complexos e eficazes foram criados na história da humanidade. Mercados de trilhões de dólares são administrados pela Internet.

Se você for um empreendedor, saberá que nunca antes o público que deseja atingir foi previsto com tanta precisão um produto ou serviço que você oferece, no momento em que o faz, bem como moldar os comportamentos de seus potenciais consumidores.

Agora, como isso é feito? Muito simples: grandes previsões só podem ser feitas com muitos dados. Quanto mais informações você manipular sobre os usuários, mais certeza terá de que sua publicidade funcionará.

Muitos acreditam que o Google é simplesmente um mecanismo de busca. O que muitas vezes esquecem é que o modelo de negócios dessas empresas se baseia em descobrir o máximo possível sobre nossos gostos, comportamentos e tendências, todos os quais está registrado em cada uma de nossas ações na web.

Resumindo, o que ferramentas como os Anúncios do Facebook fazem (da mesma forma que os vídeos funcionam, por exemplo recomendado do YouTube) é segmentar o público de uma forma ultra especializada, considerando idade, sexo, localização geográfica, interesses e outras variáveis. Com que propósito isso é feito? Muito simples: para atrair potenciais clientes para determinados produtos oferecidos pelos anunciantes que, em última instância, contratam os seus serviços.

E isso nos leva ao "lado negro do negócio", ou seja, às questões quanto aos limites éticos envolvidos nesse processo.

Manipulação é a chave do assunto

Se moramos em uma cidade grande, certamente a seguinte imagem não será desconhecida para nós: ao entrar em um lugar público (como um meio de transporte ou um bar), vemos 90% das pessoas absortas na tela de seus telefones celulares. Possivelmente em menor escala, dentro de um grupo familiar, algo semelhante acontece no dia a dia.

Como diz o documentário, "parece que o mundo enlouqueceu ou caiu em uma espécie de feitiço". O que acontece, entre outras coisas, é que aqueles que projetaram o sistema o fizeram com o objetivo de captar a atenção do usuário o máximo possível.

O sistema está programado para se refinar a esse respeito e nos proporcionar prazer. É como se estivéssemos apontando esses motores de inteligência artificial para nós para reaprender cada vez mais o que causaria uma resposta "bem-sucedida" do usuário.

Em outras palavras, o computador recebe um comando: "Eu quero este resultado." E então o computador aprende a fazer isso (é daí que vem o termo "aprendizado de máquina"). A) Sim, a cada dia o sistema melhora, escolhendo os anúncios corretos na ordem correta para que você passe mais tempo interessado nesses conteúdos.

O que o documentário revela é que os internautas (e hoje quem não é?) nós nos tornamos, sem perceber, nosso próprio bem de consumo. Resumindo: "Se você não paga pelo produto, você é o produto."

O que é um algoritmo?

Como é bem explicado no documentário, "algoritmos são opiniões em código". Não são objetivos, não correspondem a nenhuma realidade mas configuram-se de acordo com uma determinada definição de sucesso, e essa definição de sucesso nada mais é do que lucro.

Um exemplo disso é como os motores de busca "preenchem" informações sobre certos tópicos com base em o lugar do planeta a partir do qual a pesquisa é realizada ou dependendo do que o Google sabe sobre seus interesses e prazeres.

Por exemplo, se você pesquisar no Google: "mudança climática é ..." dependendo de vários fatores, você descobrirá que é uma ameaça, que é inevitável, que é uma farsa, e assim por diante... Outro exemplo são as famosas "notícias falsas" que, segundo estudos, se multiplicam seis vezes mais rápido que as notícias verdadeiro. Sabemos disso por causa de certas substâncias que deveriam curar magicamente o COVID-19.

Em outras palavras: se você tem tendência a acreditar em teorias da conspiração, o sistema irá encorajá-lo a encontrar conteúdo que esteja em conformidade com essas teorias. Se você tem afinidade com um determinado partido político ou expressou ódio por certas minorias, o que irá o algoritmo não é para mostrar nenhuma verdade, mas para "sacudir seus fantasmas" para capturar mais e mais seus atenção.

Portanto, é dito no documentário que Esses processos estão corroendo rapidamente o tecido social. Pois bem, se a cada um é mostrada a verdade que os compõe, estão ligados a pessoas que pensam o mesmo e recebem argumentos que justificar suas crenças (chegando a extremos absurdos como a Terra plana) isso explica que há cada vez mais crises nos sistemas democrático.

Autor: Guillermo Miatello, diretor da Academia de Psicoanálisis Madrid SL.