nsc
    dc

    Debate

    "O Dilema das Redes": documentário da Netflix é ponta do iceberg de problemas muito maiores

    Desinformação, discurso de ódio, polarização política, teorias da conspiração... Como esses problemas se intensificam nas redes sociais - e como escapar das armadilhas?

    04/10/2020 - 06h00 - Atualizada em: 06/10/2020 - 14h20

    Compartilhe

    Marina
    Por Marina Martini Lopes
    A produção da Nertflix é baseada e depoimentos de especialistas que largaram os empregos em redes sociais e aplicativos ao começar a se incomodar com os dilemas éticos que viam
    A produção da Nertflix é baseada e depoimentos de especialistas que largaram os empregos em redes sociais e aplicativos ao começar a se incomodar com os dilemas éticos que viam
    (Foto: )

    Uma família norte-americana se vê diariamente mergulhada em discussões e problemas relacionados ao uso exagerado do celular e das redes sociais: no jantar, não conversam mais. A mãe tenta controlar o tempo de uso do celular por parte dos filhos; que parecem zumbis sem propósito quando não estão com o aparelho nas mãos - não têm outras distrações ou interesses. O filho mais velho é, num piscar de olhos, absorvido por vídeos do YouTube que o empurram cada vez mais na direção de um movimento político duvidoso, batizado "Radicais de Centro". A filha mais jovem chora em frente ao espelho depois de receber um comentário negativo sobre sua aparência após postar uma selfie cheia de filtros.

    Confesso que não fiquei muito impressionada com O Dilema das Redes, documentário da Netflix que tomou conta das conversas no WhatsApp na última semana: as situações clichê, as atuações fracas, e a representação do famigerado algoritmo das redes sociais como três homens malvados controlando os pensamentos do filho adolescente mais atrapalham do que ajudam a contar a história central; baseada nos depoimentos de diversos especialistas da indústria, que largaram seus empregos em redes sociais e aplicativos como Facebook, Instagram, Twitter, Pinterest, Google e Gmail ao começar a se incomodar com os dilemas éticos que viam em seus trabalhos. O principal deles é Tristan Harris, ex-funcionário do Google, presidente e cofundador do Center for Humane Technology. 

    Mas mesmo os depoimentos são simplistas - deixam muita coisa de fora, e apresentam "soluções" que não são realmente soluções (ou, pelo menos, não são factíveis para todo mundo), do tipo "delete todas as suas redes sociais". Terminei de assistir O Dilema das Redes com uma sensação de "e daí?". E decidi ir atrás para entender melhor qual é a grande questão aqui.

    Opinião: como o Google e o Facebook influenciam o jornalismo

    "É bom levar em conta que o problema das redes sociais não cabe num filme, e que propaganda, bullying e desinformação são problemas bem mais complicados do que o filme mostra", escreveu o cientista e professor Silvio Meira, em um texto publicado em seu blog no dia 28 de setembro, com o título São muitos dilemas, sociais, mas não só. "As redes sociais e seus algoritmos de recomendação não estão isentas da responsabilidade por alguns dos ambientes mais ácidos que há na internet. Mas não podem ser confundidas com a REDE e, em parte, é o que o filme faz; de certa forma desinformando e, aí, sofrendo do mesmo problema das redes."

    > Eleições 2020: campanha eleitoral começa com força maior da internet; veja o que pode e não pode na web

    Adi Robertson, especialista em políticas tecnológicas, biohacking, história da tecnologia e realidade virtual e aumentada, escreveu no site The Verge que o filme trata as redes sociais como "uma ameaça totalmente sem precedentes", e destaca que o comportamento do filho adolescente - que perde o interesse em interações sociais "reais" conforme o documentário avança - já foi apontado por críticos sociais de décadas anteriores como associado à televisão ou mesmo ao rock. Os entrevistados são, segundo ela, "produtos da mesma cultura do Vale do Silício que estão criticando, e vendem uma versão do mesmo mito: o de que alguns engenheiros onipotentes estão causando o apocalipse ao construir uma máquina perfeita de controle mental."

    Casey Newton, jornalista norte-americano que cobre justamente temas ligados ao Vale do Silício, e autor da The Interface, coluna semanal a respeito da interseção entre redes sociais e democracia, escreveu que estava "chocado a respeito de quão convincente tantas pessoas acham a ideia de que as redes sociais são praticamente as únicas responsáveis por todos os problemas da sociedade."

    Mas a crítica de Newton é em relação à narrativa simplista de O Dilema das Redes, não uma afirmação de que os problemas apontados não existem: no mesmo texto, ele cita o caso de Sophie Zhang, ex-funcionária do Facebook, que, ao ser demitida em agosto deste ano, publicou um manifesto nas redes sociais, dizendo que sentia "ter sangue nas mãos". "Eu não estou querendo inocentar as redes sociais, nem fazer o problema parecer tão complicado que as pessoas simplesmente desistam de tentar resolvê-lo", destacou.

    Então vamos dar um passo atrás - e começar do começo.

    “A maioria das pessoas é muito inocente”, diz antropóloga

    - Eu acho que o documentário faz um bom serviço ao mostrar às pessoas que por trás da tela há muito mais do que elas imaginam - afirma a antropóloga Letícia Maria Costa da Nóbrega Cesarino. Letícia é especialista em antropologia digital, e faz estudos sobre a digitalização de práticas que já existiam antes da internet: sua pesquisa mais recente foi sobre a digitalização da política. - A maioria das pessoas é muito inocente a esse respeito. Muita gente nem sabe, por exemplo, que a busca do Google é personalizada: os resultados que aparecem para mim ao fazer determinada busca são diferentes dos que vão aparecer para você ao fazer a mesma busca.

    - A criação de consciência é fundamental, e é aí que eu acho que o documentário tem sua importância: apresenta de maneira bastante didática e aberta como a coisa surgiu e como a coisa vem acontecendo - concorda José Eduardo De Lucca, que é professor de informática e estatística na UFSC (Universidade Federal de Santa Catarina), e costuma debater com seus alunos os impactos da tecnologia na sociedade e questões ligadas à ética profissional na área.

    O professor explica um pouco melhor o sistema mostrado em O Dilema das Redes, em que os conteúdos exibidos para cada usuário criam um ciclo vicioso:

    - Há uma necessidade de manter o usuário na rede pelo maior tempo possível, para exibir mais propaganda para ele; e também de fazer esse usuário interagir o máximo possível com os posts, para poder capturar informações sobre ele - aponta. - Então a lógica é oferecer conteúdo que engaje; ou seja, conteúdo de que aquele usuário goste, pela qual ele se interesse, e que faça ele interagir. E o que se percebeu é que os usuários costumam gostar de conteúdos que concordem com ele, que confirmem opiniões ou visões que ele já tem; ou então conteúdos polêmicos, que gerem debate.

    > NSC integra novo projeto de notícias do Google

    - Essas plataformas operam no que chamamos de "economia da atenção": o modelo delas é vender nossa atenção aos anunciantes, que são os verdadeiros clientes. - completa a antropóloga Letícia Maria Costa da Nóbrega Cesarino. - O efeito colateral, que acaba prendendo as pessoas em bolhas ou estimulando o pensamento conspiratório, é chamado, em inglês, de "rabbit hole", em alusão à história de Alice no País das Maravilhas: você começa consumindo conteúdos, digamos assim, "normais", e o algoritmo te empurra cada vez mais para uma radicalização do conteúdo. Isso porque o algoritmo não analisa conteúdo; ele analisa padrões e premia os canais que geram mais engajamento.

    - Com a capacidade de processamento que essas redes têm, elas conseguem conduzir experimentos, testes que demonstram que tipo de comportamento o usuário vai ter a partir das informações apresentadas - prossegue José Eduardo De Lucca. - Elas sabem exatamente para qual usuário exibir cada anúncio, em que momento do dia, associado a qual tipo de conteúdo, e assim por diante. A construção das redes sociais da maneira como são hoje foi feita paulatinamente: hoje nós percebemos um desvio de conduta, mas, ano a ano, trecho de código a trecho de código, é difícil perceber as mudanças e os impactos que vão acontecer por causa delas.

    Especialistas ouvidos pela reportagem explicam o funcionamentos das plataformas e apontam lados positivos e negativos
    Especialistas ouvidos pela reportagem explicam o funcionamentos das plataformas e apontam lados positivos e negativos
    (Foto: )

    - Muitos desses efeitos não foram previstos: o Mark Zuckerberg não tinha como objetivo aumentar a radicalização política ou os níveis de suicídio entre os adolescentes, por exemplo - destaca Letícia. - Foi algo que saiu do controle, e que agora é muito difícil de mudar, porque já é o modelo de negócios dessa indústria.

    Pergunto a Letícia de que outras maneiras as redes sociais ajudam a estimular o tal pensamento conspiratório, e quais são as principais consequências disso.

    - As redes sociais estão mudando a maneira como as pessoas entendem o que é conhecimento autorizado - ela responde - Instituições que antes tinham certa autoridade para produzir conhecimento - seja a academia, a ciência, a mídia tradicional - estão em crise, e parte dessa crise tem a ver com o acesso direto que as pessoas têm a conteúdos quaisquer na internet. As plataformas sociais não produzem conteúdo; elas só circulam conteúdo produzido pelos usuários. E esse conteúdo engaja as pessoas pela ideia de que ali está a verdade, por ser um conteúdo espontâneo, produzido e consumido por pessoas "comuns"; que teoricamente não teriam interesses escondidos por trás disso.

    - As pessoas capturadas por esse sistema passam a ver com muita desconfiança os produtores tradicionais de conteúdo - explica a antropóloga. - É aquela ideia de que a mídia mente para você, de que os acadêmicos não são autênticos... As pessoas passam a ter a ilusão de que agora têm acesso direto a verdades que, até então, estavam escondidas.

    “A tecnologia não cai do céu”, argumenta especialista no processo de informatização

    A professora universitária aposentada Tamara Benakouche, socióloga por formação, se especializou nas implicações sociais das tecnologias de informação desde a era pré-internet: interessada pelo processo de informatização da sociedade, fez doutorado na área na França e pós-doutorado nos Estados Unidos, onde estudou os riscos tecnológicos.

    - Sempre fui muito contra a abordagem determinista das tecnologias - afirma a estudiosa. - A tecnologia influencia a sociedade, sem dúvida, mas a sociedade influencia a tecnologia em primeiro lugar. A tecnologia não cai do céu, não é uma criação espontânea: ela se desenvolve a partir de determinadas demandas sociais; que podem ser econômicas, políticas... Ela não cria nada do zero, mas pode acabar se tornando uma potencializadora de coisas que já existem.

    Tamara considera o nome original do documentário, em inglês ("The Social Dilemma", algo como "o dilema social"), mais adequado que a tradução feita para o português.

    - O título original coloca o problema no social, não na técnica - argumenta. - Os riscos existem; toda tecnologia tem seus riscos. A própria palavra "risco" implica que a pessoa sabe que está exposta a ele: você está informado e, sabendo dos riscos, decide se quer ou não fazer alguma coisa. Então acho que o documentário é um alerta poderoso nesse sentido, de deixar as pessoas conscientes dos riscos que estão correndo. Mas acho que as redes sociais têm diversos pontos fortes. Aproximam pessoas; têm um potencial gigantesco para fins educacionais; viraram ferramenta de trabalho agora na pandemia.

    Como reduzir os danos causados pelas redes?

    Os professores Letícia Maria Costa da Nóbrega Cesarino e José Eduardo De Lucca também não negam os pontos positivos das redes - e tampouco veem a solução de "deletar tudo" como a ideal.

    - A rede social me aproxima de um parente distante, por exemplo; me aproxima de um debate ou de um conhecimento a que eu eventualmente não teria acesso na região onde moro... - pondera José Eduardo. - E se desconectar, para muita gente, não é uma opção: fazer isso seria ser deixado de fora de boa parte do que a sociedade é atualmente.

    "Remover Facebook do smartphone e apagar contas nas redes sociais não é solução e não acontecerá em escala", também escreveu o cientista e professor Silvio Meira, no artigo São muitos dilemas, sociais mas não só. "O que precisamos tratar é o conjunto de problemas associados à isenção, transparência e responsabilização de algoritmos e da regulação de certos mercados em rede, e disso pouca gente fala - ou quer falar." Adi Robertson, do The Verge, alfineta: "Em vez de dar bronca nos usuários de smartphone por deixar suas notificações ativadas, os experts em vício digital podiam pedir às empresas que respeitassem o horário de trabalho e parassem de enviar mensagens a seus funcionários 24 horas por dia."

    > A expectativa para a próxima geração de videogames

    Esses dois pilares - cobrar ações mais claras por parte do governo e das empresas e criar uma consciência individual - parecem ser as chaves apontadas pela maioria dos especialistas para, pelo menos a curto prazo, reduzir os efeitos negativos do uso das redes sociais.

    - O poder público deveria se posicionar de maneira mais firme, regulamentando como os dados das pessoas são coletados e tratados, garantindo a fiscalização, e tornando o processo mais transparente - diz o professor José Eduardo. - No Brasil já temos alguma coisa, como a Lei Geral de Proteção de Dados, que é uma proposta de lei que está em gestação há quase dez anos. Ela foi aprovada há uns dois anos e não tinha sido colocada em prática ainda. Agora foi criada a Agência Nacional de Proteção de Dados, meio de supetão, porque o prazo para criação da agência já estava acabando.

    Alguns sinais de alerta:

    - Se, quando acorda, a primeira coisa que você faz é pegar o celular e checar todas as suas notificações, isso já é um mau sinal - destaca Letícia. - Além disso, os momentos que você passa nas redes não podem afetar o seu pensamento durante seu tempo offline: por exemplo, se você está caminhando com seu cachorro, cozinhando, e pensando no post que quer fazer no Twitter, ou na mensagem que precisa responder, isso também é um alerta.

    - Outra medida interessante é tentar reduzir a alienação técnica enquanto está usando as redes: ter consciência, por exemplo, de que, quando clica em um like, você está na verdade mandando uma mensagem ao algoritmo, dizendo que gosta daquele tipo de conteúdo, que quer ser agrupado com outros usuários que curtiram aquele conteúdo - explica a antropóloga. - Eu sugiro tentar ter um ambiente social o mais diverso possível: seguir pessoas de universos diferentes e de vez em quando interagir com elas. Diminuir o número de arrobas grandes que você segue, esses perfis com milhões de seguidores, também ajuda o feed a ficar mais mais diverso e mais autêntico.

    - Precisamos lembrar que nós não estamos nas mãos da tecnologia: a tecnologia é que está nas nossas mãos - completa Tamara Benakouche. - Você não pode se entregar demais, digamos assim: precisa estar no controle do uso que faz das tecnologias. Nesse contexto, a ajuda e orientação dos pais e educadores, no caso dos usuários mais jovens, é essencial.

    > Rolling Stone atualiza lista dos 500 maiores álbuns de todos os tempos

    - Em uma das frases do discurso e juramento de formatura na área da informática, o profissional promete "não se deixar cegar pelo brilho da tecnologia" - diz José Eduardo. - A tecnologia é interessante, ela nos fascina. Mas não podemos esquecer de que a ela é boa ou ruim na medida em que o comportamento e os interesses dos que a usam forem bons ou ruins.

    A jornalista Adi Robertson escreveu em seu artigo: "Rádio, televisão e mesmo livros têm espalhado desinformação por anos, com nada mais que um revirar de olhos por parte do público. Há canais de TV que dizem se dedicar a ciências ou história, mas só exibem programas lotados de pseudociência e teorias da conspiração. As redes sociais modernas ampliaram todas as piores partes de uma cultura que já existia - e simplesmente condenar o Facebook não vai consertar isso. Nós temos que tratar esse fato como parte de um problema muito maior." E conclui: "Mas, mais importante ainda, precisamos nos perguntar o que vem depois disso." 

    Deixe seu comentário:

    Últimas notícias

    Loading... Todas de Cotidiano

    Colunistas