Especial: momentos de tristeza são captados pelos algoritmos de redes

Caso você esteja triste por alguma situação específica, como um término de relacionamento ou conflito no trabalho, passar mais tempo rolando o feed pode piorar seu estado emocional.

O responsável é o algoritmo.

Uma análise feita por pesquisadores da UCLA, a Universidade da Califórnia, em Los Angeles, identificou que o algoritmo do TikTok pode captar o momento de tristeza de usuários nas redes sociais e usar rastros do comportamento digital para oferecer mais conteúdo sobre vulnerabilidade emocional.

Ou seja, com o tempo, as publicações da linha do tempo ficam mais nocivas e podem até atingir extremos, com postagens sobre automutilação e suicídio.

Procurado, o TikTok contestou a metodologia do estudo. “Este experimento foi elaborado para chegar a uma conclusão predeterminada e não representa a experiência típica do usuário. Utilizamos tecnologia de ponta e sistemas robustos para remover mais de 99% dos vídeos que violam as diretrizes, antes mesmo de serem visualizados”, afirma a empresa.

Términos amorosos ilustram o fenômeno. Uma pessoa retorna para casa após encerrar o ciclo afetivo e, triste, acessa a rede social.

Se depara com uma publicação que se mostra acolhedora e passa um tempo lendo ou assistindo.

Pode ser um vídeo sobre “coisas que você deve dizer durante um término”, por exemplo, algo que reforce uma ideia não necessariamente verdadeira.

Tempo é decisivo

O tempo de audiência mostra à plataforma que você tende a consumir aquilo, e as publicações começam a se multiplicar.

Chega uma segunda publicação (hipotética), dessa vez listando “erros que levam ao término”. O usuário assiste, talvez para entender se cometeu algum. O algoritmo dá uma próxima investida: “como recuperar seu (sua) ex”.

Essa interação inicial é o suficiente para saturar a timeline com conteúdos similares.

Segundo o estudo da UCLA, que analisou mais de 8 mil vídeos do TikTok, 45% de todas as recomendações diárias do usuário ocorrem a partir de pouca interação.

Isso acontece mesmo sem pesquisa manual sobre o tema, pois a permanência na tela é o sinal mais forte para o algoritmo. Quanto mais se consome, mais deve consumir. Daí decorrem os sintomas.

Um dos principais é a ruminação psicológica, segundo especialistas que atuam com o impacto da tecnologia na saúde mental.

“O algoritmo não regula a emoção do usuário, mas o momento emocional faz com que ele entenda os conteúdos que ele quer ver. A pessoa tem uma dor, encontra confirmação para ela e passa a ruminar. Pensa mais do que deveria no assunto”, explica Renato Gallo, colaborador e pesquisador do Programa Ambulatorial dos Transtornos do Impulso do Instituto de Psiquiatria da USP (Universidade de São Paulo).

“Falsa sensação”

Para o psicólogo Vagner Rocha, isso gera uma falsa sensação de que a pessoa está se autoeducando, se resolvendo. Mas acaba permanecendo no momento de tristeza.”

Essa ruminação, se persistente, mune o algoritmo de recursos para piorar as indicações.”

A pesquisa aponta para isso. Uma única sessão de buscas ou visualizações sobre um problema emocional deixa rastros no perfil, e o algoritmo pode continuar recomendando vídeos sobre o tema, mesmo que o usuário passe a evitá-lo.

O sistema também não diferencia adequadamente quem busca ajuda de quem expressa desespero. Embora usuários que procuram apoio recebam mais vídeos de acolhimento, conteúdos potencialmente nocivos continuam aparecendo ao lado dos educativos.

O estudo mediu o tempo até a primeira exposição a vídeos nocivos durante a navegação.

Já no 10º vídeo exibido, menos de 29% das contas engajadas continuavam livres desse tipo de material. Ao chegar ao 40º vídeo da sessão, entre 98,5% e 100% de todas as contas haviam recebido pelo menos um vídeo com potencial de dano.

Os mais frequentes eram publicações de positividade tóxica e autodiagnóstico sem base científica, seguidas por desinformação sobre tratamentos e materiais explícitos sobre suicídio e automutilação.

“Esse tipo de conteúdo pode levar a diagnósticos equivocados, preocupações desnecessárias e gastos com tratamentos inadequados, além de afastar pessoas de intervenções necessárias”, diz Rodrigo Menezes Machado, psiquiatra e coordenador do Grupo de Dependências Tecnológicas do Instituto de Psiquiatria da USP.

* Da redação/Luiza Lopes e Luis Eduardo de Sousa*

*folhapress