Tumblr: Erro de Moderação Automatizada Preocupa Utilizadores

Sistemas de moderação automatizada na plataforma Tumblr baniram inadvertidamente dezenas de contas de utilizadores na quarta-feira, gerando um surto de pânico e frustração entre a comunidade. O incidente, que inicialmente atingiu contas com menos de 200 seguidores, levou a que muitos utilizadores ficassem sem acesso às suas páginas sem uma justificação clara. Esta falha no sistema automatizado, que o Tumblr viria a reconhecer como um erro, levantou imediatamente questões sobre a eficácia e a imparcialidade das ferramentas de moderação de conteúdo nas redes sociais, especialmente quando estas dependem fortemente de algoritmos para identificar e remover contas, afetando particularmente comunidades vulneráveis.

Desafios Algorítmicos e o Histórico de Moderação da Plataforma

A onda de banimentos repentinos deixou os utilizadores do Tumblr a correr em busca de respostas, com vários relatos a indicar que as proibições pareciam afetar desproporcionadamente contas geridas por pessoas que se identificam como mulheres trans. Muitos destes utilizadores afirmaram não ter recebido qualquer motivo específico para a rescisão das suas contas, sendo-lhes apenas comunicado, através de e-mail, que “Esta ação foi tomada como resultado de um relatório gerado internamente. Meios automatizados podem ter sido usados para identificar o conteúdo em questão.” Chenda Ngak, chefe de comunicações da Automattic, empresa-mãe do Tumblr, confirmou os banimentos ao The Verge, admitindo que muitos foram erróneos e já tinham sido revertidos. Ngak sublinhou: “Trabalhamos continuamente para manter a saúde da plataforma e adaptar os nossos sistemas para evitar que maus atores espalhem danos. Nesse processo, o nosso sistema automatizado sinalizou incorretamente vários utilizadores, incluindo, mas não se limitando a, membros da comunidade trans. Desativámos esse sistema e restaurámos esses utilizadores enquanto o melhoramos. Pedimos sinceras desculpas a todos os que foram afetados por este erro.”

Este episódio de falha na moderação automatizada surge num momento particularmente sensível para o Tumblr. Apenas um dia antes dos banimentos, a plataforma tinha revertido uma controversa alteração ao seu sistema de 'reblogging', que gerou indignação entre a sua base de utilizadores. Alguns dos utilizadores afetados pelos banimentos especularam que as proibições poderiam ser uma resposta a publicações que expressavam oposição à alteração. No entanto, Ngak afirmou que as “contas terminadas reportadas não estão relacionadas com a recente discussão sobre reblogs” e acrescentou que “não há evidências de que os utilizadores trans estivessem desproporcionadamente entre as contas com menos de 200 seguidores impactadas.” Contudo, a controvérsia destacou um histórico de problemas de moderação no Tumblr, alguns dos quais envolvendo especificamente utilizadores trans. Em 2024, o CEO da Automattic, Matt Mullenweg, envolveu-se numa disputa pública com uma utilizadora trans, que reclamava da inação do Tumblr perante assédio. A sua conta foi banida após a utilizadora ter feito comentários agressivos sobre Mullenweg, e a disputa prolongou-se em outras plataformas, onde Mullenweg partilhou detalhes privados da conta. Além disso, em 2022, o Tumblr chegou a um acordo com a Comissão de Direitos Humanos de Nova Iorque (CCHR) devido a alegações de discriminação decorrentes de um banimento de conteúdo adulto em 2018. Esta proibição, implementada antes da aquisição do Tumblr pela Automattic em 2019 (sob a alçada da Verizon), alegadamente afetou desproporcionadamente o conteúdo LGBTQ+ e resultou na exigência de uma revisão dos algoritmos de moderação do Tumblr e de alterações no processo de recurso dos utilizadores para abordar o viés algorítmico. A Automattic tem vindo a reduzir os planos para o Tumblr nos últimos anos, transferindo a maioria do seu pessoal não-essencial para outras divisões em 2023.

A Governança de Plataformas e o Escrutínio Europeu

Embora este incidente específico de moderação tenha ocorrido no contexto dos EUA, as suas ramificações e as questões que levanta sobre o viés algorítmico e a moderação de conteúdo ressoam fortemente com o cenário regulatório europeu. A União Europeia tem estado na vanguarda da criação de legislação abrangente para plataformas digitais, como o Regulamento Geral de Proteção de Dados (RGPD), o Regulamento dos Serviços Digitais (DSA) e a futura Lei da IA. Estes quadros legais enfatizam a necessidade de transparência nos sistemas de moderação, a responsabilidade das plataformas por conteúdos e decisões algorítmicas, e o direito dos utilizadores a recursos eficazes contra decisões de moderação automatizadas. Incidentes como o do Tumblr reforçam a urgência destas regulamentações, destacando os perigos de sistemas automatizados que podem operar sem supervisão humana adequada e que são suscetíveis a erros e a reforçar preconceitos existentes, especialmente contra comunidades vulneráveis. O escrutínio europeu visa garantir que as plataformas globais que operam no mercado europeu adiram a padrões rigorosos de proteção dos direitos dos utilizadores e de equidade algorítmica.

Para os utilizadores portugueses, que integram a vasta comunidade global do Tumblr e de outras plataformas digitais, este episódio serve como um lembrete crítico da omnipresença e do impacto dos sistemas de moderação automatizada nas suas interações online diárias. A confiança nas plataformas pode ser rapidamente abalada quando algoritmos falham, resultando em banimentos injustificados e na potencial marginalização de certas comunidades. A experiência do Tumblr sublinha a importância de os utilizadores portugueses estarem cientes dos seus direitos digitais, incluindo o direito a um processo de recurso transparente e justo contra decisões de moderação. Tal como os seus pares europeus, os consumidores portugueses beneficiam das proteções introduzidas por regulamentações como o DSA, que visam aumentar a responsabilização das plataformas e garantir que as ferramentas de moderação sejam implementadas de forma ética e sem discriminação, protegendo a liberdade de expressão e a inclusão digital de todos.