Bluesky Social, a alternativa descentralizada às plataformas tradicionais como X (antigo Twitter), está enfrentando críticas crescentes à medida que seu recurso de gerenciamento de domínio se torna uma ferramenta para extorsão e falsificação de identidade.
Projetado para vincular perfis de usuários a domínios personalizados para maior confiança e visibilidade, esse recurso agora está sendo mal utilizado por golpistas para explorar indivíduos importantes, expondo grandes lacunas no sistema de moderação da Bluesky. Isto levanta questões críticas sobre a viabilidade de modelos de moderação descentralizados no gerenciamento de plataformas de grande escala.
A mecânica da exploração do controle de domínio
O exclusivo domínio-O recurso de identificador no Bluesky permite que os usuários integrem sua identidade com nomes de domínio personalizados, apresentando uma maneira inovadora de verificar e exibir perfis. No entanto, este sistema tornou-se uma faca de dois gumes.
Os golpistas aproveitaram a oportunidade para se passar por usuários importantes comprando domínios vinculados às suas identidades. Esses domínios são então usados para criar perfis falsos que visam extorsão a seus equivalentes reais.
O colunista da Bloomberg, Conor Sen, foi vítima desse esquema quando um golpista comprou um domínio que imitava seu nome e tentou vendê-lo de volta para ele por uma quantia exorbitante. A tentativa de extorsão destacou não apenas os perigos das salvaguardas inadequadas, mas também a luta da Bluesky para agir rapidamente contra tais abusos.
Parece que um cara está tentando fazer extorsão aqui:
— Conor Sen (@conorsen.bsky.social) 17 de dezembro de 2024 às 1h47
Da mesma forma, o empresário Sam Parr foi alvo de um esquema envolvendo contas falsas e táticas de sockpuppet, onde os golpistas ampliaram a confusão ao espalhar informações erradas sobre sua identidade.
Quando os moderadores da Bluesky intervieram, eles bloquearam por engano a conta legítima de Parr, deixando o imitador ativo, agravando ainda mais a situação.
Ei, @bluesky — esse cara está se passando por mim. De qualquer forma, podemos encerrar isso? https://t.co/BeSis6olLi
— Sam Parr (@thesamparr) 17 de dezembro, 2024
Moderação atrasada e frustração do usuário
O modelo de moderação descentralizada da Bluesky, que depende da governança orientada pelo usuário, tem sido a pedra angular de seu identidade. No entanto, este modelo mostrou limitações significativas na abordagem aos desafios colocados pelo rápido crescimento do número de utilizadores e pelas fraudes coordenadas.
Atrasos na moderação frustraram as vítimas e levantaram preocupações sobre a prontidão da plataforma para lidar com atividades maliciosas em grande escala. Os críticos argumentam que a falta de um mecanismo de supervisão centralizado contribui para inconsistências e erros na aplicação, como visto nos escândalos de falsificação de identidade.
Relacionado: À medida que o crescimento da BlueSky dispara, o mesmo acontece com as reclamações dos usuários.
Em sua essência, a filosofia de governança da Bluesky enfatiza a descentralização, concedendo aos usuários e às comunidades o poder de definir e aplicar suas próprias regras de moderação. Os representantes da Bluesky enfatizam sua visão de permitir que as comunidades se governem usando ferramentas de moderação que reflitam seus valores e necessidades específicas.
Este modelo prioriza autonomia e flexibilidade, oferecendo ferramentas como listas de moderação e filtragem colaborativa de conteúdo. Embora esses recursos tenham como objetivo oferecer um sentimento de propriedade entre os usuários, eles também introduzem fragmentação e ineficiências, especialmente quando é necessária uma ação rápida e coordenada.
Ferramentas tecnológicas: uma faca de dois gumes
A Bluesky procurou enfrentar os desafios de moderação por meio de uma combinação de ferramentas avançadas e processos orientados ao usuário. Dois componentes principais da sua infraestrutura de moderação são as ferramentas Ozone e Thorn, que desempenham papéis críticos na identificação e gestão de conteúdos nocivos.
Ozone é a ferramenta de rotulagem colaborativa da Bluesky que permite que grupos de moderadores avaliem coletivamente o conteúdo sinalizado. Ao aproveitar as decisões do grupo, o Ozone visa melhorar a consistência e a precisão das ações de moderação, ao mesmo tempo que reduz a dependência do julgamento individual.
As ferramentas da Thorn, como o Safer, por outro lado, são projetadas para proativamente detectar material de abuso sexual infantil (CSAM) usando algoritmos de aprendizado de máquina. Esses sistemas minimizam a carga sobre os moderadores humanos e garantem que o material prejudicial seja resolvido rapidamente.
Relacionado: A ascensão do Bluesky: do projeto paralelo do Twitter ao refúgio para usuários X em fuga
Embora essas tecnologias melhorem os recursos de moderação do Bluesky, elas parecem insuficientes para neutralizar a escala e a sofisticação de golpes como a extorsão de domínio.
Fragmentação versus escalabilidade: o dilema central
O o modelo descentralizado da plataforma, embora inovador, introduz desafios significativos de escalabilidade. Por definição, o Bluesky permite que as comunidades criem e apliquem suas próprias políticas de moderação.
Essa abordagem está alinhada com seu espírito de capacitar os usuários, mas cria inconsistências em toda a plataforma. As práticas de moderação variam amplamente entre as comunidades, dificultando a abordagem eficiente de problemas entre plataformas, como esquemas de falsificação de identidade.
A natureza descentralizada da governança da Bluesky também retarda as respostas a ameaças urgentes. No caso de Conor Sen e Sam Parr, o tempo necessário para investigar e resolver reclamações de falsificação de identidade minou a confiança do usuário.
Os críticos argumentam que a introdução de um mecanismo de supervisão centralizado para casos de alto risco, como fraude de identidade e extorsão, poderia melhorar significativamente a capacidade da Bluesky de manter a segurança sem comprometer o seu compromisso mais amplo com a descentralização.
Implicações mais amplas para mídias sociais descentralizadas
Os desafios de Bluesky destacam questões mais amplas sobre a viabilidade da moderação descentralizada em plataformas de grande escala. As lutas atuais da plataforma com esquemas de falsificação de identidade e extorsão sublinham as dificuldades de escalar tal modelo e, ao mesmo tempo, garantir segurança e confiança.
Outras plataformas descentralizadas, como Mastodon e Matrix, enfrentam problemas semelhantes, mas adotaram vários graus de intervenção centralizada para enfrentar desafios específicos. Cada instância do Mastodon pode definir suas próprias políticas de moderação, permitindo controle localizado sobre o conteúdo. A Matrix utiliza um sistema de identidade federado, semelhante ao e-mail, que permite algum controle centralizado no nível do servidor.
Os incidentes de extorsão na Bluesky levantam preocupações sobre a sustentabilidade a longo prazo da governança descentralizada. Sem um quadro unificado para lidar com os abusos, o Bluesky e plataformas semelhantes correm o risco de se tornarem ecossistemas fragmentados onde os malfeitores podem explorar lacunas. A dependência da plataforma na moderação orientada pelo usuário pode promover um senso de propriedade da comunidade, mas também introduz vulnerabilidades que os sistemas centralizados estão mais bem equipados para lidar.
