Bluesky Social, zdecentralizowana alternatywa dla tradycyjnych platform, takich jak X (dawniej Twitter), zmaga się z rosnącą krytyką, ponieważ funkcja obsługi domeny staje się narzędziem dla wymuszenie i podszywanie się pod inne osoby.
Ta funkcja, zaprojektowana do łączenia profili użytkowników z domenami niestandardowymi w celu zwiększenia zaufania i widoczności, jest obecnie niewłaściwie wykorzystywana przez oszustów do wykorzystywania prominentnych osób, ujawniając poważne luki w systemie moderacji Bluesky. Rodzi to krytyczne pytania o wykonalność zdecentralizowanych modeli moderacji w zarządzaniu platformami na dużą skalę.
Mechanika wykorzystywania uchwytów domen
Unikalna domena-Funkcja obsługi w Bluesky pozwala użytkownikom zintegrować swoją tożsamość z niestandardowymi nazwami domen, prezentując innowacyjny sposób weryfikacji i prezentacji profili. Jednak system ten stał się mieczem obosiecznym.
Oszuści wykorzystali okazję do podszywania się pod znanych użytkowników kupując domeny powiązane z ich tożsamością. Domeny te są następnie wykorzystywane do tworzenia fałszywych profili, których celem są wymuszenia ich prawdziwych odpowiedników.
Felistariusz Bloomberg Conor Sen padł ofiarą tego schematu, gdy oszust kupił domenę podszywającą się pod jego nazwisko i próbował ją odsprzedać go za wygórowaną sumę. Próba wymuszenia uwypukliła nie tylko niebezpieczeństwa związane z nieodpowiednimi zabezpieczeniami, ale także walkę Bluesky o szybkie przeciwdziałanie takim nadużyciom.
Wygląda na to, że jakiś facet próbuje tutaj wyłudzić:
— Conor Sen (@conorsen.bsky.social) 17 grudnia 2024 r. o 1:47
Podobnie przedsiębiorca Sam Parr stał się celem planu obejmującego fałszywe konta i skarpetkę taktykę, w ramach której oszuści potęgowali zamieszanie, rozpowszechniając dezinformację na temat jego tożsamości.
Kiedy interweniowali moderatorzy Bluesky, omyłkowo zablokowali legalne konto Parra, pozostawiając aktywnego podszywacza, co jeszcze bardziej pogorszyło sytuację.
Hej @bluesky — ten facet podszywa się pode mnie. W każdym razie możemy to zamknąć? https://t.co/BeSis6olLi
— Sam Parr (@thesamparr) 17 grudnia 2024
Opóźniona moderacja i frustracja użytkowników
Zdecentralizowany model moderacji firmy Bluesky, który opiera się na zarządzaniu zorientowanym na użytkownika, jest kamieniem węgielnym jej tożsamość. Model ten wykazał jednak znaczne ograniczenia w sprostaniu wyzwaniom wynikającym z szybkiego wzrostu liczby użytkowników i skoordynowanych oszustw.
Opóźnienia w moderacji sfrustrowały ofiary i wzbudziły obawy co do gotowości platformy do radzenia sobie ze złośliwą aktywnością na dużą skalę. Krytycy argumentują, że brak scentralizowanego mechanizmu nadzoru przyczynia się do niespójności i błędów w egzekwowaniu prawa, co widać na przykładzie skandali związanych z podszywaniem się pod inne osoby.
Powiązane: Wraz ze wzrostem rozwoju BlueSky rosną także skargi użytkowników
W swej istocie filozofia zarządzania Bluesky kładzie nacisk na decentralizację, dając użytkownikom i społecznościom możliwość definiowania i egzekwowania własnych zasad moderacji. Przedstawiciele Bluesky podkreślają swoją wizję umożliwienia społecznościom samodzielnego rządzenia za pomocą narzędzi moderacyjnych, które odzwierciedlają ich konkretne wartości i potrzeby.
W tym modelu priorytetem jest autonomia i elastyczność, oferując narzędzia takie jak listy moderacyjne i wspólne filtrowanie treści. Chociaż te funkcje mają na celu zapewnienie użytkownikom poczucia własności, wprowadzają również fragmentację i nieefektywność, szczególnie gdy potrzebne jest szybkie, skoordynowane działanie.
Narzędzia technologiczne: miecz obosieczny
Firma Bluesky starała się stawić czoła wyzwaniom związanym z moderacją poprzez połączenie zaawansowanych narzędzi i procesów zorientowanych na użytkownika. Dwa kluczowe elementy infrastruktury moderacyjnej to narzędzia Ozone i Thorn, które odgrywają kluczową rolę w identyfikowaniu szkodliwych treści i zarządzaniu nimi.
Ozon to wspólne narzędzie Bluesky do etykietowania , które umożliwia grupom moderatorów wspólną ocenę oznaczonych treści. Wykorzystując decyzje grupowe, Ozone ma na celu poprawę spójności i dokładności działań moderacyjnych, jednocześnie zmniejszając zależność od indywidualnej oceny.
Narzędzia Thorna, takie jak Safer, są natomiast zaprojektowane do proaktywnego wykrywania materiałów przedstawiających wykorzystywanie seksualne dzieci (CSAM) przy użyciu algorytmów uczenia maszynowego. Systemy te minimalizują obciążenie moderatorów i zapewniają szybkie reagowanie na szkodliwe materiały.
Powiązane: Powstanie Bluesky: od projektu pobocznego Twittera do schronienia dla uciekających użytkowników X
Chociaż technologie te zwiększają możliwości moderacji Bluesky, wydają się niewystarczające, aby temu przeciwdziałać skala i wyrafinowanie oszustw, takich jak wyłudzanie nazwy domeny.
Fragmentacja a skalowalność: podstawowy dylemat
Zdecentralizowany model platformy, choć innowacyjny, wprowadza istotne wyzwania związane ze skalowalnością. Z założenia Bluesky umożliwia społecznościom tworzenie i egzekwowanie własnych zasad moderacji.
To podejście jest zgodne z etosem wzmacniania pozycji użytkowników, ale powoduje niespójności na całej platformie. Praktyki moderacji różnią się znacznie w zależności od społeczności, co utrudnia skuteczne rozwiązywanie problemów związanych z wieloplatformowością, takich jak schematy podszywania się.
Zdecentralizowany charakter zarządzania Bluesky spowalnia również reakcję na pilne zagrożenia. W przypadku Conora Sena i Sama Parra czas wymagany do zbadania i rozwiązania skarg dotyczących podszywania się pod inne osoby podważył zaufanie użytkowników.
Krytycy twierdzą, że wprowadzenie scentralizowanego mechanizmu nadzoru w przypadkach wysokiego ryzyka, takich jak fałszowanie tożsamości i wymuszenia, mogłoby znacznie zwiększyć zdolność firmy Bluesky do utrzymania bezpieczeństwa bez uszczerbku dla jej szerszego zaangażowania w decentralizację.
Szersze implikacje dla zdecentralizowanych mediów społecznościowych
Wyzwania Bluesky uwydatniają szersze pytania dotyczące wykonalności zdecentralizowanej moderacji na dużą skalę platformy. Obecne zmagania platformy ze schematami podszywania się i wymuszeń podkreślają trudności w skalowaniu takiego modelu przy jednoczesnym zapewnieniu bezpieczeństwa i zaufania.
Inne zdecentralizowane platformy, takie jak Mastodon i Matrix, borykają się z podobnymi problemami, ale przyjęły różny stopień scentralizowanej interwencji, aby sprostać konkretnym wyzwaniom. Każda instancja Mastodon może ustawić własną politykę moderacji, pozwalając na lokalną kontrolę nad treścią. Matrix korzysta ze stowarzyszonego systemu tożsamości, podobnego do poczty elektronicznej, który umożliwia scentralizowaną kontrolę na poziomie serwera.
Przypadki wymuszenia w Bluesky budzą obawy co do długoterminowej stabilności zdecentralizowanego zarządzania. Bez ujednoliconych ram przeciwdziałania nadużyciom Bluesky i podobnym platformom grozi fragmentacja ekosystemów, w których złe podmioty mogą wykorzystywać luki prawne. Poleganie platformy na moderacji kierowanej na użytkowników może sprzyjać poczuciu własności społeczności, ale wprowadza również luki w zabezpieczeniach, do obsługi których lepiej radzą sobie scentralizowane systemy.
