Telegram, platforma do szyfrowania wiadomości z prawie miliardem aktywnych użytkowników, ogłosiła przełomowe partnerstwo z Internet Watch Foundation (IWF) w celu zwalczania materiałów przedstawiających wykorzystywanie seksualne dzieci (CSAM).
Ta zmiana polityki ma na celu oznacza to poważną zmianę w przypadku Telegramu, który przez lata opierał się zewnętrznemu nadzorowi nad praktykami moderowania treści.
Ogłoszenie opublikowane 4 grudnia 2024 r. następuje po okresie wzmożonej kontroli. W sierpniu w Paryżu aresztowano dyrektora generalnego Telegramu Pavela Durowa pod zarzutem niezapobiegania nielegalnej działalności na platformie, w tym dystrybucji CSAM.
Wydaje się, że aresztowanie było katalizatorem najważniejszych dotychczas reform platformy, w tym nowych środków przejrzystości, rozszerzone narzędzia moderacyjne i pierwsza współpraca z zewnętrzną organizacją zajmującą się ochroną dzieci.
„Chcemy zamienić moderację Telegramu z obszaru krytyki w obszar pochwał” – oświadczył Durov w oświadczeniu udostępnionym użytkownikom Telegramu.
Katalizator: aresztowanie Durowa i kłopoty prawne Telegramu
Aresztowanie Pavla Durowa na lotnisku Charlesa de Gaulle’a 17 sierpnia, Rok 2024 był kluczowym momentem dla Telegramu. Francuscy prokuratorzy oskarżyli go o zaniedbanie, utrzymując, że polityka platformy umożliwia powszechne nadużycia, w tym wykorzystywanie dzieci, handel narkotykami i oszustwa.
Durov zaprzeczył zarzutom, nazywając je „ wprowadzony w błąd” i od chwili zwolnienia za kaucją przebywa we Francji pod nadzorem prawnym. Incydent nasilił istniejącą krytykę praktyk moderacyjnych Telegramu, a zwolennicy wzywali do wprowadzenia silniejszych zabezpieczeń w celu ochrony bezbronnych użytkowników.
W odpowiedzi Telegram przyspieszył swój program reform. Do września platforma rozszerzyła swoje zasady moderacji o prywatne czaty, co stanowiło poważną zmianę w przypadku firmy, która od dawna kładzie nacisk na prywatność użytkowników ponad interwencję. Telegram zaczął także publikować raporty dotyczące przejrzystości, aby zapewnić większą rozliczalność.
Partnerstwo IWF z Telegramem
Partnerstwo Telegramu z IWF stanowi historyczny krok w jego podejściu do moderowanie treści. IWF, organizacja non-profit z siedzibą w Wielkiej Brytanii, specjalizuje się w identyfikowaniu i usuwaniu CSAM za pomocą zaawansowanych narzędzi technologicznych, takich jak dopasowywanie skrótów.
Dopasowywanie skrótów przypisuje unikalne cyfrowe odciski palców do znanych materiałów zawierających obraźliwe treści, umożliwiając platformom blokowanie duplikatów bez naruszanie prywatności użytkowników. Narzędzia IWF wykrywają także treści zawierające nadużycia generowane przez sztuczną inteligencję, co stanowi rosnące zagrożenie w miarę, jak sztuczna inteligencja staje się coraz bardziej dostępna dla złych aktorów.
„Teraz, dołączając do IWF, Telegram może rozpocząć wdrażanie naszych wiodących na świecie narzędzi, aby pomóc upewnij się, że tych materiałów nie można udostępniać w serwisie” – powiedział Derek Ray-Hill, tymczasowy dyrektor generalny IWF. „To pierwszy krok transformacji na znacznie dłuższej drodze.”
Relacje z mediami Telegramu szef Remi Vaughn, podkreślił znaczenie partnerstwa: „Zbiory danych i narzędzia IWF wzmocnią mechanizmy stosowane przez Telegram w celu ochrony swojej platformy publicznej i w jeszcze większym stopniu zagwarantują, że Telegram będzie mógł w dalszym ciągu skutecznie usuwać materiały przedstawiające wykorzystywanie dzieci, zanim będą one mogły dotrzeć do każdego użytkownika.”
Historyczny opór wobec moderacji
Zmiana Telegramu jest szczególnie zauważalna, biorąc pod uwagę jego historię opierania się nadzorowi zewnętrznemu. Od momentu powstania platforma pozycjonuje się jako orędownik prywatności i wolności słowa, dzięki czemu jest popularnym narzędziem w regionach o restrykcyjnych rządach. Jednak to zaangażowanie w ochronę prywatności często odbywało się kosztem bezpieczeństwa, co spotkało się z krytyką ze strony grup zwolenników i organów regulacyjnych na całym świecie.
W latach 2022–2024 IWF zidentyfikowała tysiące przypadków CSAM w Telegramie, w tym niektóre z najcięższe formy przemocy. Zależność Telegrama od wewnętrznych systemów usuwania szkodliwych treści uznano za niewystarczającą, co stawia go w sytuacji odstającej w branży w coraz większym stopniu skupiającej się na proaktywnej moderacji.
Globalny wpływ zasad Telegramu
Wyzwania Telegramu wykraczają poza CSAM. W raporcie Organizacji Narodów Zjednoczonych opublikowanym w październiku 2024 r. powiązano platformę z szeroko zakrojonymi operacjami przestępczymi w Azji Południowo-Wschodniej. Syndykaty przestępcze wykorzystywały Telegram do handlu skradzionymi danymi, dystrybucji złośliwego oprogramowania i prania pieniędzy za pośrednictwem nieuregulowanych giełd kryptowalut.
Jeden anonimowy sprzedawca w regionie stwierdził: „Dziennie przenosimy z zagranicy skradzione 3 miliony USDT”. w raporcie wskazano minimalną moderację treści przez Telegram jako kluczowy czynnik umożliwiający te działania.
W Korei Południowej władze badają rolę Telegramu w rozpowszechnianiu fałszywych treści dla dorosłych, podczas gdy w Indiach hakerzy wykorzystali platformę do ujawnienia wrażliwych danych medycznych. Incydenty te podkreślają globalne znaczenie reform moderacji Telegramu.
Równowaga między prywatnością a odpowiedzialnością
Od 2018 r. Telegram zastosował się do ważnych prawnych żądań dotyczących danych użytkowników, w tym adresów IP i numerów telefonów. Durov wyjaśnił w październiku 2024 r., że ta polityka, która ma zastosowanie tylko do przypadków dotyczących poważnych przestępstw, nie uległa zmianie pomimo. ostatnich reform.
Raporty dotyczące przejrzystości pokazują, że Telegram rozpatrzył ponad 6000 takich wniosków w pierwszych trzech kwartałach 2024 r., przy czym w Europie nastąpił znaczny wzrost liczby wniosków ze względu na zgodność z unijnym aktem prawnym o usługach cyfrowych.
Nowy rozdział w Telegramie
Współpraca Telegramu z IWF sygnalizuje szersze wysiłki na rzecz odbudowania zaufania i dostosowania się do światowych standardów bezpieczeństwa. Reformy mają na celu zrównoważenie podstawowych zasad platformy, takich jak prywatność i wolność wypowiedzi, z pilną potrzebą ochrony użytkowników przed krzywdą.
Chociaż wyzwania nadal istnieją, współpraca z IWF stanowi krytyczny krok naprzód. Jak zauważył Ray-Hill: „To pierwszy krok transformacji na znacznie dłuższej drodze”. Zdolność Telegramu do utrzymania tych zmian określi jego rolę w odpowiedzialności platformy.
