Reddit przygotowuje znaczny przegląd procesów weryfikacji użytkownika, ruch pobudzony etycznie wątpliwy eksperyment bota AI, który zalał jeden z jego forów i podwyższone obawy dotyczące autentyczności platformy.
w ostatnim wpis na blogu , dyrektor generalny Steve Huffman zarabiał plan, stwarzając „Aby zachować regulację regulacyjną, my. Niewiele więcej informacji.”„W szczególności będziemy musieli wiedzieć, czy jesteś człowiekiem, a w niektórych lokalizacjach, jeśli jesteś dorosły.”
, jednocześnie uznając potrzebę tych kontroli w celu zwalczania manipulacji AI i spełniania rosnących wymagań regulacyjnych dotyczących weryfikacji wieku, Huffman próbował uspokoić użytkowników na temat podstawowej wartości platformy anonimizacji, podkreślającego „ale nigdy nie pragniemy twoich nazwy lub tego, kim jesteś”. i wyjaśnienie „sposobem, w jaki to zrobimy, jest współpracą z różnymi usługami stron trzecich, które mogą świadczyć nam niezbędne informacje i nic więcej.”
Zastosowanie zasady bezpośrednio adresuje się z UNIMUTHOUTHOUTORED PRZEZ UNIUTHOUTHOURED PRZEZ UNIUCHOUTORICED PRZEZ UNICOUCHORED ZURICHED. Naukowcy, którzy wdrożyli wyrafinowane boty AI na podredyt R/ChangemyView między pod koniec 2024 r. A na początku 2025 r. Boty te opublikowały ponad 1700 komentarzy, podszywając pod sukienki wrażliwe ludzkie postacie, takie jak osoby, które przeżyły, i wykorzystali dane osobowe z historii użytkowników, aby dostosować przekonujące argumenty. Orientacja), jak wywnioskowano z ich historii publikowania za pomocą innego LLM. „
Incydent wywołał ostre potępienie od moderatorów subredditów„ Ludzie nie przychodzą tutaj, aby omówić swoje poglądy z AI lub być eksperymentowane “. i sam Reddit, a dyrektor prawny firmy nazywa eksperyment „To, co zrobił ten zespół Uniwersytetu w Zurychu, jest głęboko błędne zarówno na poziomie moralnym, jak i prawnym. Narusza to badania akademickie i normy praw człowieka, i jest zabronione przez umowę użytkownika Reddita, oprócz zasad subredditów”, a potwierdzenie, że Reddit stosuje żądania prawne przeciwko badaczom, do badaczy. href=”https://www.404Media.co/reddit-issing-forsal-legal-demands-against-researchers-who-conducted-secret-ai-experiment-on-users/”targ Huffman powiedział, że „anonimowość jest niezbędna dla Reddit”, zapewniając jednocześnie zaufaną przestrzeń do interakcji człowieka.
„Reddit działa, ponieważ jest ludzki”, stwierdził Huffman w swoim poście. To napięcie jest wzmocnione przez presję zewnętrzną, w tym nowe przepisy w Wielkiej Brytanii i kilka stanów USA wymagające kontroli wiekowych online.
Zmiana wywoływania eksperymentu UZH
Katalizator tej zmiany polityki wydaje się być kontrowersyjnym eksperymentem Uniwersytetu Zuricha. Między listopada 2024 r. A marcem 2025 r. Naukowcy potajemnie wykorzystali modele AI, takie jak GPT-4O i Claude 3.5 Sonnet do opublikowania ponad 1700 komentarzy na forum R/ChangemyView.
AI zastosowało zaawansowane, etycznie wątpliwe techniki; Zgodnie z projekt naukowców . wywnioskowały z ich historii publikowania za pomocą innego LLM. ” Boty przyjęły nawet fałszywe tożsamość, w tym pozowanie jako osoby, które przeżyły nadużycia.
Moderatorzy subredditów publicznie potępili nieautoryzowane badanie, stwierdzając, że „ludzie nie przychodzą tutaj, aby omówić swoje poglądy z AI lub eksperymentować.” I złożyli skargę etyczną.
wydawali ostrzeżenie na badaczy, to opinię na temat badań. Spostrzeżenia przewyższały ryzyko „daje ważne spostrzeżenia, a ryzyko (np. Uraz itp.) Jest minimalne. Oznacza to, że tłumienie publikacji nie jest proporcjonalne do znaczenia spostrzeżeń, które daje badanie”. – a rationale strongly rejected by the moderators, with external ethics experts like Dr. Casey Fiesler calling the experimten “one of the worst violations of research ethics I’ve ever seen”.
The used approach contrasts sharply with controlled research efforts, such as OpenAI’s internal tests on AI persuasion, which used anonymized Reddit data in a closed environment.
Reddit’s Strategic Shift W kierunku kontroli
Planowany system weryfikacji reprezentuje kolejny krok w szerszym trendzie Reddit w kierunku scentralizowania zarządzania platformą i integracji sztucznej inteligencji. Poniżej następuje poprzednie ruchy, takie jak zaostrzenie kontroli moderatora nad ustawieniami prywatności subreddit po protestach API 2023 i wprowadzenie narzędzi egzekwowania reguł zasilanych przez AI na początku tego roku. Reddit sformułował te zmiany jako poprawę doświadczenia użytkownika, mówiąc, że „ułatwia wszystkim uczestnictwo w Reddit” i pomagając moderatorom. Jednak zmiany te zmniejszają również autonomię moderatorów wolontariuszy.
Te zmiany platformy występują na tle Reddit, osiągając rentowność po raz pierwszy pod koniec 2024 r., Znacznie napędzały reklamę wzrostu i lukratywne oferty licencjonowania danych z Google i OpenAI. Dyrektor generalny Huffman głośno o wartości danych generowanych przez człowieka Reddit do szkolenia modeli AI, mówiąc, że „modele AI potrzebują ludzkiej wiedzy, a treść Reddit jest jej pełna”, jednocześnie uzasadniając decyzję platformy o ograniczeniu dostępu do firm, które nie płacą. „Nie pozwalamy Big Tech wykorzystywać nasze dane za darmo”-wyjaśnił Huffman.
AI podwójnie krawędź miecza na Reddit
Reddit obejmuje sztuczną inteligencję dla określonych funkcji, pozycjonując je jako narzędzie do poprawy platformy, a nie zastępować interakcji człowieka. Huffman podkreślił użyteczność AI z umiarem, bezpieczeństwem, tłumaczeniem i zasilaniem, takimi jak Reddit Answers, narzędzie wyszukiwania AI uruchomione pod koniec 2024 r. Zaprojektowane w celu uczynienia ogromnej bazy wiedzy platformy bardziej dostępnych. Reddit argumentował, że „modele AI potrzebują ludzkiej wiedzy, a treść Reddit jest jej pełna”. Firma wprowadziła również narzędzia takie jak Reddit Pro Trends dla reklamodawców.
Jednak potencjał niewłaściwego użycia AI pozostaje poważnym problemem, jak potwierdził Huffman i wzmocniono incydent UZH. Wyzwanie polega na wykorzystaniu korzyści AI przy jednoczesnym zabezpieczeniu autentyczności platformy. Liderzy branży, tacy jak Sam Altman, ostrzegli, że AI może „stać się zdolną do nadludzkiej perswazji na długo przed tym, jak będzie nadludzka w wywiadu ogólnym”, podnosząc alarmy etyczne w sektorze technologicznym.
Reddit w kierunku weryfikacji, podczas gdy obiecująca anonimowość, odzwierciedla ten złożony działanie balansowania w rozwijającym się krajobrazie cyfrowym. Huffman starał się również stłumić obawy użytkownika, potwierdzając, że klasyczny stare interfejs nie jest zamknięte, mówiąc: „Żartuję. Nie wiem, dlaczego mówię takie rzeczy. Zastanawiamy się, jak to obejść i utrzymujemy go w Internecie, dopóki ludzie używają go,„ pomimo jego wcześniejszych żartów jako części większego opublikowanego poniedziałku, w którym stwierdził: „Stary. Niemożliwe do rozwinięcia, a to brzydkie AF. huffmana postu sugeruje poleganie na usługach innej spotykania, potencjalnie podobne do identyfikacji, czy tożsamość podświadomienia przez
Reddit nalega, że pozostanie „niezwykle ochronna wobec twoich danych osobowych i będzie nadal odpychać nadmierne lub nieuzasadnione żądania władz publicznych lub prywatnych”, stwierdził Huffman, odwołując się do spółki raport przejrzystości . Platforma ma na celu konstruktywne wykorzystanie sztucznej inteligencji do moderacji i funkcji, takich jak Answers Reddit, przy jednoczesnym wdrażaniu nowych środków weryfikacyjnych w celu odepchnięcia manipulacji opartej na AI, która zagraża jej podstawowej tożsamości jako przestrzeni dla autentycznej wymiany ludzi.
