Jako Tibor Blaho udostępniono w wątkach, najnowsza aktualizacja aplikacji internetowej Chatgpt wprowadza funkcję eksperymentalną, która wspomina o „wskaźnikach zasobów wodnych” i zapewnia opcję „Zapisz obraz bez znaku wodnego”.
Zobacz wątki
Testowanie zbiega się z ogólną dostępnością ChatGpt-4o dla wszystkich użytkowników, w tym na wolnym planie, który teraz ma dostęp do codziennego używania. Generowanie obrazu było wcześniej ograniczone do płatnych poziomów. Teraz nie tylko technologia się rozwija-więc wysiłek Openai, aby uczynić jej treści bardziej identyfikowalną. Sygnalizuje to szerszą strategię od Openai w celu wzmocnienia atrybucji treści wśród montażowej kontroli nad mediami generowanymi przez AI.
Widoczne znaki, niewidzialne metadane
Podczas gdy widzialny znak wodny jest najbardziej oczywistą zmianą, Openai również osadza metadane na zdjęciach przy użyciu standardu C2PA. Te identyfikatory odczytujące maszynowo obejmują znaczniki czasu, etykiety oprogramowania i znaczniki pochodzenia, które pomagają weryfikować pochodzenie treści. Podejście to opiera się na wcześniejszym zastosowaniu metadanych C2PA przez OpenAI w generacji obrazu Dall · E 3, które rozpoczęło się na początku 2024 r.
Jednak ograniczenia systemów opartych na metadanych są dobrze znane. Jak wcześniej uznał Openai, proste manipulacje-takie jak przycinanie, objawienie ekranu lub przesyłanie obrazów na platformy, które rozbudzają metadane-mogą usuwać te niewidzialne markery. Pomimo tych niedociągnięć firma wspiera ramy prawne wymagające znakowania wodnego. Openai, oprócz Adobe i Microsoft, poparł rachunek AB 3211 w Kalifornii, który nakazałby etykietowanie treści generowanej przez AI, aby pomóc w zmniejszeniu ryzyka dezinformacji.
Eksperymenty Openai z datą znakowania wodnego na długo przed tym ostatnim testem. Oprócz wprowadzenia metadanych C2PA dla Dall · E 3, firma opracowała również system znakowania tekstowego dla Chatgpt, ogłoszonego w połowie 20124 roku. Narzędzie wbudowało niezauważalne wzory językowe, które pomogą oznaczyć tekst generowany przez AI. Jednak obawy dotyczące dokładności i niezamierzonych konsekwencji doprowadziły Openai do opóźnienia wdrożenia.
Openai potwierdził ograniczenia narzędzia i możliwość wyrafinowanych technik, aby go ominąć. Firma zauważyła również potencjalne obawy dotyczące uczciwości użytkowników, którzy polegają na sztucznej inteligencji w zakresie wsparcia pisania drugiego języka. Znak wodny można usunąć lub zaciemniać przy użyciu prostych strategii, takich jak refrazowanie lub tłumaczenie maszynowe.
Te wcześniejsze wysiłki stanowią niezbędny kontekst dla testu robienia wody CHATGPT-4O. Łącząc widoczne i niewidoczne wskaźniki, Openai próbuje uderzyć w środkową podstawę między użytecznością a identyfikowalnością.
w branży ruchy w kierunku atrybucji
Openai nie jest sam w przemyśleniu uwierzytelniania treści. Inni giganci technologiczni podjęli równoległe kroki z okazji mediów generowanych przez AI. W lutym 2025 r. Google rozszerzył swój system syntezatora-opracowany przez DeepMind-na zdjęcia Google. Technologia dotyczy teraz edytowanych obrazów, a także w pełni wygenerowanych, osadzających niezauważalne znaki wodne bezpośrednio w dane pikselowe. Synthid może przetrwać podstawowe transformacje, takie jak rozmiar lub filtrowanie światła, ale jest mniej skuteczne w stosunku do ciężkich edycji lub przycinania.
Microsoft przyjął również znak wodny we wrześniu 2024 r. Za pośrednictwem usługi Azure Openai, osadzając kryptograficznie podpisane metadane w obrazy wygenerowane przez Dall · e. Te wpisy metadanych odnotowują źródło generacji, datę tworzenia i identyfikator oprogramowania. System jest częścią szerszej inicjatywy obejmującej partnerstwa z Adobe, Truepic i BBC w celu standaryzacji uwierzytelniania treści na różnych platformach.
Meta, w międzyczasie bardziej bezpośrednie podejście. W lutym 2024 r. Firma wprowadziła obowiązkowe znaki wodne na temat treści generowanych przez AI na Facebooku, Instagramie i wątkach. Etykieta „Wyobrażona z AI” pojawia się na każdym obrazie stworzonym przez narzędzia meta lub modele stron trzecich, takie jak Midjourney i Dall · e. Meta zasygnalizował, że wkrótce będzie wymagał podobnego ujawnienia syntetycznych wideo i dźwięku, z potencjalnymi działaniami egzekucyjnymi dotyczącymi niezgodności.
Ograniczenia techniczne i wyzwania badawcze
Pomimo rosnącego przyjęcia, znak wodny nadal ma słabości. W październiku 2023 r. Naukowcy z University of Maryland opublikowali badanie badające granice znakowania wodnego AI. Ich ustalenia wykazały, że wspólne metody znakowania wodnego można pokonać za pomocą technik przeciwnych.
Na przykład proces zwany oczyszczaniem dyfuzji-gdzie do obrazu dodaje się szum Gaussa, a następnie rozebrany-może skutecznie usunąć niezauważalne znaki wodne z wygenerowanych obrazów. Bardziej niepokojące jest to, że napastnicy mogą „sfałszować” znak wodny na nieoznaczonym obrazie, dzięki czemu wydaje się, że jest generowany AI, gdy nie jest.
W swoim artykule zespół opisał również kompromis wykrywania: poprawa dokładności, aby uniknąć fałszywych negatywów (brak znaku wodnego) zwiększa ryzyko fałszywych pozytywów (oznaczanie niezależnych treści). Odkrycia te sugerują, że same znakowanie wodne może nie być wiarygodną siecią bezpieczeństwa przeciwko manipulowanemu mediom lub dezinformacji.
Bilansowanie przejrzystości z użytecznością
Decyzja o ograniczeniu widocznego znaku wodnego „ImageGen” dla bezpłatnych użytkowników, skłoniła pytania dotyczące spójności. Jeśli płatni subskrybenci będą nadal cieszyć się wyjściami bez znaku wodnego, stworzy to dwupoziomowy system, który mógłby komplikować śledzenie i moderację treści na różnych platformach. Obraz bez widocznego znacznika może się swobodniej krążyć-bez względu na to, czy jest wygenerowany AI.
Podwójna strategia Openai-podążając za widzialnymi śladami z metadanami-może odzwierciedlać próbę ograniczenia tych problemów bez tworzenia kompromisów dla użyteczności. Jednak w miarę rozpowszechniania syntetycznych mediów systemy znakowania wodnego prawdopodobnie będą musiały ewoluować, aby pozostać skutecznym. To, czy obecna równowaga spełnia oczekiwania dotyczące organów regulacyjnych, platform i użytkowników, jest nadal niejasne.
