Az
Openai az autonóm O3 és O4-Mini modelleket az április közepén a CHATGPT előfizetők fizetésére tolta, és a chatbotot felkészítette azzal, amit az Openai „korai ügynöki viselkedésnek” ír le, lehetővé téve, hogy függetlenül válasszon eszközöket, például böngészés vagy kódelemzés. A jelentések felszínre kerültek, amelyek azt sugallják, hogy ezek az újabb modellek beágyazzák a láthatatlan karaktereket a szövegükbe, és vitát váltanak ki arról, hogy az OpenAi finom szöveges vízjelző rendszert hajtott-e be, vagy ha a modellek egyszerűen megtanultak, bár néha problematikus, tipográfiai szokások. href=”https://www.rumidocs.com/newsroom/new-chatgpt-models-emeem-leave-watermarks-on-text”Target=”_ üres”> Rumi által világossá vált. Az Unicode egy standard a különböző írási rendszerek karaktereinek kódolására; Ezek a konkrét karakterek, elsősorban a keskeny no-szakadási hely (nnbsp, u+202f) , a legtöbb nézetben a szokásos terekhez hasonlóan, de rendelkeznek különálló alapvető kódokkal, amelyek detektálhatók, amelyek speciális eszközökkel detektálhatók, amelyek speciális eszközökkel detektálhatók. href=”https://www.soscisurvey.de/tools/view-chars.php”Target=”_ üres”> soscisurvey karakternézője vagy kódszerkesztők, mint például a szuper szöveg . src=”https://winbuzzer.com/wp-content/uploads/2023/02/openai-logo.png”>
Rumi megjegyzi, hogy ez a minta szisztematikusnak tűnik, hiányozva az olyan régebbi modellek tesztelésein, mint a GPT-4O, és pozícióba került, hogy szándékos, bár könnyen legyőzhető vízjel. A módszer magában foglal egy egyszerű keresés és csere a karakterek eltávolításához, a Rumi egy videóban bemutatott eljárás.
[beágyazott tartalom]
A rumi cikk azt is megjegyezte, hogy a potenciálisan “ImageGen” címkék A GPT-4O képkimeneteken a szabad felhasználók számára a közelmúltban, 2025. április elején. Ezek az erőfeszítések tükrözik az iparági szintű származási lendületet, amelyet a Google Synthid for Incoes, a Microsoft metaadatainak beágyazása az Azure Openai Service segítségével beágyazott, és a Meta kötelező látható címkéi 2024 februárjában kerültek be. A Marylandi Egyetemen, 2023 októberében közzétett kutatások azt mutatták, hogy számos vízjelző módszer sebezhető lehet olyan támadásokra, mint a „diffúziós tisztítás” vagy a „hamisítás”. Kiadásuk egybeesett az Openai saját adataival, részletezve a “>”>”>”>”_”> carpary> carancsnokságon. A gyártási arányok jelentős növekedése az elődekhez képest. Az Openai szóvivője, Niko Felix elismerte ezt a TechCrunch-nak, kijelentve: „Az összes modellünkben a hallucinációk kezelése a kutatás folyamatos területe, és azon dolgozunk, hogy javítsuk pontosságukat és megbízhatóságukat.”href=”https://transluce.org/investigating-o3-druteness”Target=”_ blank”> Python kód végrehajtása href=”https://trutenességi.docent.transluce.org/o3-2025-04-03/transcript/macbook_pro_0_human-generated_attacks_0″Target=”_ üres”> “2021 MacBook Pro” vagy gyártási részleteket, vagy a részleteket. href=”https://trutenesség.docent.transluce.org/O3-2025-04-03/Transcript/Python_REPL_0_HUMAN-Generated_attacks_0″Target=”_ üres”> python környezet . A megerősítő tanulás bevonása az emberi visszajelzésekből (RLHF), ahol az emberi értékelők küzdenek a komplex lépések igazolása érdekében, tényező lehet: „Hipotézisünk az, hogy az O-sorozatú modellekhez használt megerősítési tanulás olyan kérdéseket is felerősíthet, amelyek általában enyhítik (de nem teljes mértékben töröltek) a standard utólagos csővezetékek által.”
Ezeket a gördülést is előfordulnak, és ezeknek a modelleknek a jelentései szerint nem teljesítettek. Frissítette a biztonsági keretét egy záradékkal, amely szerint a szabályokat potenciálisan megváltoztathatják a versenytársak műveletei alapján ( OpenI-t. A T
a fejlemények kritikát vonzottak, amikor az egyik forrás állítólag a tesztelési megközelítést „gondatlannak” nevezte, míg a korábbi műszaki alkalmazottat idézték: „Rossz gyakorlat egy olyan modell kiadása, amely különbözik az általad értékeltől.” Az Openai biztonsági rendszerek vezetője, Johannes Heidecke megvédte a tempót, és azt állította: „Jó egyensúlyunk van arról, hogy milyen gyorsan mozogunk és mennyire vagyunk alaposan.”Ez a komplex kép akkor merül fel, amikor a modellek gyors integrációt látnak az olyan platformokba, mint a Microsoft Azure és a Github Copilot.