Ang Google ay nagpapalawak ng teknolohiyang synthid watermarking upang isama ang mga larawan ng Google, pagdaragdag ng hindi nakikita na mga digital na marker sa mga imahe na binago gamit ang mga tool na pinapagana ng AI.
Ang pag-update, na gumulong sa linggong ito, ay ilalapat sa mga imahe na binago gamit ang Magic Editor, isang tampok na pag-edit ng larawan na hinihimok ng AI na magagamit sa mga aparato ng pixel. Ang mga alalahanin ay naka-mount sa pagkalat ng binagong media. Nauna nang ipinakilala ng kumpanya ang mga label na batay sa metadata na batay sa Google sa Oktubre 2024, ngunit ang pamamaraang ito ay nangangailangan ng mga gumagamit upang suriin nang manu-mano ang mga detalye ng imahe. Ngayon, kasama ang synthid, ang isang nakatagong watermark ay mai-embed sa antas ng pixel, na ginagawang mas mahirap na hubarin ang pagkilala sa AI mula sa binagong mga imahe. 2024/05/Google-Deepmind-Synthid-Ai.jpg”>
kung paano gumagana ang synthid at kung bakit pinapalawak ito ng Google Upang markahan ang nilalaman ng AI-generated at ai-na-edit nang hindi nakakaapekto sa visual na hitsura nito. Hindi tulad ng tradisyonal na mga watermark, na madalas na tinanggal kapag ang mga imahe ay laki o nai-compress, ang synthid ay lumilikha ng isang hindi nakikita na pagkakakilanlan na nananatiling nakikita sa ilalim ng karamihan sa mga pamantayang pag-edit.
Mababasa ang Watermark gamit ang tool na”Tungkol sa Imahe”ng Google, na nagbibigay ng impormasyon sa mga gumagamit tungkol sa pinagmulan ng isang imahe at anumang mga pagbabago na batay sa AI. Gayunpaman, kinikilala ng Google na ang synthid ay hindi nagkakamali-mga pagbabago sa ekstreme, tulad ng agresibong pag-crop o pag-filter, ay maaaring Bawasan ang pagiging epektibo nito Ginamit na ang media sa mga kampanyang pampulitika, mga celebrity deepfakes, at mapanlinlang na advertising.//arxiv.org/pdf/2310.00076.pdf”>study mula sa University of Maryland Natagpuan na ang mga diskarte sa kalaban ay madalas na hubarin ang mga watermark mula sa mga imahe, na binabawasan ang kanilang pagiging maaasahan bilang isang tool para sa pagpapatunay.
Ipinakilala rin ni Meta ang mga hakbang sa transparency ng AI, pagdaragdag ng mga ipinag-uutos na mga label na nabuo sa nilalaman sa buong Facebook at Instagram. Ang kumpanya ay gumawa ng isang karagdagang hakbang kasama ang video seal framework nito, na nalalapat ang mga neural watermark na nagpapatuloy kahit na matapos ang mga pagbabago. Samantala,
Transparency, may mga limitasyon din sila. Ang mga watermark at metadata label ay maaaring alisin, mabago, o hindi pinansin, na ginagawa silang isang hindi kumpletong solusyon sa problema sa maling impormasyon. Lalo na ito tungkol sa isang panahon kung saan mas madali ang pag-edit ng mga tool sa pag-edit ng AI kaysa kailanman na manipulahin ang digital media. > Ang pagpapalawak ng synthid ay hindi lamang isang kusang paglipat ng Google-darating ito sa gitna ng pagtaas ng presyon mula sa mga gobyerno at regulator upang matiyak na makikilala ang nilalaman ng AI-nabuo.
“> Ang Biden Administration ay naglabas ng isang utos ng ehekutibo na nag-utos sa mga kumpanya ng tech na magtatag ng mas malakas na mga sistema ng watermarking at pagpapatunay para sa AI-generated media. Ang pagkakasunud-sunod na nabanggit ang mga alalahanin sa pagkagambala sa halalan ng AI-driven, Deepfake scam, at ang mabilis na pagkalat ng sintetikong maling impormasyon.-generated na nilalaman at ipatupad ang mga mekanismo ng pagtuklas. Ang pangwakas na bersyon ng batas, na inilabas noong Hulyo 2024 at naging epektibo mula sa buwang ito, ay nagpapataw ng mga parusa sa mga kumpanya na hindi sumunod sa mga hakbang sa pagpapatunay ng nilalaman. Ang debate tungkol sa pagiging epektibo
Ang AI watermarking, kabilang ang synthid, mga kredensyal ng nilalaman ng Adobe, at metadata ng C2PA ng OpenAI, ay maaaring magbigay ng mahahalagang digital na lagda, ngunit umaasa sila sa pag-aakalang ang mga platform at mga gumagamit ay susuriin para sa kanila. hindi laging patuloy. Ang nilalaman ng AI-nabuo ay madalas na binago, na-crop, o na-reprocess bago maibahagi sa online, at ang mga label na batay sa metadata ay maaaring mahubaran kapag ang mga imahe ay nai-upload sa social media.
Hindi sila nagbibigay ng ganap na seguridad laban sa pagmamanipula ng nilalaman ng AI-nabuo,”ang mga mananaliksik ng University of Maryland ay nabanggit sa kanilang pag-aaral. > Sa pagtaas ng nilalaman ng AI-nabuo, ang mga kumpanya at regulators ay naggalugad ng mga karagdagang pamamaraan para sa pagpapatunay na lampas sa watermarking. P>
Ang pinakabagong pagpapalawak ng Google ng synthid ay nagpapakita na ang mga kumpanya ng tech ay kinikilala ang pangangailangan para sa mas malakas na pagpapatunay ng nilalaman ng AI.