ในขณะที่ OpenAI เปิดตัวโหมดการสร้างภาพ GPT-4O ใหม่ให้กับผู้ใช้ Free-Tier ChatGPT บริษัท ยังทดลองใช้เทคนิคการลายน้ำทั้งที่มองเห็นได้และมองไม่เห็นเพื่อช่วยระบุภาพ AI-Generated ที่สร้างขึ้นได้ดีขึ้น ลายน้ำที่มองเห็นได้-ปรากฏเป็นฉลาก”ImageGen”-กำลังถูกทดสอบในเอาท์พุทจากบัญชีฟรีในขณะที่ผู้ใช้ที่ชำระเงินจะ
การทดลองของ OpenAI ด้วยการทำเครื่องหมายว่าเป็นน้ำที่ดีก่อนการทดสอบล่าสุดนี้ นอกเหนือจากการเปิดตัวข้อมูลเมตาของ C2PA สำหรับ Dall · E 3 แล้ว บริษัท ยังได้พัฒนาระบบลายน้ำข้อความสำหรับ CHATGPT ซึ่งประกาศในช่วงกลางปี 2567 เครื่องมือที่ฝังอยู่ในรูปแบบภาษาศาสตร์ที่มองไม่เห็นเพื่อช่วยตั้งค่าสถานะข้อความที่สร้างขึ้นจาก AI แต่ความกังวลเกี่ยวกับความถูกต้องและผลที่ไม่ได้ตั้งใจทำให้ Openai ชะลอการเปิดตัว
OpenAI ยอมรับข้อ จำกัด ของเครื่องมือและความเป็นไปได้ของเทคนิคที่ซับซ้อนในการข้าม บริษัท ยังตั้งข้อสังเกตถึงความกังวลที่อาจเกิดขึ้นสำหรับผู้ใช้ที่พึ่งพา AI สำหรับการสนับสนุนการเขียนภาษาที่สอง ลายน้ำอาจถูกลบออกหรือทำให้งงงวยโดยใช้กลยุทธ์ง่ายๆเช่นการเปลี่ยนรูปหรือการแปลของเครื่อง
ความพยายามก่อนหน้านี้เหล่านี้ให้บริบทที่สำคัญสำหรับการทดสอบลายน้ำ chatgpt-4o ด้วยการรวมตัวชี้วัดที่มองเห็นได้และมองไม่เห็น OpenAI กำลังพยายามที่จะตีกราวด์กลางระหว่างการใช้งานและการตรวจสอบย้อนกลับ
การเคลื่อนไหวทั่วทั้งอุตสาหกรรมไปสู่การระบุแหล่งที่มา
OpenAI ไม่ได้อยู่คนเดียว ยักษ์ใหญ่ด้านเทคโนโลยีอื่น ๆ ได้ดำเนินการตามขั้นตอนขนานเพื่อทำเครื่องหมายสื่อที่สร้างขึ้นจาก AI ในเดือนกุมภาพันธ์ 2568 Google ได้ขยายระบบ synthid ซึ่งพัฒนาขึ้นโดย DeepMind-ไปยัง Google Photos เทคโนโลยีนี้ใช้กับภาพที่แก้ไขเช่นเดียวกับภาพที่สร้างขึ้นอย่างเต็มที่โดยฝังลายน้ำที่มองไม่เห็นโดยตรงลงในข้อมูลพิกเซล Synthid สามารถอยู่รอดการเปลี่ยนแปลงขั้นพื้นฐานเช่นการปรับขนาดหรือการกรองแสง แต่มีประสิทธิภาพน้อยกว่าในการแก้ไขหรือการปลูกพืชอย่างหนัก
Microsoft ยังใช้ลายน้ำในเดือนกันยายน 2567 ผ่านบริการ Azure Openai รายการข้อมูลเมตาเหล่านี้บันทึกแหล่งกำเนิดวันที่สร้างและตัวระบุซอฟต์แวร์ ระบบเป็นส่วนหนึ่งของความคิดริเริ่มที่กว้างขึ้นที่เกี่ยวข้องกับการเป็นหุ้นส่วนกับ Adobe, TruePic และ BBC เพื่อสร้างมาตรฐานการตรวจสอบเนื้อหาข้ามแพลตฟอร์ม
meta ในขณะเดียวกันใช้วิธีการโดยตรงมากขึ้น ในเดือนกุมภาพันธ์ 2567 บริษัท ได้เปิดตัวลายน้ำที่มองเห็นได้จากเนื้อหา Ai-Generated ใน Facebook, Instagram และเธรด ฉลาก“ Imagined With AI” ปรากฏบนภาพใด ๆ ที่สร้างขึ้นโดยเครื่องมือของ Meta หรือรุ่นบุคคลที่สามเช่น Midjourney และ Dall · E Meta ได้ส่งสัญญาณว่าในไม่ช้าจะต้องมีการเปิดเผยที่คล้ายกันสำหรับวิดีโอสังเคราะห์และเสียงด้วยการดำเนินการบังคับใช้ที่อาจเกิดขึ้นสำหรับการไม่ปฏิบัติตาม
ข้อ จำกัด ทางเทคนิคและความท้าทายด้านการวิจัย
ในเดือนตุลาคม 2566 นักวิจัยจากมหาวิทยาลัยแมริแลนด์ตีพิมพ์การศึกษาตรวจสอบขีด จำกัด ของการเกิดลายน้ำ AI Image การค้นพบของพวกเขาแสดงให้เห็นว่าวิธีการพาร์ทเมนต์ทั่วไปสามารถพ่ายแพ้ได้ด้วยเทคนิคที่เป็นปฏิปักษ์
เช่นกระบวนการที่เรียกว่าการทำให้บริสุทธิ์การแพร่กระจาย-ที่ซึ่งเสียงแบบเกาส์เซียนถูกเพิ่มเข้าไปในภาพแล้ว denoised ที่เกี่ยวข้องมากขึ้นคือผู้โจมตีสามารถ”หลอก”ลายน้ำลงบนภาพที่ไม่มีเครื่องหมายทำให้ดูเหมือนว่าจะถูกสร้างขึ้นเมื่อมันไม่ได้เป็น
ในกระดาษของพวกเขาทีมยังอธิบายถึงการแลกเปลี่ยนการตรวจจับ: การปรับปรุงความแม่นยำเพื่อหลีกเลี่ยงการลบที่ผิดพลาด การค้นพบเหล่านี้ชี้ให้เห็นว่าลายน้ำเพียงอย่างเดียวอาจไม่ได้เป็นตาข่ายความปลอดภัยที่เชื่อถือได้กับสื่อที่มีการจัดการหรือข้อมูลที่ผิด
สมดุลความโปร่งใสด้วยการใช้งาน
การตัดสินใจที่จะ จำกัด ลายน้ำ”ภาพ”ที่มองเห็นได้ หากสมาชิกที่ชำระเงินจะยังคงเพลิดเพลินไปกับผลลัพธ์ที่ปราศจากลายน้ำสิ่งนี้จะสร้างระบบสองระดับที่อาจทำให้การติดตามเนื้อหาและการกลั่นกรองมีความซับซ้อนในแพลตฟอร์ม ภาพที่ไม่มีแท็กที่มองเห็นได้อาจหมุนเวียนได้อย่างอิสระมากขึ้น-ไม่ว่าจะเป็น Ai-Generated หรือไม่
กลยุทธ์สองชั้นของ Openai-การรวมคะแนนที่มองเห็นได้ด้วยข้อมูลเมตา-อาจสะท้อนให้เห็นถึงความพยายามที่จะบรรเทาปัญหาเหล่านี้ อย่างไรก็ตามในฐานะที่เป็นสื่อสังเคราะห์ proliferates ระบบลายน้ำมีแนวโน้มที่จะต้องพัฒนาต่อไปเพื่อให้มีประสิทธิภาพ ไม่ว่ายอดคงเหลือในปัจจุบันจะเป็นไปตามความคาดหวังของหน่วยงานกำกับดูแลแพลตฟอร์มและผู้ใช้ยังไม่ชัดเจน
Categories: IT Info