Google ได้ขยายเทคโนโลยีลายน้ำ AI SynthID เพื่อรวมข้อความและวิดีโอที่สร้างโดย AI การประกาศนี้จัดทำขึ้นในระหว่างการประชุมนักพัฒนาซอฟต์แวร์ Google I/O 2024 ซึ่งDemis Hassabis ซีอีโอของ DeepMind ได้แนะนำระบบที่ได้รับการปรับปรุง ในตอนแรกออกแบบมาสำหรับภาพและเสียงที่สร้างโดย AI ขณะนี้ SynthID ได้ขยายขีดความสามารถไปยังรูปแบบสื่อเพิ่มเติม ปรับปรุงการระบุเนื้อหาที่สร้างโดย AI
ความสามารถใหม่ของ SynthID
SynthID ซึ่งเปิดตัวครั้งแรกในเดือนสิงหาคมปีที่แล้ว เริ่มแรกฝังลายน้ำที่มองไม่เห็นไว้ในรูปภาพที่สร้างโดย AI ลายน้ำเหล่านี้ตรวจไม่พบด้วยตามนุษย์ แต่สามารถระบุได้ด้วยระบบพิเศษ ไม่เหมือนกับโปรโตคอลลายน้ำอื่นๆ เช่น C2PA ซึ่งใช้ข้อมูลเมตาที่เข้ารหัส SynthID ใช้วิธีการพิมพ์ที่เป็นเอกลักษณ์ การอัปเดตล่าสุดช่วยให้ SynthID สามารถทำเครื่องหมายวิดีโอและข้อความที่สร้างโดย AI เพื่อขยายขอบเขตและอรรถประโยชน์
[เนื้อหาที่ฝัง]
วิธีการทำงานของ SynthID
SynthID สำหรับข้อความได้รับการออกแบบเพื่อเสริม AI ที่มีอยู่อย่างกว้างขวาง โมเดลการสร้างข้อความและสามารถนำไปใช้งานในวงกว้างได้ โดยจะปรับคะแนนความน่าจะเป็นของโทเค็นที่สร้างโดยโมเดลภาษาขนาดใหญ่ โดยสร้างรูปแบบที่ทำหน้าที่เป็นลายน้ำ วิธีนี้จะมีประสิทธิภาพน้อยลงในการตอบสนองต่อการแจ้งเตือนข้อเท็จจริง เนื่องจากมีโอกาสน้อยลงในการปรับการกระจายโทเค็นโดยไม่กระทบต่อความถูกต้องของข้อเท็จจริง สำหรับวิดีโอ SynthID สร้างจากวิธีการใส่ลายน้ำรูปภาพและเสียงเพื่อรวมเฟรมทั้งหมดในวิดีโอที่สร้างขึ้น แนวทางที่เป็นนวัตกรรมนี้ฝังลายน้ำที่มองไม่เห็น โดยไม่ส่งผลกระทบต่อคุณภาพ ความแม่นยำ ความคิดสร้างสรรค์ หรือความเร็วของกระบวนการสร้างข้อความหรือวิดีโอ
ความสำคัญของลายน้ำ AI
ความต้องการลายน้ำเนื้อหาที่สร้างโดย AI เพิ่มขึ้นเมื่อเทคโนโลยีแพร่หลายมากขึ้น เครื่องมือ AI ถูกใช้ในทางที่ผิดสำหรับกิจกรรมที่เป็นอันตราย รวมถึงการเผยแพร่ข้อมูลที่ไม่ถูกต้องทางการเมือง การสร้างข้อความ และการสร้างเนื้อหาที่โจ่งแจ้งโดยไม่ได้รับความยินยอม เครื่องมือ SynthID ที่ได้รับการปรับปรุงมีจุดมุ่งหมายเพื่อลดความเสี่ยงเหล่านี้โดยการจัดหาวิธีการที่เชื่อถือได้ในการระบุเนื้อหาที่สร้างโดย AI ซึ่งจะช่วยสนับสนุนความพยายามในการรักษาความสมบูรณ์และความถูกต้องของเนื้อหา
Microsoft มีลายน้ำรูปภาพที่สร้างโดย Bing Image Creator แล้ว การเพิ่มลายน้ำมีจุดมุ่งหมายเพื่อช่วยให้ผู้ใช้ระบุเนื้อหาที่สร้างโดย AI Meta เปิดตัวลายน้ำ AI บังคับบนแพลตฟอร์มต่างๆ OpenAI ยังเพิ่มลายน้ำ ซึ่งเป็นวิธีการเพิ่มข้อมูลเมตาลงในเนื้อหาดิจิทัลเพื่อสร้างแหล่งที่มา เพื่อรองรับมาตรการรักษาความปลอดภัยจาก Deepfake ที่ผลิตโดยโมเดล AI ของพวกเขา
การปกป้องของรัฐบาลและอุตสาหกรรม
SynthID เป็นส่วนหนึ่งของความคิดริเริ่มที่กว้างขึ้นในการพัฒนาการป้องกันต่อการนำเทคโนโลยี AI ไปใช้ในทางที่ผิด ฝ่ายบริหารของ Biden ได้สั่งให้หน่วยงานรัฐบาลกลางจัดทำแนวปฏิบัติสำหรับการใช้งาน AI โดยเน้นย้ำถึงความสำคัญของมาตรการป้องกันดังกล่าว ความพยายามของ Google กับ SynthID สอดคล้องกับคำสั่งเหล่านี้ โดยมีเป้าหมายเพื่อสร้างสภาพแวดล้อมดิจิทัลที่ปลอดภัยยิ่งขึ้นในขณะที่ AI ยังคงพัฒนาต่อไป
ตั้งแต่วันนี้เป็นต้นไป วิดีโอทั้งหมดที่สร้างโดย Veo บน VideoFX จะถูกใส่ลายน้ำโดย SynthID ในช่วงปลายฤดูร้อนนี้ Google วางแผนที่จะโอเพ่นซอร์ส SynthID สำหรับลายน้ำข้อความ ช่วยให้นักพัฒนาสามารถสร้างด้วยเทคโนโลยีนี้และรวมเข้ากับโมเดลของพวกเขา นอกจากนี้ Google จะเผยแพร่รายงานการวิจัยโดยละเอียดเกี่ยวกับเทคโนโลยีลายน้ำข้อความและอัปเดตชุดเครื่องมือ Responsible Generative AI เพื่อรวม SynthID ไว้ด้วย
