การผลักดันอย่างก้าวร้าวของ Google ในการรวม AI เข้ากับผลิตภัณฑ์ของ บริษัท กำลังกดปุ่มบนถนน ข้อผิดพลาดที่สำคัญใน Gmail กำลังเปลี่ยนเนื้อหาของอีเมลภาษาเยอรมันโดยไม่ได้รับความยินยอมจากผู้ใช้ Gemini AI ระบุข้อความภาษาเยอรมันเป็นภาษาอังกฤษอย่างผิด ๆ และจากนั้น”แปล”กลับมาแนะนำข้อผิดพลาดที่แปลกประหลาดและสร้างความเสียหาย
ข้อบกพร่องคือ
การแก้ไขจะค่อยๆเปิดตัวอย่างช้าๆ แต่อาจใช้เวลาหลายสัปดาห์กว่าจะเสร็จสมบูรณ์ เหตุการณ์ดังกล่าวทำให้เกิดคำถามที่จริงจังเกี่ยวกับการควบคุมคุณภาพของ บริษัท ในขณะที่มันแข่งกันเพื่อฝัง AI ทั่วทั้งระบบนิเวศจากการค้นหาไปจนถึงแอพเพิ่มประสิทธิภาพ ในจดหมายข่าวเกี่ยวกับสงครามในยูเครนเปลี่ยน“ Ukrainische Stellungen” (ตำแหน่งยูเครน) เป็น“ Amerikanische Stellungen” (ตำแหน่งอเมริกัน) สิ่งนี้ทำให้เกิดความเสียหายอย่างมาก Florian Harms, Editor-in-Chief ของ T-Online, กล่าวถึงผลกระทบที่รุนแรงต่อความน่าเชื่อถือระบุว่า“ สำหรับชื่อเสียงด้านวารสารศาสตร์และความน่าเชื่อถือของสื่อที่จริงจังการจัดการข้อความดังกล่าวกำลังทำลายล้าง” เขาเปิดเผยขอบเขตของความสับสนของผู้อ่านหรือไม่“ ในช่วงไม่กี่เดือนที่ผ่านมา ปัญหาดังกล่าวน่าตกใจจนทำให้เกิดข้อกังวลภายในของการโจมตีทางไซเบอร์ที่อาจเกิดขึ้นก่อนที่จะระบุสาเหตุที่แท้จริง สาเหตุที่แท้จริงเชื่อว่า AI จะสับสนโดยมาร์กอัป HTML ภาษาอังกฤษภายในซอร์สโค้ดของอีเมล สิ่งนี้ก่อให้เกิดกระบวนการแปลที่ไร้สาระ ในฐานะผู้เชี่ยวชาญจากศูนย์วิจัย AI (DFKI) ของเยอรมันอธิบายว่า“ หากแบบจำลองถูกบังคับให้แปลจากเยอรมันเป็นเยอรมันซึ่งแน่นอนว่ามันไม่ได้รับการฝึกฝนให้ทำ “ ภาพหลอน” นี้ส่งผลให้เกิดผลลัพธ์ที่คาดเดาไม่ได้ แม้จะมีความรุนแรง หลังจาก T-Online รายงานปัญหาครั้งแรกในเดือนพฤษภาคมการแก้ไขครั้งแรกของ Google ในต้นเดือนมิถุนายนล้มเหลวในการแก้ปัญหาพื้นฐาน แพตช์ที่แก้ไขตัวอย่างเฉพาะที่รายงาน แต่ไม่ได้ระบุข้อบกพร่องของตรรกะหลักทำให้เกิดข้อผิดพลาดใหม่ที่แตกต่างกัน สิ่งนี้ทำให้เกิดการตำหนิที่คมชัดจาก บริษัท แม่ของ T-Online ตัวแทนด้านไอทีบอกกับ Google ว่า“ ดูเหมือนว่าทีมพัฒนาได้วางพลาสเตอร์ไว้บนแผลโดยไม่ต้องแก้ไขสาเหตุที่แท้จริง” มันไม่ได้จนกว่าจะมีการประชุมในวันที่ 30 มิถุนายนว่า Google ยอมรับวิธีแก้ปัญหาที่ครอบคลุมมากขึ้นในการทำงาน Google ได้กำหนดกรอบปัญหาที่เปิดเผยต่อสาธารณชนว่าเป็นเทคนิคล้วนๆ โฆษกที่ไม่มีชื่อของ บริษัท กล่าวว่า“ เราเชื่อมั่นว่านี่เป็นปัญหาทางเทคนิค” พิจารณาการจัดการโดยเจตนาใด ๆ อย่างไรก็ตามการจัดการข้อผิดพลาดของ บริษัท ได้ทำการตรวจสอบข้อเท็จจริงเนื่องจากขาดการสื่อสารเชิงรุกกับผู้ใช้และผู้เผยแพร่ที่ได้รับผลกระทบ ความผิดพลาดแสดงให้เห็นถึงผลที่ตามมาในโลกแห่งความเป็นจริงเมื่อระบบ AI ซึ่งมักจะเปิดใช้งานโดยค่าเริ่มต้น ผู้ใช้หลายคนตามการรายงานของ T-Online ไม่ทราบด้วยซ้ำว่าพวกเขาได้เปิดใช้งานคุณลักษณะดังกล่าวทำให้เกิดคำถามเกี่ยวกับความยินยอมของผู้ใช้และความโปร่งใส มันเกิดขึ้นเช่นเดียวกับที่ Google กำลังเพิ่มขึ้นเป็นสองเท่าในการฝังราศีเมถุนในชุดพื้นที่ทำงาน การอัปเดตล่าสุดรวมถึงการสรุปอีเมลอัตโนมัติใน Gmail และการรวมตัวของ”อัญมณี”ผู้ช่วย AI ที่กำหนดเองเข้ากับแอพเช่นเอกสารและแผ่นงาน ในขณะที่คุณสมบัติเหล่านี้สัญญาเพิ่มประสิทธิภาพการผลิต ในฐานะที่เป็นรอนริชาร์ดแห่งพ็อดคาสต์ที่ซื่อสัตย์ของ Android
‘พลาสเตอร์บนแผล’: การตอบสนองช้าของ Google ต่อข้อผิดพลาดที่สร้างความเสียหาย
อันตรายจากการแพร่กระจายของ Ai
