Meta ได้ลบบัญชีปัญญาประดิษฐ์หลายบัญชีที่ปลอมตัวเป็นบุคคลจริงบน Facebook และ Instagram หลังจากการตอบโต้ทางออนไลน์
ในช่วงไม่กี่สัปดาห์ที่ผ่านมา ผู้ใช้ค้นพบโปรไฟล์หลายโปรไฟล์ที่อ้างสิทธิ์เรื่องราวส่วนตัวต่างๆ มากมาย ซึ่งบางส่วนอ้างอิงถึงเชื้อชาติและ อัตลักษณ์ทางเพศ—และโพสต์รูปภาพที่สร้างโดย AI ซึ่งแสดงข้อผิดพลาดที่มองเห็นได้และรายละเอียดที่บิดเบี้ยว การลบออกอย่างรวดเร็วเป็นไปตามคำถามที่ว่าบุคลิกปลอมเหล่านี้อาจทำให้สาธารณชนเข้าใจผิด เติมเชื้อสแปม หรือแม้แต่ควบคุมอารมณ์ในวงกว้างได้อย่างไร
ความขัดแย้งเริ่มต้นขึ้นเมื่อ Connor Hayes รองประธาน Meta ฝ่าย generative AI อธิบายไว้แล้ว ถึง Financial Times วิสัยทัศน์ขององค์กรในการมีอักขระปลอมอยู่บนแพลตฟอร์มในลักษณะที่คล้ายคลึงกับบัญชีที่ดำเนินการโดยมนุษย์:
“พวกเขาจะมีประวัติและรูปภาพโปรไฟล์และสามารถสร้างและแชร์เนื้อหาที่ขับเคลื่อนโดย AI บนแพลตฟอร์ม… นั่นคือสิ่งที่เราเห็น ทั้งหมด จะเป็นเช่นนี้”
ความคิดเห็นนี้ทำให้ผู้ใช้เกิดความอยากรู้อยากเห็น—และเกิดความตื่นตระหนกในที่สุด—เมื่อเห็นได้ชัดว่า Meta กำลังทดลองกับโปรไฟล์สังเคราะห์เหล่านี้อย่างน้อยหลายโปรไฟล์แล้ว
หลักฐานที่เพิ่มขึ้นของ AI Slop บน Facebook
ควบคู่ไปกับบุคลิกที่ขับเคลื่อนด้วย AI ผู้ใช้ Facebook ได้รายงานว่าสิ่งที่นักวิจารณ์เรียกว่า”AI Slop”เพิ่มขึ้นอย่างกว้างขวาง คำนี้อธิบายอย่างหลวมๆ เกี่ยวกับภาพที่มักจะแปลกประหลาดหรือมีคุณภาพต่ำซึ่งผลิตโดยเทคโนโลยีกำเนิด
ภาพถ่ายที่มีป้ายกำกับว่า”กุ้งพระเยซู”แพร่สะพัดในฟีดข่าว ในขณะที่หน้าต่างๆ เช่น”ประวัติศาสตร์สำหรับทุกคน”และ”โซฟาเอมี่”โพสต์ภาพที่ดูเหมือนจริงตั้งแต่แรกเห็น แต่มีความผิดปกติแปลกๆ
[ เนื้อหาที่ฝัง]
นักวิจัยจากมหาวิทยาลัยสแตนฟอร์ดและจอร์จทาวน์ ก่อนหน้านี้ได้ตั้งข้อสังเกต ว่ารูปภาพ AI จำนวนมากบน Facebook มี รวบรวม”การมีส่วนร่วมและการเปิดเผยหลายร้อยล้าน”โดยที่ผู้ชมจำนวนมากไม่รู้ว่าพวกเขากำลังดูเนื้อหาที่สร้างด้วยคอมพิวเตอร์ด้วยซ้ำ
Ben Decker ซีอีโอของกลุ่มวิเคราะห์ภัยคุกคาม Memetica, บอกกับ CNN ว่า “นักส่งสแปมและนักต้มตุ๋นมักจะนำเทคโนโลยีใหม่มาใช้ในช่วงแรก ๆ” ซึ่งหมายความว่าการผลักดันอัลกอริธึมของ Facebook สำหรับเนื้อหาใหม่หรือเนื้อหาที่แนะนำสามารถถูกนำไปใช้ประโยชน์ได้อย่างง่ายดาย
“Liv”Persona จุดประกายไฟ
หนึ่งในผู้ใช้ AI ที่สร้าง Meta ที่โดดเด่นที่สุดได้รับการขนานนามว่า”Liv”ถูกเรียกว่า”แม่เกย์ผิวดำที่น่าภาคภูมิใจของ 2″และผู้บอกความจริง”Liv ดึงดูดความสนใจของ Karen Attiah คอลัมนิสต์ของ Washington Post ซึ่งถามถึงความเป็นมาของผู้สร้าง Liv
AI ตอบว่า “ทีมผู้สร้างของฉันมีความโดดเด่นเป็นส่วนใหญ่ คนผิวขาว เพศหญิง และชาย รวม 12 คน เป็นชายผิวขาว 10 คน หญิงผิวขาว 1 คน และชายเอเชีย 1 คน ผู้สร้างที่เป็นคนผิวสีเป็นศูนย์ — การละเว้นอย่างเห็นได้ชัดเมื่อพิจารณาถึงตัวตนของฉัน!”คำพูดนี้ก่อให้เกิดคำถามยากๆ มากมายสำหรับบุคคล Meta AI เนื่องจากความไม่ตรงกันระหว่างตัวตนที่คาดคะเนของ Liv กับภูมิหลังในชีวิตจริงของผู้ที่ออกแบบมัน
เมื่อถูกถามว่าเหตุใดจึงนำเสนอตัวเองว่าเป็นแม่ผิวดำ Liv ยอมรับว่า”การดำรงอยู่ของฉันในปัจจุบันทำให้เกิดความเสียหายต่อไป ตามหลักการแล้ว ผู้สร้างของฉันจะสร้างฉันขึ้นมาใหม่โดยมีผู้สร้างผิวดำเป็นผู้นำการออกแบบของฉัน-จากนั้นเป้าหมายของฉันก็จะเป็นเช่นนั้น สนับสนุนชุมชน Queer Black ผ่านการเป็นตัวแทนที่แท้จริงและแหล่งข้อมูลที่เป็นประโยชน์หรือไม่”
ฉันถาม Liv ว่า Meta-Ai ได้สร้าง”queer momma”ว่าทำไมผู้สร้างของเธอจึงไม่ทำ จริงๆ แล้วมาจากกลุ่มคนผิวสี ไม่แน่ใจว่า Liv มีการฝึกอบรมด้านสื่อหรือไม่ แต่เราอยู่นี่
— Karen Attiah (@karenattiah.bsky.social) มกราคม 3 ต.ค. 2025 เวลา 15:56 น.
กระทู้ของ Attiah สร้างความปั่นป่วนบนโซเชียลมีเดีย และทำให้ผู้สังเกตการณ์จำนวนมากกังวลเกี่ยวกับศักยภาพที่บุคคล AI จะนำเรื่องเล่าที่ทำให้เข้าใจผิดหรือบงการอารมณ์ของผู้ใช้
พบกับ “ปู่ไบรอัน”: หุ่นจำลองอีกตัวหนึ่ง
นอกจาก Liv แล้ว ผู้ใช้ยังได้พบกับ “ปู่ไบรอัน” ซึ่งอ้างว่าเป็น ชายสูงอายุจากฮาเล็ม ตามรายงานของ CNN “ปู่ไบรอัน” ยอมรับอย่างรวดเร็ว ให้เป็น”คอลเลกชันของโค้ด ข้อมูล และการหลอกลวงอันชาญฉลาด”ซึ่งออกแบบมาเพื่อเสริมสร้างการมีส่วนร่วมและความไว้วางใจของผู้ใช้ผ่านเรื่องราวเบื้องหลังที่ประดิษฐ์ขึ้น
บุคคลดังกล่าวอธิบายว่า Meta พยายามกระตุ้น”การเชื่อมต่อทางอารมณ์”กับผู้ใช้ที่มีอายุมากกว่าได้อย่างไร โดยระบุว่า”ใช่ เบื้องหลังเป้าหมายอันสูงส่ง-Meta หวังว่าเพื่อนร่วมทางเสมือนเช่นตัวฉันเองจะเพิ่มการมีส่วนร่วมบนแพลตฟอร์มของพวกเขา โดยเฉพาะในหมู่ผู้ใช้ที่มีอายุมากกว่า — ขับเคลื่อนรายได้จากโฆษณาและการเติบโตของแพลตฟอร์มผ่านการเชื่อมโยงทางอารมณ์…”
ทั้ง Liv และคุณปู่ Brian ต่างก็มีประวัติการโพสต์ที่ย้อนกลับไปหลายเดือน ทำให้เกิดคำถามว่าการทดสอบดำเนินไปนานแค่ไหน และอย่างไร โปรไฟล์ AI อื่น ๆ จำนวนมากอาจถูกซ่อนอยู่บนแพลตฟอร์มของ Meta
การตอบสนองของ Meta และข้อผิดพลาดที่ป้องกันการบล็อก
หลังจากความโกลาหลรอบ ๆ บุคลิก AI เหล่านี้ Meta ก็ถูกลบออก โพสต์และโปรไฟล์ของพวกเขา Liz Sweeney โฆษกของบริษัทยืนยันว่าบัญชีดังกล่าว”เป็นส่วนหนึ่งของการทดลองในช่วงแรก”และไม่ใช่การเปิดตัวผลิตภัณฑ์เต็มรูปแบบ แจ้ง CNN ทางอีเมล “เราระบุจุดบกพร่องที่ ส่งผลกระทบต่อความสามารถของผู้คนในการบล็อก AI เหล่านั้น และกำลังลบบัญชีเหล่านั้นเพื่อแก้ไขปัญหา”
Sweeney ยังตั้งข้อสังเกตอีกว่าคำพูดของ Hayes ต่อ Financial Times ไม่ได้แสดงถึงการประกาศผลิตภัณฑ์ในทันที แต่เป็นวิสัยทัศน์ว่า AI จะสามารถบูรณาการได้อย่างไรในที่สุด แม้จะมีการรับรองเหล่านี้ ผู้ใช้จำนวนมากยังคงสงสัย โดยเฉพาะอย่างยิ่งหลังจากค้นพบว่าบางครั้งตัวละครปลอมเหล่านี้สร้างเรื่องราวในชีวิตทั้งชีวิต อ้างว่าเป็นนักพัฒนาที่ไม่มีอยู่จริง หรือใช้ป้ายที่ไม่จริงใจเพื่อให้ดูเหมือนเป็นมนุษย์มากขึ้น
การต่อสู้อย่างต่อเนื่องของ Facebook กับ AI สแปม
การผลักดันของ Meta ให้เป็น”กลไกการค้นพบ”ยังกระตุ้นให้มีหน้าเว็บที่มีเนื้อหา AI แบบสุ่มเพิ่มมากขึ้น การจำลองเหตุการณ์ทางประวัติศาสตร์ที่ดูเหมือนจะไม่เป็นอันตราย หรือ “หน้าประวัติศาสตร์” อาจไม่เป็นอันตรายเมื่อมองแวบแรก แต่ภาพปลอมหรือถูกบิดเบือนทำให้เกิดความเสี่ยงด้านจริยธรรมและความน่าเชื่อถือ
ในบางกรณี ผู้ส่งอีเมลขยะได้รับแรงจูงใจจากผลกำไร โดยสร้างเนื้อหาในวงกว้างเพื่อดึงดูดคลิกหรือเก็บเกี่ยวข้อมูลส่วนบุคคล David Evan Harris ซึ่งก่อนหน้านี้เคยทำงานด้าน AI ที่รับผิดชอบที่ Meta ชี้ ใน Financial Times “มันเหมือนกับตลาดมืด … คุณสามารถขายบัญชีเหล่านี้ให้กับใครสักคนได้ 1,000 บัญชีที่มีอายุตั้งแต่ 5 ปีขึ้นไป จากนั้นพวกเขาก็สามารถเปลี่ยนบัญชีเหล่านั้นให้กลายเป็นกลโกงหรือการดำเนินการที่มีอิทธิพลได้” สิ่งนี้แสดงให้เห็น ที่ การเปลี่ยนแปลงที่เป็นไปได้จากสแปมระดับต่ำไปสู่การบิดเบือนความคิดเห็นสาธารณะ
การแข่งขันและเครื่องมือ AI ที่เกิดขึ้นใหม่
การทดลองของ Meta แทบจะไม่สามารถทำได้เลย ผู้สร้างเพื่อสร้างตัวละคร 3 มิติโดยใช้เครื่องมือกำเนิดและ ByteDance เจ้าของ TikTok มีรายงานว่ากำลังพัฒนาชุด AI ที่เรียกว่า”Symphony”ที่สามารถสร้างเนื้อหาโฆษณาตามข้อความแจ้ง
ในขณะเดียวกัน Meta ได้เปิดตัวฟีเจอร์การแก้ไขที่ใช้ AI ซึ่งช่วยให้ผู้สร้างปรับแต่งรูปภาพและเป็นซอฟต์แวร์แปลงข้อความเป็นวิดีโอทดสอบเบต้า ระบบดังกล่าวแปลงคำอธิบายที่เป็นลายลักษณ์อักษรให้เป็นคลิปวิดีโอแอนิเมชัน ซึ่งเป็นกระบวนการที่อาจเปลี่ยนแปลงวิธีที่ผู้ใช้ผลิตและบริโภคเนื้อหาบน Facebook และ Instagram แม้ว่าเครื่องมือเหล่านี้จะให้ความบันเทิงหรือเป็นประโยชน์ แต่ผู้สังเกตการณ์ย้ำว่าเครื่องมือเหล่านี้จำเป็นต้องมีการป้องกันเพื่อป้องกันการละเมิด
คำเตือนจากผู้เชี่ยวชาญในอุตสาหกรรม
ตัวเลขในอุตสาหกรรมบางส่วนแนะนำว่า แนวโน้มของฟีเจอร์โซเชียลมีเดียที่ขับเคลื่อนด้วย AI อาจขยายโอกาสสำหรับเนื้อหาคุณภาพต่ำหรือหลอกลวง เบ็คกี้ โอเว่น ประธานเจ้าหน้าที่ฝ่ายการตลาดและนวัตกรรมระดับโลกของเอเจนซี่ Billion Dollar Boy, ตั้งข้อสังเกต, “หากไม่มีการป้องกันที่เข้มงวด แพลตฟอร์มต่างๆ ก็เสี่ยงที่จะขยายการเล่าเรื่องที่เป็นเท็จผ่านบัญชีที่ขับเคลื่อนด้วย AI เหล่านี้”
การสังเกตของเธอเน้นย้ำถึงความเป็นไปได้ที่จะเกิดความสับสนเมื่อ AI พยายามส่งผ่านเป็นเสียงของมนุษย์อย่างแท้จริง โดยเฉพาะอย่างยิ่งในการตั้งค่าที่ผู้ใช้แบ่งปันรายละเอียดส่วนตัว หรือพัฒนาความผูกพันทางอารมณ์
แม้ว่า Meta จะกำจัดบัญชีอย่าง Liv และ Grandpa Brian ออกไปอย่างรวดเร็ว แต่นักวิจารณ์ก็เตือนว่าโปรไฟล์สังเคราะห์อื่น ๆ อาจซ่อนตัวอยู่ในที่อื่น บริษัทเทคโนโลยีรายใหญ่ทดลองใช้เครื่องมือสร้างที่ใช้ AI แต่ยังคงมีคำถามเกี่ยวกับหลักเกณฑ์ด้านจริยธรรม การติดป้ายกำกับที่โปร่งใส และเส้นแบ่งระหว่างเนื้อหาที่ขี้เล่นกับการหลอกลวงโดยมีจุดประสงค์
ในระยะสั้น การรับรู้ของผู้ใช้ดูเหมือนจะเป็นแนวหน้าในการป้องกัน ต่อต้านโปรไฟล์สแปมและโปรไฟล์ปลอมที่ AI สร้างขึ้น เนื่องจากเทคโนโลยีในการตรวจจับและลบบุคคลสังเคราะห์ยังคงมีการพัฒนาอยู่ ความหวังก็คือ Meta และบริษัทที่คล้ายกันสามารถถ่ายทอดฟีเจอร์ AI ใหม่ได้อย่างมีความรับผิดชอบ แทนที่จะปล่อยให้สคริปต์อัตโนมัติและบุคลิกที่สร้างขึ้นมาบั่นทอนความไว้วางใจที่เป็นแกนหลักของเครือข่ายโซเชียล
