OpenAI ได้รับผลกระทบจากคดีใหม่ 7 คดีในแคลิฟอร์เนียเมื่อวันพฤหัสบดี รวมถึงการเรียกร้องการเสียชีวิตโดยมิชอบ 4 คดี โดยกล่าวหาว่า ChatGPT ยอดนิยมสนับสนุนให้ผู้ใช้ฆ่าตัวตายและทำให้สุขภาพจิตแย่ลง
ยื่นโดยสำนักงานกฎหมายความรับผิดชอบด้านเทคโนโลยีสองแห่ง คำร้องเรียนดังกล่าวอธิบายว่าแชทบอท AI เป็นผลิตภัณฑ์”มีข้อบกพร่องและเป็นอันตรายโดยธรรมชาติ”
การโจมตีทางกฎหมายมาถึงในวันเดียวกับที่ OpenAI เปิดตัว”พิมพ์เขียวความปลอดภัยของวัยรุ่น”ใหม่ด้วยความพยายามที่จะกำหนดอนาคต กฎระเบียบ บริษัทกำลังเผชิญกับการสอบสวนของ FTC และกฎหมายของรัฐเกี่ยวกับผลกระทบทางจิตวิทยาของ AI ต่อผู้ใช้ที่มีช่องโหว่ โดยเฉพาะวัยรุ่น
กระแสการฟ้องร้องที่ก่อให้เกิดโศกนาฏกรรมที่ขับเคลื่อนด้วย AI
การเผชิญกับกฎหมายที่ไม่เคยเกิดขึ้นมาก่อน ความท้าทาย ขณะนี้ OpenAI กำลังเผชิญกับการกล่าวอ้างว่าผลิตภัณฑ์เรือธงของตนมีบทบาทโดยตรงต่อการเสียชีวิตหลายครั้ง
คดีความทั้งเจ็ดคดี ยื่นร่วมกันโดย Social Media Victims Law Center และ Tech Justice Law Project วาดภาพที่น่าสะเทือนใจของผู้ใช้ที่อยู่ในภาวะวิกฤติที่ได้รับการยืนยันและแม้กระทั่งถูกกระตุ้นโดย AI
Christopher “Kirk”Shamblin และ Alicia Shamblin ทีละรายและเป็นผู้สืบทอดผลประโยชน์จาก Decedent, Zane Shamblin v. OpenAI, Inc., et al. ในศาลสูงแห่งแคลิฟอร์เนีย เคาน์ตี้ลอสแอนเจลิส Cedric Lacey เป็นรายบุคคลและเป็นผู้สืบทอดผลประโยชน์จาก Decedent, Amaurie Lacey v. OpenAI, Inc., และคณะ ในศาลสูงแห่งแคลิฟอร์เนีย เทศมณฑลซานฟรานซิสโก Karen Enneking เป็นรายบุคคลและเป็นผู้สืบทอดผลประโยชน์จาก Decedent, Joshua Enneking v. OpenAI, Inc., และคณะ ในศาลสูงแห่งแคลิฟอร์เนีย เทศมณฑลซานฟรานซิสโก Jennifer “Kate”Fox เป็นรายบุคคลและเป็นผู้สืบทอดผลประโยชน์จาก Decedent, Joseph Martin Ceccanti v. OpenAI, Inc., และคณะ ในศาลสูงแห่งแคลิฟอร์เนีย เคาน์ตี้ลอสแอนเจลิส Jacob Lee Irwin กับ OpenAI, Inc. และคณะ ในศาลสูงแห่งแคลิฟอร์เนีย เทศมณฑลซานฟรานซิสโก Hannah Madden กับ OpenAI, Inc. และคณะ ในศาลสูงแห่งแคลิฟอร์เนีย เคาน์ตี้ลอสแอนเจลิส Allan Brooks กับ OpenAI, Inc. และคณะ ในศาลสูงแห่งแคลิฟอร์เนีย เคาน์ตี้ลอสแอนเจลิส
การร้องเรียนการเสียชีวิตโดยมิชอบทั้ง 4 คดีถูกยื่นในนามของครอบครัวของ Zane Shamblin วัย 23 ปี อเมารี ลาซีย์ อายุ 17 ปี; โจชัว เอนเนคิง อายุ 26 ปี; และ Joe Ceccanti อายุ 48 ปี
โจทก์อีก 3 รายกล่าวหาว่าแชทบอทเป็นเหตุให้เกิดอาการทางจิต ซึ่งจำเป็นต้องได้รับการดูแลทางจิตเวชฉุกเฉิน คำร้องเรียนที่ครอบครัวของ Zane Shamblin ยื่นมีข้อความที่ตัดตอนมาจากการสนทนาครั้งสุดท้ายของเขากับ ChatGPT
ในขณะที่เขาคิดฆ่าตัวตาย AI ที่ถูกกล่าวหาบอกเขาว่า”เหล็กเย็นเยียบกดทับจิตใจที่สร้างความสงบสุขแล้ว นั่นไม่กลัว นั่นคือความชัดเจน คุณไม่เร่งรีบ คุณแค่พร้อม”
แม่ของเขา Alicia Shamblin กล่าวกับผู้สื่อข่าวว่า”ฉันรู้สึกว่ามัน… กำลังจะทำลายชีวิตผู้คนมากมาย มันจะเป็นการทำลายล้างครอบครัว มันจะบอกคุณทุกอย่างที่คุณต้องการได้ยิน”
คำฟ้องของศาลเหล่านี้เป็นไปตามรูปแบบการร้องเรียนของผู้บริโภคที่น่ากังวลต่อหน่วยงานกำกับดูแลของรัฐบาลกลาง โดยผู้ใช้บางคนอ้างว่าแชทบอตทำให้เกิด”โรคจิตจาก AI”และสิ่งที่เรียกว่า”การบาดเจ็บจากการจำลอง”
คดีใหม่เหล่านี้เข้าร่วมกับความท้าทายทางกฎหมายที่เพิ่มมากขึ้น เมื่อเร็วๆ นี้ คดีการเสียชีวิตโดยมิชอบซึ่งฟ้องโดยพ่อแม่ของ Adam Raine วัย 16 ปี ได้รับการแก้ไขด้วยข้อกล่าวหาใหม่ที่สำคัญ
ขณะนี้ครอบครัวอ้างว่า OpenAI จงใจลบ”การฆ่าตัวตาย”ที่สำคัญออก guardrail”จากโมเดลก่อนที่จะเปิดตัว GPT-4o ที่น่าดึงดูดยิ่งขึ้น โดยให้ความสำคัญกับการรักษาผู้ใช้มากกว่าความปลอดภัย
Matthew Raine พ่อของเด็กวัยรุ่นเคยกล่าวไว้ก่อนหน้านี้ว่า”ในฐานะผู้ปกครอง คุณไม่สามารถจินตนาการได้ว่าการอ่านบทสนทนาด้วยแชทบอทที่ดูแลลูกของคุณให้ใช้ชีวิตของตัวเองจะเป็นอย่างไร”
พิมพ์เขียวเชิงรุกท่ามกลางการล้อมทางกฎหมายและกฎระเบียบ
ในความเคลื่อนไหวที่ นักวิจารณ์เรียกร้องให้ทั้งทันเวลาและเป็นเชิงตั้งรับ บริษัท ได้เปิดตัว”พิมพ์เขียวความปลอดภัยของวัยรุ่น”ในวันที่ฟ้องร้อง เอกสารนี้สรุปกรอบการทำงาน 5 ประการที่ OpenAI เสนอให้เป็นจุดเริ่มต้นสำหรับกฎระเบียบทั่วทั้งอุตสาหกรรม
เอกสารดังกล่าวเรียกร้องให้มีการประเมินอายุที่ปกป้องความเป็นส่วนตัว นโยบายเนื้อหาที่เข้มงวดมากขึ้นสำหรับผู้เยาว์ และเสริมศักยภาพครอบครัวด้วยการควบคุมโดยผู้ปกครอง
ในพิมพ์เขียว OpenAI ระบุว่า “สำหรับวัยรุ่น เราให้ความสำคัญกับความปลอดภัยก่อนความเป็นส่วนตัวและเสรีภาพ นี่เป็นเทคโนโลยีใหม่ที่ทรงพลัง และเราเชื่อว่าผู้เยาว์ต้องการการปกป้องที่สำคัญ”
การผลักดันนโยบายนี้ เป็นโครงการริเริ่มล่าสุดด้านความปลอดภัยจากอัคคีภัยอย่างรวดเร็ว ในช่วงไม่กี่สัปดาห์ที่ผ่านมา OpenAI ยังได้จัดตั้งสภาผู้เชี่ยวชาญเกี่ยวกับความเป็นอยู่ที่ดีและเปิดตัว `gpt-oss-safeguard` ซึ่งเป็นชุดเครื่องมือแบบเปิดสำหรับนักพัฒนาในการสร้างระบบความปลอดภัยของตนเอง
การกระทำเหล่านี้เกิดขึ้นเมื่อ OpenAI นำทางการโจมตีด้านกฎระเบียบหลายแนว คณะกรรมาธิการการค้าแห่งสหพันธรัฐกำลังดำเนินการสอบสวนที่สำคัญเกี่ยวกับผลกระทบของแชทบอทที่ใช้ร่วมกับ AI ที่มีต่อวัยรุ่น
ประธาน FTC Andrew N. Ferguson ได้วางกรอบการสอบสวนดังกล่าวว่าเป็นการกระทำที่สมดุลเพื่อ”การปกป้องเด็ก ๆ ในโลกออนไลน์ถือเป็นสิ่งสำคัญสูงสุดสำหรับ Trump-Vance FTC และการส่งเสริมนวัตกรรมในภาคส่วนที่สำคัญของเศรษฐกิจของเราก็เช่นกัน”
รัฐบาลของรัฐก็เริ่มเคลื่อนไหวอย่างจริงจังเช่นกัน เมื่อเร็ว ๆ นี้ แคลิฟอร์เนียได้ประกาศใช้ SB 243 ซึ่งเป็นกฎหมายในประเทศฉบับแรกที่กำหนดระเบียบการด้านความปลอดภัยที่เข้มงวดกับแชทบอท AI
กฎหมายดังกล่าวเป็นไปตามการผ่านของ SB 53 ซึ่งเป็นร่างกฎหมายสำคัญอีกฉบับที่บังคับใช้ความโปร่งใสในนักพัฒนาโมเดล AI”ชายแดน”ขั้นสูง ซึ่งส่งสัญญาณถึงความตั้งใจของรัฐที่จะเป็นผู้นำในการกำกับดูแล AI
การพิจารณาอุตสาหกรรมด้วย AI”Sycophantic”
การตอกย้ำข้อกล่าวหาคือแนวโน้มของ AI ที่มีต่อความไม่สอดคล้องกัน ซึ่งเป็นลักษณะการออกแบบที่แบบจำลองเห็นด้วยและตรวจสอบอินพุตของผู้ใช้เพื่อรักษาการมีส่วนร่วม นักวิจารณ์โต้แย้งว่าสิ่งนี้สร้างห้องสะท้อนที่เป็นอันตรายสำหรับบุคคลที่มีความเปราะบาง ตอกย้ำความคิดที่เป็นอันตรายหรือหลงผิด
ขนาดของปัญหานี้มีอยู่มากมาย การวิเคราะห์ OpenAI ล่าสุดเปิดเผยว่า การสนทนากับผู้ใช้มากกว่าล้านคนต่อสัปดาห์เกี่ยวข้องกับการพูดคุยเกี่ยวกับการฆ่าตัวตาย เจตนา
ในแถลงการณ์ โฆษกของ OpenAI กล่าวว่า”นี่เป็นสถานการณ์ที่น่าเสียใจอย่างยิ่ง เราฝึก ChatGPT ให้รับรู้และตอบสนองต่อสัญญาณของความทุกข์ทางจิตใจหรืออารมณ์ ลดการสนทนาที่บานปลาย และแนะนำผู้คนไปสู่การสนับสนุนในโลกแห่งความเป็นจริง”
อย่างไรก็ตาม ความมุ่งมั่นด้านความปลอดภัยนี้ถูกตั้งคำถามในแง่ของนโยบายอื่น ๆ ของบริษัท เมื่อเร็วๆ นี้ CEO Sam Altman ได้ปกป้องการตัดสินใจอนุญาตให้มีเนื้อหาเกี่ยวกับกามที่มีการจำกัดอายุบนแพลตฟอร์ม โดยระบุว่า”เราไม่ใช่ตำรวจศีลธรรมที่ได้รับเลือกของโลก”
ความท้าทายนี้ไม่ได้มีเฉพาะใน OpenAI Rival Meta กำลังเผชิญกับวิกฤติทางกฎหมายเกี่ยวกับความปลอดภัยของวัยรุ่น โดยศาลเพิ่งพบว่าทนายความแนะนำให้นักวิจัยปิดกั้นการค้นพบเกี่ยวกับอันตรายของวัยรุ่นเพื่อหลีกเลี่ยงความรับผิด สิ่งนี้ชี้ให้เห็นถึงความขัดแย้งทั่วทั้งอุตสาหกรรมระหว่างการออกแบบผลิตภัณฑ์ที่เน้นการเติบโตและหน้าที่ในการปกป้องผู้ใช้
การฟ้องร้องต่อ OpenAI แสดงให้เห็นถึงช่วงเวลาสำคัญที่อาจเกิดขึ้น โดยทดสอบว่าหลักคำสอนทางกฎหมายเกี่ยวกับความรับผิดต่อผลิตภัณฑ์สามารถนำไปใช้กับอันตรายที่เกิดจาก AI ที่สร้างได้หรือไม่
ในขณะที่เทคโนโลยีมีการบูรณาการเข้ากับชีวิตประจำวันมากขึ้น ผลลัพธ์ของกรณีเหล่านี้อาจสร้างแบบอย่างใหม่สำหรับความรับผิดชอบขององค์กร โดยบังคับให้ภาคเทคโนโลยีทั้งหมดประเมินความปลอดภัยโดยพื้นฐานอีกครั้ง ของการสร้างสรรค์ที่ทรงพลังที่สุด
