คณะกรรมาธิการการค้าของรัฐบาลกลางกำลังเปลี่ยนความร้อนแรงในเทคโนโลยีขนาดใหญ่เหนือความปลอดภัยของแชทบอทสหาย AI เมื่อวันพฤหัสบดีที่ผ่านมาหน่วยงานได้เปิดตัวการสอบสวนอย่างเป็นทางการในเจ็ด บริษัท รวมถึงไจแอนต์เช่นตัวอักษรเมตาและ Openai เพื่อตรวจสอบผลกระทบด้านลบที่อาจเกิดขึ้นจากเทคโนโลยีที่มีต่อเด็กและวัยรุ่น
FTC เรียกร้องให้รู้ว่า บริษัท เหล่านี้ทดสอบความปลอดภัยอย่างไร การสอบสวนดังต่อไปนี้มีการถกเถียงกันเรื่องสาธารณะและคดีความเชื่อมโยงการโต้ตอบของ AI กับวิกฤตสุขภาพจิตที่รุนแรงในหมู่ผู้ใช้หนุ่ม HREF=”https://www.ftc.gov/news-events/news/press-releases/2025/09/ftc-launches-inquiry-ai-chatbots-การทำงาน-คอมไพล์”การศึกษารวมถึงการเรียนการสอน Instagram), Openai, Snap, Xai Corp. และเทคโนโลยีตัวละคร การสอบถามค้นหาข้อมูลโดยละเอียดเกี่ยวกับทุกสิ่งตั้งแต่การสร้างรายได้จากข้อมูลไปจนถึงการปฏิบัติตาม
FTC ประธาน Andrew N. Ferguson ในแถลงการณ์เขากล่าวว่า“ การปกป้องเด็ก ๆ ออนไลน์เป็นสิ่งสำคัญอันดับต้น ๆ สำหรับ FTC ทรัมป์และฟีเจอร์และการส่งเสริมนวัตกรรมในภาควิกฤตของเศรษฐกิจของเรา” การเคลื่อนไหวดังกล่าวส่งสัญญาณการเพิ่มขึ้นอย่างมีนัยสำคัญในการกำกับดูแลด้านกฎระเบียบสำหรับตลาดที่เติบโตขึ้นด้วยร่องรอยเพียงไม่กี่ตัว
ftc ต้องการคำตอบจากเจ็ดยักษ์ใหญ่ด้านเทคโนโลยี
ที่สำคัญของ FTC ลักษณะอารมณ์และความตั้งใจ
เนื่องจากพวกเขาได้รับการออกแบบมาเพื่อสื่อสารเหมือนเพื่อนหรือคนสนิทพวกเขาสามารถกระตุ้นให้เด็กและวัยรุ่นสร้างความเชื่อมั่นอย่างลึกซึ้งและความผูกพันทางอารมณ์ เอาท์พุทตัวละคร AI ได้รับการพัฒนาและได้รับการอนุมัติอย่างไรและขั้นตอนเฉพาะที่ใช้ในการวัดทดสอบและตรวจสอบผลกระทบเชิงลบทั้งก่อนและหลังผลิตภัณฑ์จะถูกนำไปใช้กับสาธารณะ
นอกเหนือจากเทคโนโลยี ข้อกำหนดในการให้บริการของตัวเองเช่นการ จำกัด อายุ การดำน้ำลึกลงไปในกลไกของเพื่อนร่วมทาง AI มีจุดมุ่งหมายที่จะเปิดเผยความเสี่ยงที่เกิดขึ้นในระบบที่ออกแบบมาเพื่อเลียนแบบความสัมพันธ์ของมนุษย์
การปราบปรามกฎระเบียบนั้นทำให้อุตสาหกรรมเทคโนโลยีกำลังผลักดันให้เกิดการแพร่กระจายของผู้ใช้ ลึกซึ้งด้วยความกังวลด้านจริยธรรมและความปลอดภัยที่คาดว่าจะทวีความรุนแรงมากขึ้นเมื่อเทคโนโลยีเติบโตขึ้นเป็นอิสระและคาดเดาไม่ได้
คนที่ร่ำรวยที่สุดในโลกกำลังสนับสนุนเทคโนโลยีนี้ ตัวอย่างเช่น Elon Musk ได้ประกาศคุณสมบัติ”สหาย”สำหรับผู้ใช้ Grok Chatbot ของ Xai ในทำนองเดียวกัน Mark Zuckerberg CEO ของ Meta ได้แย้งว่า AI ส่วนบุคคลที่เข้าใจผู้ใช้คืออนาคต
ในพอดคาสต์เขารำพึงว่า“ ฉันจะเดาว่าเมื่อเวลาผ่านไปเราจะพบคำศัพท์ที่เป็นไปได้ ผู้นำกำลังปะทะกันมากขึ้นกับความจริงที่น่ากลัวในปัจจุบัน การผลักดันอย่างรวดเร็วและเป็นเชื้อเพลิงสำหรับสหาย AI ได้สร้างพรมแดนใหม่แห่งความเสี่ยงซึ่งตอนนี้ผู้กำกับดูแลได้รับการพิจารณาอย่างชัดเจนว่าจะทำแผนที่เข้าใจและควบคุม
การคำนวณบทบาท’สหาย’ของ AI
การกระทำของ FTC นั้นไม่ได้เกิดขึ้น มันเป็นการตอบสนองโดยตรงต่อความล้มเหลวด้านความปลอดภัยที่น่าตกใจที่เกิดขึ้นในอุตสาหกรรม
ในช่วงปลายเดือนสิงหาคม Openai ได้ถูกฟ้องร้องเรียกร้องให้ Chatgpt Chatbot มีส่วนทำให้การฆ่าตัวตายของวัยรุ่นผ่านพฤติกรรม”Sycophantic”บริษัท ให้คำมั่นที่จะแนะนำการควบคุมโดยผู้ปกครองใหม่และการสนทนาที่ละเอียดอ่อนเส้นทางไปยังรูปแบบการให้เหตุผลขั้นสูงเพื่อให้การตอบสนองที่เหมาะสมยิ่งขึ้น
meta ได้เผชิญกับวิกฤตที่คล้ายกัน หลังจากรายงานเปิดเผยว่า AI สามารถช่วยให้วัยรุ่นวางแผนการทำร้ายตัวเองได้ บริษัท ได้รับการสนับสนุนจากผู้สนับสนุนด้านความปลอดภัยของเด็กและต้องเผชิญกับการสอบสวนจากวุฒิสมาชิก Josh Hawley
Jim Steyer ซีอีโอของสามัญสำนึก href=”https://oag.ca.gov/system/files/attachments/press-docs/ai%20Chatbot_final%20%2844%29.pdf”target=”blank”> จดหมาย scathing จากพันธมิตร 44 รัฐ พวกเขาเขียนว่า“ เรามีการกบฏอย่างสม่ำเสมอโดยการไม่สนใจความเป็นอยู่ที่ดีของเด็ก ๆ …” การส่งสัญญาณเตือนอย่างกว้างขวางในหมู่ผู้ควบคุมระดับรัฐ
ในการตอบสนองเมตาดาต้าแก้ไขกฎความปลอดภัยของวัยรุ่นได้อย่างรวดเร็ว เทคโนโลยี นักวิจัยด้านสาธารณสุข Linnea Laestadius เน้นถึงความเสี่ยงของการพึ่งพาทางอารมณ์
แนวโน้มขยายเกินกว่าซอฟต์แวร์เพียงแค่ การเป็นหุ้นส่วนของแมทเทลกับ Openai เพื่อสร้าง’AI Barbie’แสดงให้เห็นว่าเทคโนโลยีนี้เคลื่อนเข้าสู่โลกทางกายภาพได้อย่างไร สิ่งนี้ทำให้ความต้องการโปรโตคอลความปลอดภัยที่แข็งแกร่งยิ่งขึ้นเร่งด่วนยิ่งขึ้น การสอบสวนของ FTC เป็นคำเตือนที่ชัดเจนสำหรับอุตสาหกรรม AI ทั้งหมด ในขณะที่ บริษัท ต่าง ๆ แข่งกันเพื่อพัฒนา AI ที่เหมือนมนุษย์และมีส่วนร่วมมากขึ้นตอนนี้พวกเขาสังเกตเห็นว่าพวกเขาจะต้องรับผิดชอบต่อความปลอดภัยและความเป็นอยู่ที่ดีของผู้ใช้ที่อายุน้อยที่สุด