กลุ่มแฮ็คที่ได้รับการสนับสนุนจากรัฐบาลจากอิหร่านจีนเกาหลีเหนือและรัสเซียกำลังหันไปใช้เครื่องมือ AI ที่เกิดขึ้นเช่น Google Gemini เพื่อปรับแต่งการดำเนินงานทางไซเบอร์ของพวกเขาตามรายงานใหม่จากกลุ่มข่าวกรองภัยคุกคามของ Google (GTIG)
การค้นพบ ระบุว่า AI ยังไม่ได้เปิดใช้งานแฮ็กเกอร์เพื่อสร้างวิธีการโจมตีแบบใหม่โดยพื้นฐาน แต่กำลังเพิ่มกลยุทธ์ที่มีอยู่โดยการปรับปรุงประสิทธิภาพระบบอัตโนมัติและความสามารถในการปรับขนาด การแสดงโฆษณาโฆษณาชวนเชื่อที่ได้รับการสนับสนุนเกี่ยวข้องกับไซเบอร์และอาจสังหาร
อิหร่าน: ฟิชชิ่งที่ขับเคลื่อนด้วย AI และไซเบอร์จารกรรม
ในบรรดานักแสดงไซเบอร์ที่ได้รับการสนับสนุนจากรัฐกลุ่มแฮ็คอิหร่านได้กลายเป็นผู้ใช้ที่ก้าวร้าวที่สุดของปัญญาประดิษฐ์ด้วย APT42 เป็นผู้นำในการดำเนินงานในการดำเนินงานไซเบอร์ AI-ASSISTED
Google ระบุว่าแฮ็กเกอร์ที่ได้รับการสนับสนุนจากรัฐอิหร่านนั้นใช้งานโดยเฉพาะในการใช้เครื่องมือ AI สำหรับแคมเปญหอก การลาดตระเวนและระบบอัตโนมัติทางวิศวกรรมสังคม/p>
หนึ่งในวิธีที่สำคัญที่สุด AI คือการเพิ่มประสิทธิภาพการดำเนินงานทางไซเบอร์ของอิหร่านคือผ่านฟิชชิ่ง ด้วยการควบคุมแบบจำลอง AI ที่เกิดขึ้นได้นักแสดงภัยคุกคามของอิหร่านสามารถสร้างอีเมลฟิชชิ่งที่น่าเชื่อถือสูงในหลายภาษารวมถึงภาษาอังกฤษฮีบรูและฟาร์ซี
ที่เกี่ยวข้อง: Ai-Assisted Ransomware Group Funksec ไดรฟ์ Cyberattacks ทำลายสถิติในเดือนธันวาคม 2567
อีเมลเหล่านี้ได้รับการออกแบบมาเพื่อปลอมตัวเป็นหน่วยงานที่เชื่อถือได้เช่นเจ้าหน้าที่รักษาความปลอดภัย นักการทูตและผู้บริหารระดับสูงทำให้พวกเขาตรวจจับได้ยากยิ่งขึ้นเมื่อเทียบกับความพยายามฟิชชิ่งแบบดั้งเดิม
ความซับซ้อนของเนื้อหาฟิชชิ่งที่สร้างขึ้นแบบ Ai ช่วยให้ผู้โจมตีสามารถปรับแต่งข้อความให้กับบุคคลหรือองค์กรที่เฉพาะเจาะจงเพิ่มโอกาสในการละเมิดที่ประสบความสำเร็จ การใช้ AI ช่วยให้ผู้โจมตีสามารถสร้างรูปแบบของข้อความฟิชชิ่งได้อย่างรวดเร็วช่วยให้พวกเขาหลบเลี่ยงการตรวจจับโดยระบบการกรองอีเมลที่ต้องใช้รูปแบบซ้ำ ๆ
นอกเหนือจากฟิชชิ่งกลุ่มอิหร่านยังใช้ AI สำหรับการดำเนินการลาดตระเวนโดยใช้ เพื่อรวบรวมข่าวกรองเกี่ยวกับสถาบันการป้องกันประเทศตะวันตก บริษัท รักษาความปลอดภัยทางไซเบอร์และหน่วยงานของรัฐ การลาดตระเวน AI-enhanced ช่วยให้แฮกเกอร์ชาวอิหร่านสามารถสแกนข้อมูลที่เปิดเผยต่อสาธารณะแยกรายละเอียดที่เกี่ยวข้องและระบุช่องโหว่ในโครงสร้างพื้นฐานดิจิตอลของเป้าหมาย
ระบบอัตโนมัติระดับนี้จะปรับปรุงกระบวนการรวบรวมข่าวกรองทำให้ผู้โจมตีสามารถระบุเป้าหมายที่มีมูลค่าสูงด้วยความเร็วและความแม่นยำมากขึ้น ความสามารถในการประมวลผลข้อมูลจำนวนมากยังช่วยในการทำแผนที่โครงสร้างองค์กรความสัมพันธ์ของบุคลากรและนโยบายความปลอดภัยทำให้แฮกเกอร์เข้าใจเป้าหมายได้อย่างลึกซึ้งยิ่งขึ้นก่อนที่จะเปิดตัวการโจมตี
พื้นที่อื่นที่แฮ็กเกอร์อิหร่านได้ใช้ประโยชน์จาก AI เป็นแคมเปญข้อมูลที่ผิด อิหร่านอาศัยการโฆษณาชวนเชื่อและการดำเนินงานที่มีอิทธิพลมานานเพื่อส่งเสริมวัตถุประสงค์ทางการเมืองและ AI ทำให้ง่ายต่อการผลิตแปลและแจกจ่ายเรื่องเล่าเท็จหรือทำให้เข้าใจผิด
ที่เกี่ยวข้อง: ฟิชชิ่ง อัตราการคลิกสามครั้งในปี 2567 เนื่องจากอาชญากรไซเบอร์ใช้ประโยชน์จาก AI
โดยการใช้เนื้อหาที่สร้างขึ้นใหม่นักแสดงชาวอิหร่านสามารถสร้างบทความข่าวปลอมโพสต์โซเชียลมีเดียที่จัดการและวิดีโอ Deepfake ที่ออกแบบมาเพื่อแสดงความคิดเห็นสาธารณะ เรื่องเล่า
รายงานชี้ให้เห็นว่าความพยายามที่ผิดเกี่ยวกับข้อมูล AI ได้กำหนดเป้าหมายไปที่ฝ่ายตรงข้ามตะวันออกกลางและผู้กำหนดนโยบายตะวันตกซึ่งสอดคล้องกับกลยุทธ์ทางการเมืองที่กว้างขึ้นของอิหร่านและสงครามทางจิตวิทยา
Google เน้นย้ำ มีการลงทุนโดยเฉพาะในการใช้ AI เพื่อสร้างอีเมลที่เป็นจริงและรับรู้บริบทที่ข้ามมาตรการตรวจจับแบบดั้งเดิม ความสามารถนี้ทำให้แคมเปญฟิชชิ่ง AI-ASSisted น่าเชื่อถือและยากที่จะบล็อกทำให้เกิดความกังวลเกี่ยวกับความสามารถในการป้องกันความปลอดภัยทางไซเบอร์แบบดั้งเดิมเพื่อให้ทันกับกลยุทธ์การพัฒนา
“ มากกว่า 30% ของการใช้ราศีเมถุนของนักแสดงชาวอิหร่าน APT นั้นเชื่อมโยงกับ APT42″ รายงานระบุว่าการเน้นขอบเขตที่ AI ได้กลายเป็นเครื่องมือสำคัญในการปรับกลยุทธ์ไซเบอร์ของอิหร่าน
P> หนึ่งในแง่มุมที่น่าเป็นห่วงมากที่สุดของการใช้ AI ของอิหร่านคือการใช้งานในการวิจัยช่องโหว่ การจัดการ (WinRM) และโปรโตคอลการเข้าถึงระยะไกล
โมเดล AI ช่วยในการวิเคราะห์เอกสารทางเทคนิคส่วนประกอบซอฟต์แวร์ด้านวิศวกรรมย้อนกลับและการทำนายเวกเตอร์การโจมตีที่อาจเกิดขึ้นทำให้แฮกเกอร์สามารถระบุจุดอ่อนที่มีประสิทธิภาพได้อย่างมีประสิทธิภาพมากขึ้นกว่าเดิม/p>
ที่เกี่ยวข้อง: Microsoft กล่าวว่าการโจมตีทางไซเบอร์ที่ขับเคลื่อน ข้อบกพร่องก่อนที่จะมีการพัฒนาแพตช์เพิ่มประสิทธิภาพของการโจมตีของพวกเขา
การค้นพบเหล่านี้สอดคล้องกับรายงานก่อนหน้านี้แสดงให้เห็นว่าแฮ็กเกอร์ที่ได้รับการสนับสนุนจากอิหร่านมักใช้ประโยชน์จากช่องโหว่เป็นศูนย์ต่อวัน ไม่มีการแก้ไขทันที
การใช้ประโยชน์จากช่องโหว่เหล่านี้ช่วยให้ผู้โจมตีสามารถเข้าถึงเครือข่ายองค์กรและรัฐบาลเริ่มแรกช่วยให้การบุกรุกเพิ่มเติมการลบข้อมูลหรือการก่อวินาศกรรม
การใช้ AI ในการลาดตระเวนการลาดตระเวนฟิชชิ่งและการวิจัยช่องโหว่แสดงให้เห็นว่าการปฏิบัติการไซเบอร์ของอิหร่านกำลังมีประสิทธิภาพมากขึ้นเป้าหมายและปรับขนาดได้เสริมความต้องการเร่งด่วนสำหรับมาตรการป้องกันขั้นสูงต่อภัยคุกคามไซเบอร์
จีน: การลาดตระเวนและการใช้ประโยชน์จากเครือข่าย AI-Assisted
กลุ่มแฮ็คที่ได้รับการสนับสนุนจากรัฐจีนได้หันไปใช้เทคนิคการลาดตระเวน AI และการใช้ประโยชน์จากเครือข่ายเพื่อเพิ่มประสิทธิภาพ ความสามารถในการจารกรรมไซเบอร์ของพวกเขา
ตามกลุ่มข่าวกรองภัยคุกคามของ Google (GTIG) การใช้ AI ของจีนได้มุ่งเน้นไปที่การรวบรวมข่าวกรองมากกว่าการโจมตีทางไซเบอร์ที่ทำลายล้างซึ่งเป็นการเสริมแนวทางระยะยาวในการแทรกซึมทางไซเบอร์
ซึ่งแตกต่างจากการพึ่งพา AI ของอิหร่านสำหรับฟิชชิ่งและวิศวกรรมสังคมแฮ็กเกอร์ของจีนได้ปรับใช้โมเดล AI เพื่อแมปเครือข่ายเป้าหมายวิเคราะห์ข้อมูลข่าวกรองและเพิ่มประสิทธิภาพการดำเนินงานหลังการตีความ
ของกลยุทธ์ไซเบอร์ที่ช่วย AI ของจีนเกี่ยวข้องกับการสแกนและทำแผนที่รัฐบาลสหรัฐฯและเครือข่ายการป้องกันเพื่อระบุช่องโหว่ที่สามารถใช้ประโยชน์จากการเข้าถึงอย่างต่อเนื่อง เครื่องมือ AI อนุญาตให้กลุ่มแฮ็คจีนทำการลาดตระเวนโดยอัตโนมัติเร่งกระบวนการวิเคราะห์โครงสร้างเครือข่ายการระบุจุดอ่อนและการจัดทำรายการปลายทางที่เปิดเผย
ความพยายามเหล่านี้ไม่ จำกัด เฉพาะโครงสร้างพื้นฐานเครือข่ายเพียงอย่างเดียว ผู้โจมตียังใช้ AI ในการประมวลผลและแยกข้อมูลเชิงลึกจากข่าวกรองโอเพ่นซอร์ส (OSINT) ช่วยให้พวกเขาสามารถระบุเจ้าหน้าที่ข่าวกรองเจ้าหน้าที่ป้องกันและเป้าหมายที่มีมูลค่าสูงอื่น ๆ
รายงาน GTIG ยืนยันว่าแฮ็กเกอร์จีน ได้ใช้ Google Gemini เพื่อช่วยในการค้นคว้าเป้าหมายทางทหารและรัฐบาลโดยมุ่งเน้นไปที่การรวบรวมหน่วยสืบราชการลับขององค์กรที่สามารถอำนวยความสะดวกในการจารกรรมระยะยาว แฮ็กเกอร์ค้นหาข้อมูลเกี่ยวกับบุคลากรทางทหารของสหรัฐอเมริกาผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์และคนในชุมชนข่าวกรองแสดงให้เห็นถึงความตั้งใจที่ชัดเจนในการเสริมสร้างการดำเนินงานต่อต้านการดำเนินงานของจีน
ai-driven การประมวลผล OSINT ได้ให้ความสามารถในการสแกนข้อมูลที่เปิดเผยต่อสาธารณชนจำนวนมากอย่างรวดเร็วทำให้ง่ายต่อการติดตามการเคลื่อนไหวของบุคลากรเข้าใจความสัมพันธ์ภายในหน่วยงานความมั่นคงและคาดการณ์ช่องโหว่ที่อาจเกิดขึ้น ในการดำเนินการลับ
นอกเหนือจากการลาดตระเวน AI มีบทบาทในการแสวงหาผลประโยชน์หลังการแข่งขันโดยแฮ็กเกอร์จีนพัฒนาสคริปต์ที่ออกแบบมาเพื่อเพิ่มสิทธิพิเศษขโมยข้อมูลรับรองและมาตรการรักษาความปลอดภัยปลายทาง รายงานของ Google ระบุว่านักแสดงชาวจีนใช้ราศีเมถุนเพื่อดำเนินการลาดตระเวนการเขียนสคริปต์และการพัฒนาเพื่อแก้ไขปัญหารหัสและการวิจัยวิธีการเข้าถึงเครือข่ายเป้าหมายที่ลึกซึ้งยิ่งขึ้น
สคริปต์ Ai-Generated ช่วยให้ผู้โจมตีสามารถปรับตัวเข้ากับการป้องกันความปลอดภัยได้อย่างมีประสิทธิภาพมากขึ้นโดยเฉพาะอย่างยิ่งเมื่อพยายามที่จะเข้าถึงระบบข่าวกรองที่มีมูลค่าสูง ความสามารถในการใช้ AI สำหรับการแก้ไขปัญหาสภาพแวดล้อมที่ถูกบุกรุกหมายความว่าผู้โจมตีสามารถปรับกลยุทธ์ของพวกเขาแบบเรียลไทม์หลีกเลี่ยงการตรวจจับและปรับแต่งเทคนิคของพวกเขาตามมาตรการความปลอดภัยที่สังเกตได้
หนึ่งในเหตุการณ์ที่น่าสังเกตมากขึ้น เป็นความพยายามของจีนในการแยกรายละเอียดภายในเกี่ยวกับโครงสร้างพื้นฐาน AI ของ Google หรือไม่ พบว่าแฮกเกอร์เป็นแบบสอบถามราศีเมถุนสำหรับข้อมูลระดับระบบรวมถึงรายละเอียดเกี่ยวกับเวอร์ชันเคอร์เนลที่อยู่ IP และการกำหนดค่าเครือข่าย
มาตรการรักษาความปลอดภัยของ Google ได้ปิดกั้นความพยายามเหล่านี้สำเร็จ แต่เหตุการณ์เน้นความสนใจของจีนในการทำความเข้าใจการทำงานภายในของระบบ AI ตะวันตก สิ่งนี้สอดคล้องกับความกังวลที่กว้างขึ้นว่าจีนอาจพยายามทำซ้ำหรือต่อต้านความก้าวหน้าของ AI ตะวันตกโดยการแทรกซึมสภาพแวดล้อมการวิจัยและพัฒนาเชิงพาณิชย์ในเชิงพาณิชย์
Google แนะนำว่ากลยุทธ์ไซเบอร์ของจีนให้ความสำคัญกับการแทรกซึมในระยะยาว ด้วยการประเมินข่าวกรองของสหรัฐอเมริกาก่อนหน้านี้ แทนที่จะเปิดตัวการโจมตีอย่างเปิดเผยที่อาจกระตุ้นการตอบโต้จีนดูเหมือนจะวางรากฐานสำหรับการเข้าถึงโครงสร้างพื้นฐานที่สำคัญของสหรัฐอเมริกาอย่างยั่งยืนเพื่อให้มั่นใจว่าสามารถใช้ประโยชน์จากการบุกรุกทางไซเบอร์สำหรับการรวบรวมข่าวกรองการจารกรรมทางเศรษฐกิจและความได้เปรียบเชิงกลยุทธ์ในความขัดแย้งทางการเมืองในอนาคต >
การค้นพบเหล่านี้แสดงให้เห็นว่า AI เร่งความเร็วของการจารกรรมไซเบอร์อย่างไรให้นักแสดงชาวจีนได้รับการปรับปรุงระบบอัตโนมัติเพิ่มความยืดหยุ่นในการปฏิบัติงานและความสามารถในการประมวลผลข่าวกรองที่ลึกซึ้งยิ่งขึ้น
ในขณะที่ Google ได้ดำเนินการตอบโต้เพื่อตรวจจับและป้องกันการใช้ AI ในทางที่ผิดความซับซ้อนที่เพิ่มขึ้นของการลาดตระเวน AI-ASSISTED และการแสวงประโยชน์จากเครือข่ายนำเสนอความท้าทายอย่างต่อเนื่องสำหรับความมั่นคงของชาติและผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ทั่วโลก แข็งแกร่ง> รัสเซีย: บทบาทน้อยที่สุดของ AI ในการแฮ็คที่ได้รับการสนับสนุนจากรัฐ
ในขณะที่กลุ่มแฮ็คที่ได้รับการสนับสนุนจากรัฐในจีนอิหร่านและเกาหลีเหนือได้นำปัญญาประดิษฐ์มาใช้อย่างรวดเร็วสำหรับการดำเนินงานทางไซเบอร์ ยังคงค่อนข้าง จำกัด ในกิจกรรมการแฮ็คโดยตรง
การวิเคราะห์ของ Google แสดงให้เห็นว่าแฮ็กเกอร์ที่ได้รับการสนับสนุนจากรัฐรัสเซียกำลังหลีกเลี่ยงแพลตฟอร์ม AI ตะวันตกเช่นราศีเมถุนหรือพึ่งพาโมเดล AI ที่พัฒนาขึ้นในประเทศเพื่อเหตุผลด้านความปลอดภัยในการดำเนินงาน ซึ่งแตกต่างจากประเทศอื่น ๆ ที่ใช้ประโยชน์จาก AI สำหรับฟิชชิ่งการแทรกซึมของเครือข่ายและการวิจัยช่องโหว่การมีส่วนร่วมของรัสเซียกับ AI ดูเหมือนจะเข้มข้นมากขึ้นในการสงครามข้อมูลและการหลอกลวงดิจิทัลมากกว่าการโจมตีทางไซเบอร์โดยตรง
รายงานของ Google ระบุว่ารัสเซียมีรายงานว่ารัสเซียมี ใช้เครื่องมือที่ขับเคลื่อนด้วย AI น้อยที่สุดสำหรับการดำเนินงานทางเทคนิคไซเบอร์ซึ่งแตกต่างอย่างสิ้นเชิงกับฟิชชิ่งและการลาดตระเวน AI ที่มีปริมาณสูงและการลาดตระเวนที่สังเกตได้ในอิหร่านและจีน
อย่างไรก็ตามแทนที่จะมุ่งเน้นไปที่การโจมตีโดยตรงนักแสดงชาวรัสเซียได้ทำการทดลองกับโฆษณาชวนเชื่อที่สร้างขึ้นด้วย Ai-Generated เทคโนโลยี Deepfake และการจัดการโซเชียลมีเดียอัตโนมัติโดยเฉพาะอย่างยิ่งเกี่ยวกับยูเครนนาโต้/p>
ตามรายงาน“ กิจกรรม AI ของรัสเซียดูเหมือนจะเข้มข้นอย่างไม่เป็นสัดส่วนในการดำเนินงานที่มีอิทธิพลมากกว่าเทคนิคการบุกรุกทางไซเบอร์” นี่แสดงให้เห็นว่ากลยุทธ์ไซเบอร์ของเครมลินยังคงมีรากฐานมาจากการโจมตีแบบมัลแวร์แบบดั้งเดิม Playbook ของแคมเปญการบิดเบือนข้อมูลที่มีมายาวนาน
แม้ว่าการมีส่วนร่วมของรัสเซียกับ AI ในการแฮ็คนั้นต่ำกว่าที่คาดไว้นักวิจัยของ Google ระบุว่านักแสดงชาวรัสเซียอาจเพิ่มการดำเนินงานทางไซเบอร์ที่มีอยู่/p>
ซึ่งหมายความว่าในขณะที่รัสเซียอาจไม่ได้ใช้ AI เพื่อสร้างวิธีการโจมตีทางไซเบอร์ใหม่ แต่ก็มีแนวโน้มที่จะปรับใช้ AI เพื่อให้มัลแวร์ตรวจจับได้ยากขึ้น เทคนิคการเข้ารหัส AI-enhanced สามารถช่วยให้ตัวแปรมัลแวร์หลีกเลี่ยงมาตรการรักษาความปลอดภัยแบบดั้งเดิมโดยการเปลี่ยนรูปแบบรหัสแบบไดนามิกวิธีการที่ได้รับการสังเกตในแคมเปญการคุกคามแบบถาวรขั้นสูง (APT) ที่เกิดจากกลุ่มแฮ็ครัสเซีย
ใน Realm จากการบิดเบือนข้อมูล AI ที่ขับเคลื่อนด้วยรัสเซียได้แสดงให้เห็นถึงวิธีการที่กระตือรือร้นและซับซ้อนมากขึ้น รายงาน GTIG เน้นว่าการดำเนินงานที่มีอิทธิพลของรัสเซียได้ใช้ประโยชน์จาก AI ในการสร้างและขยายการโฆษณาชวนเชื่อในระดับสร้างบทความข่าวสังเคราะห์บุคคลโซเชียลมีเดียที่สร้างขึ้นโดย AI นักแสดงภัยคุกคามของรัสเซียโดยใช้เนื้อหาที่สร้างขึ้นเพื่อปรับปรุงการส่งข้อความที่ได้รับการสนับสนุนจากรัฐและขยายการเข้าถึงแคมเปญอิทธิพลของพวกเขา”รายงานระบุว่า AI มีบทบาทในการทำให้เป็นอัตโนมัติและปรับความพยายามอันยาวนานของรัสเซียในการโฆษณาชวนเชื่อดิจิทัล
จุดสนใจหลักของการดำเนินงานที่มีอิทธิพลต่อ AI ของรัสเซียเป็นเรื่องเล่าเกี่ยวกับยูเครนและนาโต้ซึ่งได้รับการเผยแพร่อย่างกว้างขวางในแพลตฟอร์มโซเชียลมีเดีย นโยบายและบิดเบือนการรับรู้ของประชาชนเกี่ยวกับความขัดแย้งทางทหาร/p>
ในขณะที่รัสเซียไม่เต็มใจที่จะรวม AI เข้ากับการดำเนินการแฮ็คโดยตรงทำให้มันแตกต่างจากจีนและอิหร่านการใช้ AI อย่างหนักสำหรับแคมเปญอิทธิพลดิจิตอลเน้นวิธีการพัฒนาสงครามข้อมูล การค้นพบของ Google ระบุว่ารัสเซียอาจไม่ใช้ AI เพื่อบุกเข้าไปในระบบ-แต่มันใช้มันเพื่อกำหนดรูปแบบการเล่าเรื่องทั่วโลกจัดการกับความคิดเห็นของประชาชนและรักษากลยุทธ์การทำสงครามไฮบริด
AI ในการเข้าใจผิด และการดำเนินงานที่มีอิทธิพล
นอกเหนือจากการแฮ็ค AI จะใช้มากขึ้นสำหรับแคมเปญอิทธิพลที่ได้รับการสนับสนุนจากรัฐการบิดเบือนข้อมูลอัตโนมัติและการสร้างโฆษณาชวนเชื่อ ตามรายงานของ Google อิหร่านจีนและรัสเซียได้ทำการทดสอบ AI ทั้งหมดสำหรับความพยายามในการจัดการทางสังคม กลุ่มปฏิบัติการข้อมูลจีนและอิหร่าน (IO) มี:
ใช้เนื้อหาที่สร้างขึ้นด้วย AI-Generated สำหรับการส่งข้อความทางการเมือง ในหลายภาษา ใช้เทคนิค SEO ที่ขับเคลื่อนด้วย AI เพื่อขยายการมองเห็นข่าวปลอม การสร้างบุคคลอัตโนมัติ สำหรับการมีอิทธิพลต่อการอภิปรายโซเชียลมีเดีย
ตามรายงานของ Google ระบุว่า“ นักแสดง IO พยายามใช้ราศีเมถุนสำหรับการวิจัยการสร้างเนื้อหารวมถึงการพัฒนาบุคคลและการส่งข้อความการแปลและการแปลและเพื่อหาวิธีเพิ่มการเข้าถึงของพวกเขา”
รายงานก่อนหน้านี้แสดงให้เห็นว่า ข่าวปลอมที่สร้างขึ้นจาก Ai-Ai-Jenerated กำลังถูกนำมาใช้เพื่อบ่อนทำลายความเชื่อมั่นของประชาชน ในสถาบันประชาธิปไตย
ในขณะที่รัสเซียช้ากว่าที่จะใช้ AI สำหรับการแฮ็คโดยตรงอิทธิพลของมัน แคมเปญมีความก้าวหน้ามากขึ้นในการใช้งาน AI และรัฐบาลตะวันตก ระบบนิเวศ
มาตรการความปลอดภัยและการตอบสนองของ Google
Google ได้ดำเนินการตามขั้นตอนเชิงรุกเพื่อลดการใช้ AI ในทางที่ผิดโดยระบุว่าการควบคุมความปลอดภัยของราศีเมถุน การโจมตีทางไซเบอร์ขับเคลื่อน อย่างไรก็ตามภัยคุกคามที่เพิ่มขึ้นที่เกิดขึ้นจากโมเดล AI โอเพนซอร์สนั้นยากที่จะมี Google ได้ดำเนินการ:
การควบคุมความปลอดภัยในราศีเมถุน เพื่อป้องกันไม่ให้ AI สร้างรหัสที่เป็นอันตราย การยุติบัญชีสำหรับกิจกรรมกลุ่มแฮ็คที่ระบุ การติดตามการใช้ AI ในทางที่ผิดผ่านเฟรมเวิร์ก AI ที่ปลอดภัย (SAIF)
แต่ในขณะที่เคนต์วอล์คเกอร์หัวหน้าเจ้าหน้าที่กฎหมายของ Google เตือนว่า“ อเมริกาเป็นผู้นำในการแข่งขัน AI-แต่ข้อได้เปรียบของเราอาจไม่คงอยู่” สิ่งนี้เน้นย้ำถึงความต้องการเร่งด่วนสำหรับนโยบายความปลอดภัยของ AI.
ในขณะที่ AI ยังคงพัฒนาธรรมชาติการใช้งานแบบคู่จะสร้างทั้งโอกาสและความเสี่ยง การดำเนินงาน
