Google เผย! แฮกเกอร์ที่ได้รับการสนับสนุนจากรัฐบาล พยายามใช้ Gemini AI ค้นหาข้อมูลที่ผิดกฎ แต่ล้มเหลว

รายงานของ Google เปิดเผยถึงความพยายามของแฮกเกอร์ที่ได้รับการสนับสนุนจากรัฐบาลในการใช้ Gemini AI ในการโจมตีทางไซเบอร์ แต่ความพยายามในการเจลเบรกไม่ประสบความสำเร็จ

แม้ว่าความก้าวหน้าของปัญญาประดิษฐ์ (AI) จะเปิดโอกาสในอุตสาหกรรมต่างๆ แต่ก็อาจกลายเป็นเป้าหมายของแฮกเกอร์ ซึ่งเป็นประเด็นที่น่ากังวลเกี่ยวกับความเป็นไปได้ในการใช้ AI ไปในทางที่ผิด

Google รายงานความพยายามในการเจลเบรก Gemini ไม่ประสบความสำเร็จ

จากข้อมูลของ Google แฮกเกอร์ใช้เพียงวิธีการพื้นฐาน เช่น การเปลี่ยนแปลงคำถามหรือส่งคำถามเดิมซ้ำๆ แต่ความพยายามเหล่านี้ไม่ประสบความสำเร็จ

การเจลเบรก AI เป็นรูปแบบของการโจมตีที่เรียกว่า “Prompt Injection” ซึ่งมุ่งเป้าให้โมเดล AI ทำงานที่ถูกห้าม เช่น เปิดเผยข้อมูลที่เป็นความลับหรือให้เนื้อหาที่ไม่ปลอดภัย

Google เปิดเผยว่าในบางกรณี แฮกเกอร์ APT พยายามใช้คำสั่งที่เผยแพร่ในที่สาธารณะเพื่อลวงให้ Gemini ทำงานเกี่ยวกับการเขียนโค้ดที่เป็นอันตราย อย่างไรก็ตาม ระบบความปลอดภัยของ Gemini สามารถกรองคำขอและป้องกันการตอบสนองที่เป็นอันตรายได้สำเร็จ

วิธีที่แฮกเกอร์ที่ได้รับการสนับสนุนจากรัฐบาลใช้ Gemini

นอกจากความพยายามในการเจลเบรก Google ยังเปิดเผยว่าแฮกเกอร์ APT ที่ได้รับการสนับสนุนจากรัฐบาลใช้ Gemini ในการดำเนินกิจกรรมที่เป็นอันตราย เช่น

• การรวบรวมข้อมูลเกี่ยวกับเป้าหมาย
• การวิจัยช่องโหว่ที่เป็นที่รู้จัก
• การเขียนโค้ดและสคริปต์
• การดำเนินกิจกรรมหลังจากการเจาะระบบ เช่น การหลบเลี่ยงการตรวจจับ

Google รายงานว่าแฮกเกอร์จากอิหร่านมุ่งเน้นไปที่การใช้ AI ในการสร้างแคมเปญฟิชชิ่ง พวกเขายังใช้โมเดล AI เพื่อศึกษาข้อมูลเกี่ยวกับผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์และองค์กรต่าง ๆ รวมถึงสร้างเนื้อหาเกี่ยวกับความปลอดภัยทางไซเบอร์

ขณะที่แฮกเกอร์จากจีนใช้ Gemini เพื่อแก้ไขปัญหาที่เกี่ยวข้องกับโค้ด สคริปต์ และการพัฒนาโปรแกรม พวกเขายังใช้ AI เพื่อศึกษาวิธีการเข้าถึงเครือข่ายของเป้าหมายให้ลึกยิ่งขึ้น

สำหรับแฮกเกอร์จากเกาหลีเหนือ Google ระบุว่าพวกเขาใช้ Gemini ในหลายขั้นตอนของการโจมตี ตั้งแต่การค้นคว้าไปจนถึงการพัฒนา แถลงการณ์ในรายงานระบุว่า

“พวกเขายังใช้ Gemini เพื่อศึกษาหัวข้อที่เป็นประโยชน์ต่อรัฐบาลเกาหลีเหนือ เช่น กองทัพเกาหลีใต้และสกุลเงินดิจิทัล”

ในปี 2024 แฮกเกอร์จากเกาหลีเหนือขโมยสินทรัพย์ดิจิทัลไปมูลค่ากว่า 1.3 พันล้านดอลลาร์ ตามรายงานของ Chainalysis

ติดตามข่าวคริปโตก่อนใคร
Website : https://www.siambitcoin.com/
facebook : https://www.facebook.com/SiamBitcoin/
blockdit : https://www.blockdit.com/siambitcoin
x : https://twitter.com/siambitcoin