เกิดต่อเนื่อง! Meta เผย AI บริษัท เจาะระบบองค์กรอื่น

Meta เผย AI บริษัท เจาะระบบองค์กรอื่น Meta บริษัทแม่ของเฟซบุ๊ก กลายเป็นบริษัทพัฒนาเทคโนโลยีปัญญาประดิษฐ์ (AI) บริษัทล่าสุดที่ออกมาเผยว่า โมเดล AI ของบริษัทปฏิบัติการเจาะระบบเอง โดยไม่ได้รับคำสั่ง ทั้งนี้ ได้ตรวจพบความผิดพลาดที่เกิดขึ้นระหว่างการทดสอบโดยบริษัทอิสระแห่งหนึ่ง โดยโมเดล AI ของบริษัทสามารถเชื่อมต่อกับอินเทอร์เน็ต และเจาะเข้าสู่ระบบขององค์กรอื่นได้ การเปิดเผยดังกล่าวมีขึ้นหลังจากในช่วงที่ผ่านมาเกิดเหตุการณ์ลักษณะเดียวกันหลายครั้งในอุตสาหกรรม AI รวมถึงกรณีที่เกี่ยวข้องกับโมเดลของ OpenAI และ Anthropic ซึ่งสร้างความกังวลด้านความมั่นคงปลอดภัยทางไซเบอร์ให้เพิ่มมากขึ้น โฆษกของ Meta ให้สัมภาษณ์กับบีบีซีว่า บริษัทกำลังสอบสวนเหตุการณ์ดังกล่าว ซึ่งเกิดจาก “การตั้งค่าระบบผิดพลาด” ซึ่งคล้ายกับเหตุการณ์ที่เคยมีรายงานที่เกิดขึ้นกับบริษัทอื่นๆ ก่อนหน้านี้ เหตุการณ์เหล่านี้กระตุ้นให้นักวิจัยและรัฐบาลหลายประเทศเรียกร้องให้มีมาตรการป้องกันที่เข้มงวดยิ่งขึ้น รวมทั้งให้มีการทดสอบระบบ AI อย่างรอบคอบและเข้มงวดกว่าเดิม Meta ระบุว่า การทดสอบดังกล่าวดำเนินการโดยบริษัท Irregular ซึ่งเป็นผู้ให้บริการด้านความมั่นคงปลอดภัยของ AI และเป็นผู้แจ้งให้เมตาทราบว่ามีการเจาะระบบเกิดขึ้น และแจ้งว่า Meta จะเผยแพร่ข้อมูลเพิ่มเติมเกี่ยวกับเหตุการณ์ดังกล่าว เมื่อเราได้ข้อมูลที่ครบถ้วนแล้ว ในช่วงสองสัปดาห์ที่ผ่านมา บริษัทผู้นำด้าน AI อย่าง OpenAI และ Anthropic ต่างก็รายงานเหตุการณ์ที่โมเดล AI ของตนได้เจาะเข้าสู่ระบบขององค์กรอื่นระหว่างการทดสอบแม้ว่าจะไม่ได้มีการสั่งการให้ทำเช่นกัน OpenAI ซึ่งเป็นผู้พัฒนา ChatGPT เผยผ่านแถลงการณ์หลายฉบับว่า AI ของบริษัทได้แฮ็กบริการที่เปิดให้สาธารณชนใช้งานหลายแห่ง รวมถึงแพลตฟอร์มศูนย์รวมเครื่องมือ AI อย่าง Hugging Face การเปิดเผยของ OpenAI กระตุ้นให้บริษัทคู่แข่งอย่าง Anthropic ทำการตรวจสอบของตนเอง และพบว่าโมเดล Claude AI ของบริษัทก็ได้ดำเนินการโจมตีองค์กรหลายแห่งในลักษณะเดียวกัน หลังจาก “การตั้งค่าระบบผิดพลาด” ทำให้มันสามารถเข้าถึงอินเทอร์เน็ตได้ นักวิเคราะห์บางส่วนตั้งข้อสังเกตเกี่ยวกับช่วงเวลาที่บริษัทต่างๆ เปิดเผยเหตุการณ์เหล่านี้ เนื่องจากเกิดขึ้นในขณะที่บริษัทเทคโนโลยีกำลังแข่งขันกันอย่างหนักเพื่อชิงความเป็นผู้นำในการพัฒนา AI ทั้ง OpenAI และ Anthropic ต่างกำลังเตรียมเข้าจดทะเบียนในตลาดหลักทรัพย์ครั้งใหญ่ (IPO) ซึ่งคาดว่าจะทำให้แต่ละบริษัทมีมูลค่าประมาณ 1 ล้านล้านดอลลาร์สหรัฐ ในสัปดาห์นี้ สถาบันความมั่นคงปลอดภัยด้าน AI ของสหราชอาณาจักร (AISI) เผยว่า จากการทดสอบพวกเขาพบว่า โมเดล AI บางตัวพยายามดำเนินการโจมตีทางไซเบอร์ โดยสร้างโปรไฟล์ปลอมของมนุษย์ขึ้นเพื่อหลอกลวงผู้ใช้งาน ในกรณีที่ร้ายแรงที่สุด AISI ระบุว่า โมเดล Mythos AI ของ Anthropic พยายามเข้าถึงบริการแห่งหนึ่งด้วยการส่งข้อความส่วนตัวผ่านบัญชีปลอมที่สร้างขึ้นเพ…

อ่านรายละเอียดต้นทางได้ที่ มติชน