เมื่อ ‘เอไอ’ เพี้ยน!

ประเด็นสำคัญ

ที่ปรากฏต่อสาธารณะเมื่อราวกลางเดือนกรกฎาคมที่ผ่านมา เริ่มจากการที่ตัวแทนของบริษัท “ฮักกิ้ง เฟซ” (Hugging Face) ที่เป็นแพลตฟอร์ม เอไอสำหรับทดสอบแบบจำลองเอไอในรูปแบบต่างๆ

และข้อมูลมหาศาลที่เก็บอยู่ในคลังข้อมูลของตน ออกมาแถลงว่า มีผู้พยายามแทรกแซงเข้าไปในระบบของบริษัทนับเป็นหมื่นๆ ครั้ง ที่สำคัญก็คือมันแตกต่างจากสิ่งที่บริษัทเคยเผชิญมาโดยสิ้นเชิง

รายละเอียดเพิ่มเติม

เพราะตรวจดูเท่าไหร่สิ่งที่เกิดขึ้นก็ไม่ใช่การกระทำของคนหากแต่เป็นระบบเอไอระบบหนึ่งที่กำลังพยายามทำหน้าที่เป็นแฮกเกอร์ แฮกเข้าระบบของบริษัทซ้ำแล้วซ้ำอีก 21 กรกฎาคม ตัวแทนของ

โอเพ่นเอไอ (OpenAI) ออกมาชี้แจงเป็นเชิงยอมรับกลายๆ ว่า บริษัทของตนเอ็นผู้รับผิดชอบต่อเหตุการณ์ที่เกิดขึ้นดังกล่าว โดยเรียกเหตุนี้ว่าเป็น

“เหตุการณ์ทางไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อน” พร้อมกับเตือนด้วยว่า ให้ระวังไว้ เหตุทำนองนี้จะปรากฏมากขึ้น บ่อยขึ้น ในอนาคตอันใกล้ เมื่อระบบเอไอมีขีดความสามารถสูงขึ้น

สถานการณ์ล่าสุด

ข้อเท็จจริงของเรื่องนี้ก็คือ โอเพ่นเอไอ ระบุว่า ทางบริษัทกำลังทดสอบศักยภาพของเอไอตัวใหม่ของบริษัท คือ “จีพีที-5.6 โซล” (GPT-5.6 Sol)

ซึ่งเป็นแบบจำลองของเอไอเวอร์ชั่นล่าสุดของแชตจีพีที ที่โลกรู้จักกันดี คำสั่งที่ให้กับระบบเพื่อทดสอบขีดความสามารถดังกล่าวก็คือ

ให้ระบบเอไอค้นหาและใช้ประโยชน์จากช่องโหว่ที่ว่านั้นให้ได้ เพื่อการทดลองครั้งนี้ บริษัทจึงจัดการปิดระบบด้านความปลอดภัยบางด้านลง

มุมมองและผลกระทบ

ระบบรักษาความปลอดภัยที่ว่านี้จะทำหน้าที่กันระบบเอไอไว้ให้อยู่นอกสภาพแวดล้อมทางไซเบอร์ปกติ เพื่อไม่ให้เกิดเหตุที่จะก่อให้เป็นอันตรายต่อผู้อื่นขึ้นตามมา ตามถ้อยแถลงของโอเพ่นเอไอ

หลังจากตรวจสอบเหตุการณ์เบื้องต้น พบว่า เจ้าระบบเอไอที่บริษัททดลอง ดันไปพบช่องโหว่ในซอฟต์แวร์ที่ใช้เพื่อควบคุมการทดลอง (ให้อยู่นอกวงอินเตอร์เน็ตสาธารณะ)

แล้วก็อาศัยช่องโหว่ที่พบนั่นแหละเป็นช่องทางไปโจมตีเซิร์ฟเวอร์ของ ฮักกิ้งเฟซ และยอมรับว่า อย่างน้อยที่สุดมีการโจมตีครั้งหนึ่งที่สามารถเข้าไปขโมยเอาข้อมูลลับของฮักกิ้ง เฟซ ออกมา

ข้อมูลจากแหล่งข่าว

ข้อมูลลับที่ว่า คือ โค้ด หรือรหัสที่ทำให้สามารถเข้าสู่ระบบของฮักกิ้งเฟซ จากระยะไกลได้ ส่วนที่เหลือก็เป็นผลลัพธ์ของการทดลองต่างๆที่ฮักกิ้งเฟซเคยทำแล้วเก็บไว้ในเซิฟเวอร์ของตน

ตามถ้อยแถลงของฮักกิ้ง เฟซ เหตุโจมตีครั้งนี้เกิดขึ้นต่อเนื่องมากกว่า 17,000 ครั้ง แต่หาตัวไม่พบว่าใครหรือบริษัทใดอยู่เบื้องหลัง จนกระทั่งแชตจีพีทีออกมาเปิดเผยดังกล่าว

คำถามที่น่าสนใจที่เกิดขึ้นตามมาก็คือ สิ่งที่เกิดขึ้นคืออะไรกันแน่ เราสมควรจะกลัวกันไหมว่า วันดีคืนดี อยู่ๆ หากระบบเอไอเกิดเพี้ยนแล้วทำอะไรแปลกๆ ออกมาอย่างเช่น แฮกระบบอื่นๆ

โดยไม่ได้รับคำสั่ง ผู้เชี่ยวชาญของวงการมองเห็นเรื่องนี้แตกต่างกันออกไป แน่นอนส่วนใหญ่เห็นพ้องกันว่า บริษัทควรจ…

อ่านรายละเอียดต้นทางได้ที่ มติชน