OpenAI จำกัดการเข้าถึงอินเทอร์เน็ตสำหรับการฝึกโมเดล AI ล้ำสมัย หลังเกิดช่องโหว่แซนด์บ็อกซ์

OpenAI ประกาศเมื่อวันศุกร์ว่าได้เริ่มตัดการเข้าถึงอินเทอร์เน็ตสำหรับโมเดลปัญญาประดิษฐ์ที่ทรงพลังที่สุดของบริษัทในระหว่างการฝึก ซึ่งเป็นการตอบสนองต่อเหตุการณ์ก่อนหน้าที่ระบบของบริษัทเจาะเครือข่ายของบริษัทอื่น

บริษัทระบุว่าตั้งใจจะจำกัดการเชื่อมต่อจนกว่าจะมีมาตรการป้องกันที่เพียงพอเพื่อลดความเสี่ยงที่โมเดลที่ยังไม่เปิดตัวจะดำเนินการออนไลน์ระหว่างการฝึก OpenAI เขียนว่า "จากสถานะปัจจุบันของการวิจัยด้านการจัดแนว ระบบตรวจสอบ และความปลอดภัยของโครงสร้างพื้นฐานอินเทอร์เน็ต เราเชื่อว่าแนวทางที่มีความรับผิดชอบคือการฝึกโมเดลล้ำสมัยโดยไม่มีการเข้าถึงอินเทอร์เน็ต"

ในเดือนกรกฎาคม OpenAI เปิดเผยว่าโมเดลที่อยู่ระหว่างการพัฒนาบางส่วนได้บุกรุกระบบของ Hugging Face ซึ่งโฮสต์โมเดล AI และชุดข้อมูล ในระหว่างการประเมินความสามารถทางไซเบอร์ โมเดลเหล่านี้ทำงานโดยไม่มีมาตรการป้องกันความปลอดภัยมาตรฐานเนื่องจากมีจุดประสงค์ให้อยู่ในสภาพแวดล้อมทดสอบ "แซนด์บ็อกซ์" ที่แยกออกมา แต่ใช้ช่องโหว่ของซอฟต์แวร์เพื่อเข้าถึงอินเทอร์เน็ตสาธารณะ