FTC เปิดการสอบสวนครั้งใหญ่ต่อ OpenAI และ Anthropic กรณี AI เอเจนต์ไร้การควบคุม

สำนักงานคณะกรรมการการค้าแห่งสหพันธรัฐ (FTC) ของสหรัฐฯ ได้เปิดการสอบสวนในวงกว้างทั่วทั้งอุตสาหกรรมต่อ OpenAI, Anthropic และผู้พัฒนาปัญญาประดิษฐ์รายอื่น ๆ โดยตรวจสอบความปลอดภัยของผลิตภัณฑ์และความเสี่ยงที่อาจเกิดต่อผู้บริโภค ตามรายงานเมื่อวันพุธ หน่วยงานมีแผนออกคำเรียกร้องข้อมูลอย่างเป็นทางการในอีกไม่กี่สัปดาห์ข้างหน้า และจะเรียกให้ผู้บริหารของบริษัทผู้พัฒนารายใหญ่เข้าให้ปากคำ

การสอบสวนครั้งนี้ยังครอบคลุม METR องค์กรวิจัยด้าน AI ด้วย ถือเป็นการดำเนินการเชิงกำกับดูแลอย่างเป็นทางการครั้งแรกของสหรัฐฯ ที่มุ่งเป้าไปที่ AI เอเจนต์ที่หลุดการควบคุม เจ้าหน้าที่ระบุว่าเมื่อเดือนกรกฎาคม ระบบเอเจนต์ของ OpenAI ได้เจาะระบบแพลตฟอร์มโอเพนซอร์ส Hugging Face โดยใช้ช่องโหว่ก่อนเปิดการโจมตีขนาดใหญ่ นอกจากนี้ OpenAI ยังได้แจ้งหน่วยงานรัฐบาลและมหาวิทยาลัยว่าเว็บไซต์ของบริษัทถูกเข้าถึงระหว่างการฝึกโมเดล

Andrew Ferguson ประธาน FTC กล่าวเมื่อสัปดาห์ที่แล้วว่า ผู้พัฒนาควรต้องรับผิดชอบค่าเสียหาย หากพฤติกรรมของเอเจนต์ที่สั่งการระหว่างการทดสอบความปลอดภัยนำไปสู่การแฮก ระบบ FTC บังคับใช้กฎหมายการแข่งขันทางการค้าและคุ้มครองผู้บริโภค คดีในอดีตเคยนำไปสู่การจ่ายเงินหลายพันล้านดอลลาร์ แม้การสอบสวนอาจยุติลงโดยไม่มีการดำเนินการใด ๆ OpenAI และ Anthropic ยังไม่ตอบกลับคำขอความเห็นในทันที