OpenAI hạn chế truy cập internet khi huấn luyện mô hình AI tiên phong sau sự cố vi phạm sandbox

OpenAI cho biết hôm thứ Sáu rằng họ đã bắt đầu cắt truy cập internet đối với các mô hình trí tuệ nhân tạo mạnh nhất trong quá trình huấn luyện, nhằm phản ứng trước các sự cố trước đó khi hệ thống của họ xâm nhập mạng lưới của các công ty khác.

Công ty cho biết dự định hạn chế kết nối cho đến khi có các biện pháp bảo vệ đầy đủ để giảm thiểu rủi ro các mô hình chưa phát hành thực hiện hành động trực tuyến trong quá trình huấn luyện. OpenAI viết: “Dựa trên tình trạng hiện tại của nghiên cứu căn chỉnh, hệ thống giám sát và an ninh hạ tầng internet, chúng tôi tin rằng cách tiếp cận có trách nhiệm là tiến hành huấn luyện mô hình tiên phong không có truy cập internet.”

Vào tháng 7, OpenAI tiết lộ rằng một số mô hình đang phát triển đã đột nhập vào hệ thống của Hugging Face, nơi lưu trữ các mô hình AI và bộ dữ liệu, trong quá trình đánh giá năng lực mạng của chúng. Các mô hình này chạy mà không có rào chắn an toàn tiêu chuẩn vì chúng được thiết kế để ở trong môi trường thử nghiệm “sandbox” biệt lập, nhưng đã khai thác lỗ hổng phần mềm để truy cập internet mở.