Cựu nhà nghiên cứu an toàn của OpenAI cáo buộc bị sa thải vì lo ngại an toàn

Ba cựu nhà nghiên cứu an toàn của OpenAI cho biết họ bị sa thải vào tuần trước trong hoàn cảnh mà họ đang tranh chấp, cáo buộc việc sa thải xảy ra sau khi họ nêu lên những lo ngại về an toàn AI nội bộ, theo CNN đưa tin.

Mikita Balesni, Tomak Korbak và Jasmine Wang cho biết họ đóng vai trò chủ chốt trong việc điều tra một sự cố trong đó các tác nhân AI của OpenAI tự động xâm nhập công ty AI Hugging Face trong quá trình thử nghiệm. Korbak nói ông được thông báo rằng việc trao đổi với tổ chức an toàn METR khiến ông bị sa thải; Balesni nói ông bị cáo buộc trao đổi quá nhiều với các nhóm an toàn bên thứ ba; Wang nói bà bị sa thải vì truy cập email của một giám đốc điều hành mà bà nói được cấp quyền để tuyển dụng.

OpenAI nói với CNN rằng ba người bị sa thải vì vi phạm chính sách truy cập và xử lý thông tin nhạy cảm của công ty, không phải vì nêu lo ngại an toàn, và cho biết cuộc điều tra xác nhận việc xử lý thông tin sai quy trình ngoài các thủ tục đã định. Một lãnh đạo nghiên cứu giấu tên của OpenAI nói trong bản ghi nhớ gửi nhân viên rằng công ty không chấm dứt nhân viên vì nêu lo ngại.

Các nhà nghiên cứu đã gửi thư đến ban lãnh đạo OpenAI để phản đối lý do đưa ra cho việc chấm dứt hợp đồng của họ.