Meta dừng thử nghiệm tính năng gọi của Muse AI sau khi nhân viên con người xử lý cuộc gọi mà không thông báo cho người dùng

Meta Platforms đã tạm dừng thử nghiệm nội bộ tính năng gọi của trợ lý AI Muse sau khi Reuters đưa tin hôm thứ Ba rằng các cuộc gọi phức tạp được chuyển đến nhân viên tổng đài thuê ngoài mà người dùng không hề hay biết.

Một phó chủ tịch của Superintelligence Labs thừa nhận việc khởi động thử nghiệm mà không thông báo đầy đủ là một "sai lầm", theo các bài đăng nội bộ được Reuters trích dẫn.

Cơ chế "concierge con người" mở cho khoảng một nửa số nhân viên với quyền chọn không tham gia, chuyển các cuộc gọi khó đến nhà thầu đã qua đào tạo; những người này thực hiện cuộc gọi và trả lại bản ghi cùng tóm tắt. Dữ liệu nội bộ cho thấy các cuộc gọi do con người thực hiện có tỷ lệ thành công 95%-98%, so với tỷ lệ "thấp hơn" đối với cuộc gọi thuần AI.

Việc lộ dữ liệu riêng tư và một sự cố liên quan đến chủng tộc đã buộc phải dừng lại. Một nhân viên cho biết nhà thầu đã có phát ngôn phân biệt chủng tộc trong cuộc gọi, và vị phó chủ tịch đã xin lỗi và cam kết loại nhân viên đó khỏi các dự án của Meta. Nhân viên cảnh báo người dùng có thể vô tình chia sẻ dữ liệu nhạy cảm với con người, và chỉ một lỗi có thể làm rò rỉ thông tin.

Người phát ngôn của Meta, Daniel Roberts, nói rằng phản hồi "áp đảo tích cực". Một thập kỷ trước, trợ lý Messenger M của Meta cũng dựa vào con người cho khoảng 70% nhiệm vụ.