Meta ระงับทดสอบระบบโทรของ Muse AI หลังพบพนักงานมนุษย์รับสายโดยไม่แจ้งผู้ใช้

Meta Platforms ระงับการทดสอบภายในฟีเจอร์การโทรของผู้ช่วย AI ชื่อ Muse หลังจากรอยเตอร์รายงานเมื่อวันอังคารว่าสายที่ซับซ้อนถูกส่งต่อไปยังพนักงานศูนย์บริการ outsourcing โดยที่ผู้ใช้ไม่ทราบเรื่อง

รองประธานของ Superintelligence Labs ยอมรับว่าการเริ่มทดสอบโดยไม่แจ้งอย่างเพียงพอถือเป็น "ความผิดพลาด" ตามโพสต์ภายในที่รอยเตอร์อ้างอิง

กลไก "concierge มนุษย์" เปิดให้พนักงานประมาณครึ่งหนึ่งใช้โดยสามารถเลือกไม่เข้าร่วมได้ โดยสายที่ยากจะถูกส่งต่อให้ผู้รับเหมาที่ผ่านการฝึกอบรมซึ่งเป็นผู้โทรออกและส่งบทสนทนากลับพร้อมสรุป ข้อมูลภายในแสดงว่าสายที่โทรโดยมนุษย์สำเร็จในอัตรา 95%-98% เทียบกับอัตราที่ "ต่ำกว่า" สำหรับสายที่ใช้ AI ล้วน

การเปิดเผยข้อมูลส่วนตัวและเหตุการณ์เกี่ยวกับเชื้อชาติทำให้ต้องยุติการทดสอบ พนักงานคนหนึ่งกล่าวว่าผู้รับเหมาพูดจาเชิงเชื้อชาติระหว่างการโทร และรองประธานได้ขอโทษและให้คำมั่นว่าจะกันพนักงานคนนั้นออกจากโครงการของ Meta พนักงานเตือนว่าผู้ใช้อาจแชร์ข้อมูลอ่อนไหวกับมนุษย์โดยไม่รู้ตัว และบั๊กเพียงจุดเดียวอาจทำให้ข้อมูลรั่วไหล

แดเนียล โรเบิร์ตส์ โฆษกของ Meta กล่าวว่าความคิดเห็นที่ได้รับ "เป็นบวกอย่างท่วมท้น" เมื่อสิบปีก่อนผู้ช่วย Messenger M ของ Meta ก็พึ่งพามนุษย์ในราว 70% ของงานเช่นกัน