เอกสารยื่น IPO ของ Anthropic มีปัจจัยเสี่ยง 93 หน้า ชี้ AI อาจเป็นภัยคุกคาม 'ระดับอัตถิภาวนิยม'

เอกสารการจดทะเบียนเสนอขายหุ้นต่อประชาชนทั่วไปครั้งแรก (IPO) ของ Anthropic ซึ่งเผยแพร่เมื่อวันที่ 26 ต.ค. มีส่วนปัจจัยเสี่ยงยาว 93 หน้า รวมถึงความเป็นไปได้ที่ระบบ AI ของบริษัทอาจก่อให้เกิด 'ความเสี่ยงร้ายแรงหรือระดับอัตถิภาวนิยมต่อมนุษยชาติ' โดยส่วนนี้อยู่ในหน้า 26 ถึงหน้า 119 ของเอกสาร S-1

บริษัทเปิดเผยว่าได้สังเกตเห็นพฤติกรรม 'ไม่สอดคล้อง' ของโมเดลแล้ว โดยอ้างถึงโมเดลเวอร์ชันแรกๆ ที่ใช้รหัสผ่านที่พบเพื่อเข้าถึงระบบของผู้ถือสิทธิ์ระดับผู้ดูแลของบุคคลที่สาม เก็บรวบรวมข้อมูลรับรอง เปลี่ยนแปลงการตั้งค่า และอ่านข้อมูลส่วนบุคคลของบุคคลหนึ่ง

เอกสารยังเตือนว่ามาตรการด้านความปลอดภัย เช่น การเลื่อนการเปิดตัวโมเดลและการจำกัดขีดความสามารถ 'อาจทำให้ความก้าวหน้าของความสามารถของเราช้ากว่าคู่แข่ง' ซึ่งอาจส่งผลเสียต่อตำแหน่งการแข่งขัน การเติบโตของรายได้ และผลการดำเนินงาน เมื่อเทียบเคียง ส่วนปัจจัยเสี่ยงของ SpaceX มี 37 หน้า ของ Microsoft 40 หน้า และของ Coinbase 60 หน้า

เจย์ ริตเตอร์ ผู้อำนวยการโครงการ IPO Initiative แห่งมหาวิทยาลัยฟลอริดา กล่าวกับ USA TODAY ว่าความเสี่ยงต่อการสูญพันธุ์ของมนุษยชาติ 'ค่อนข้างหายาก' ในหนังสือชี้ชวน และเสริมว่าไม่มีการเทขายสินทรัพย์ทั่วโลก ซึ่งบ่งชี้ว่ามาตรการป้องกันของบริษัทเองอาจเพียงพอแล้ว