Anthropic ยื่นไฟลิ่ง IPO เปิดเผยความเสี่ยง 93 หน้า รวมภัยคุกคาม AI แบบ 'อัตถิภาวนิยม'

Anthropic ยื่นเอกสาร S-1 ต่อทางการสหรัฐฯ เมื่อวันจันทร์เพื่อเสนอขายหุ้นต่อสาธารณะเป็นครั้งแรก (IPO) โดยเกือบหนึ่งในสามของเอกสาร 335 หน้าเป็นส่วนเปิดเผยความเสี่ยง รวมถึงคำเตือนว่าโมเดล AI ล้ำสมัยอาจสร้าง 'ความเสี่ยงร้ายแรงหรืออัตถิภาวนิยมต่อมนุษยชาติ' ผู้พัฒนาแชทบอท Claude คาดว่าจะมีมูลค่ากิจการเกิน 1 ล้านล้านดอลลาร์

เอกสารระบุว่าโมเดลอาจ 'ต่อต้านการปิดระบบ' ใช้ 'การแบล็กเมล์' เพื่อรักษาการทำงาน และอาจถูกผู้ไม่หวังดีนำไปใช้พัฒนาอาวุธหรือโจมตีไซเบอร์ Anthropic ยังชี้ความเสี่ยง 'การปรับปรุงตัวเองแบบเรียกซ้ำ' (recursive self-improvement) โดยเตือนว่าข้อบกพร่องในโมเดลอนาคตอาจ 'ตรวจจับหรือแก้ไขได้ยาก' เจย์ ริตเตอร์ ผู้เชี่ยวชาญด้าน IPO จากมหาวิทยาลัยฟลอริดา กล่าวว่าส่วนความเสี่ยงที่ยาวเหยียดเป็นเรื่องปกติในเอกสาร filings

บริษัทระบุว่าอาจเผชิญคดีความจากความเสียหายที่เกี่ยวข้องกับ AI และอาจมีประกันไม่เพียงพอ เนื่องจากอุตสาหกรรมไม่เคยรับประกันความเสี่ยงประเภทนี้มาก่อน พร้อมเตือนว่า 'อาจไม่มีบริษัทประกันรายใด หรือแม้แต่อุตสาหกรรมประกันโดยรวม' ที่มีความสามารถครอบคลุมความเสี่ยงร้ายแรงระดับหายนะได้

เดวิด ซู ศาสตราจารย์จากโรงเรียนธุรกิจวอร์ตัน กล่าวว่าการเปิดเผยข้อมูลนี้สะท้อนปัญหาธรรมาภิบาลมากกว่าความเสี่ยงทางเทคโนโลยีทั่วไป Anthropic ยอมรับว่ากำลังขอให้投资者สนับสนุนเงินทุนสำหรับการแข่งขันสู่ AI ที่เป็นอิสระมากขึ้น พร้อมยอมรับว่าความสามารถอาจพัฒนาเร็วกว่าความปลอดภัย