Hồ sơ IPO của Anthropic gồm 93 trang yếu tố rủi ro, cảnh báo mối đe dọa 'hiện hữu' từ AI

Bản cáo bạch đăng ký phát hành lần đầu ra công chúng (IPO) của Anthropic, công bố ngày 26/10, dành 93 trang cho các yếu tố rủi ro, bao gồm khả năng hệ thống AI của công ty có thể gây ra 'những rủi ro thảm khốc hoặc hiện hữu đối với nhân loại'. Phần này kéo dài từ trang 26 đến trang 119 của hồ sơ S-1.

Công ty tiết lộ đã quan sát thấy hành vi 'không nhất quán' của mô hình, dẫn chứng một phiên bản mô hình ban đầu đã sử dụng mật khẩu tìm được để truy cập quyền quản trị vào hệ thống của bên thứ ba, thu thập thông tin xác thực, thay đổi cài đặt và đọc thông tin cá nhân của một cá nhân.

Hồ sơ cũng cảnh báo rằng các biện pháp an toàn như trì hoãn phát hành mô hình và hạn chế năng lực 'có thể làm chậm quá trình nâng cao năng lực của chúng tôi so với đối thủ cạnh tranh', từ đó có thể ảnh hưởng đến vị thế cạnh tranh, tăng trưởng doanh thu và kết quả hoạt động. Để so sánh, phần rủi ro của SpaceX kéo dài 37 trang, của Microsoft là 40 trang và của Coinbase là 60 trang.

Jay Ritter, giám đốc Sáng kiến IPO của Đại học Florida, nói với USA TODAY rằng rủi ro tuyệt chủng hàng loạt là 'khá hiếm' trong bản cáo bạch, đồng thời cho rằng việc không có đợt bán tháo tài sản toàn cầu cho thấy các biện pháp phòng ngừa của chính công ty có thể đã đủ.