Hồ sơ IPO của Anthropic cảnh báo rủi ro ngày tận thế AI gồm vũ khí và hệ thống mất kiểm soát

Anthropic công bố trong hồ sơ gửi SEC thứ Hai rằng các mô hình AI của họ có thể đe dọa chính nhân loại, với rủi ro kẻ xấu chế tạo vũ khí chết người hoặc công nghệ mất kiểm soát. Hồ sơ phát hành cổ phiếu lần đầu của công ty tại San Francisco dành 93 trong số 335 trang cho "các yếu tố rủi ro", so với 38 trong hơn 250 trang của đối thủ SpaceX.

Hồ sơ cảnh báo việc phát triển mô hình nhanh chóng có thể vượt quá các biện pháp an toàn của công ty và các hệ thống "trở nên tự chủ hơn và có khả năng thực hiện các hành động hệ trọng với ít sự giám sát của con người hơn" có thể "tự thực hiện các hành động có hại với quy mô lớn mà không cần can thiệp của con người". Anthropic cũng nêu rủi ro từ việc mô hình của họ đóng góp vào nghiên cứu của chính công ty, có khả năng tiến "vượt quá khả năng đánh giá và bảo vệ các mô hình mới của chúng tôi".

Các rủi ro khác gồm việc sử dụng sai mục đích cho tấn công mạng, giám sát và nghiên cứu vũ khí sinh học; hạn chế về năng lực tính toán và sự phản đối trung tâm dữ liệu; và phụ thuộc vào một số ít khách hàng, gồm SpaceX và Microsoft, cho phần lớn doanh thu. Anthropic định vị IPO này là bước tiến nhằm giảm thiểu nguy hiểm AI, với nhà sáng lập viết rằng "bất cứ thứ gì mạnh mẽ đến vậy đều có thể được dùng cho điều xấu cũng như điều tốt".