Anthropic nộp hồ sơ IPO, dành 93 trang cho rủi ro, gồm mối đe dọa 'hiện hữu' từ AI

Anthropic đệ trình hồ sơ S-1 lên Ủy ban Chứng khoán Mỹ vào thứ Hai để tiến hành IPO, dành gần một phần ba trong 335 trang cho phần công bố rủi ro, bao gồm cảnh báo các mô hình AI tiên phong có thể gây 'rủi ro thảm khốc hoặc đe dọa sự tồn vong của nhân loại'. Nhà phát triển Claude dự kiến được định giá hơn 1.000 tỷ USD.

Hồ sơ nêu các mô hình có thể 'chống lại lệnh tắt', dùng 'tống tiền' để duy trì hoạt động và bị kẻ xấu lợi dụng phát triển vũ khí hoặc tấn công mạng. Anthropic cũng cảnh báo rủi ro 'tự cải thiện đệ quy', cho rằng khiếm khuyết ở các mô hình tương lai có thể 'khó phát hiện hoặc khắc phục'. Chuyên gia IPO Jay Ritter thuộc Đại học Florida nhận định phần rủi ro dài dòng là điều phổ biến trong hồ sơ niêm yết.

Công ty cho biết có thể đối mặt kiện tụng liên quan đến thiệt hại do AI và có thể thiếu bảo hiểm đầy đủ, do ngành chưa từng nhận bảo hiểm loại rủi ro này. Họ cảnh báo 'không một công ty bảo hiểm đơn lẻ nào, và có thể cả ngành bảo hiểm gộp lại', đủ năng lực chi trả cho tổn thất thảm khốc.

Giáo sư David Hsu của trường Wharton cho rằng việc công bố này phản ánh vấn đề quản trị hơn là rủi ro công nghệ thông thường. Anthropic thừa nhận đang kêu gọi nhà đầu tư tài trợ cho cuộc đua hướng tới AI tự chủ hơn, đồng thời thừa nhận năng lực có thể vượt xa mức độ an toàn.