Anthropic IPO文件警告AI构成“生存性风险”，披露逾90页风险因素

Anthropic的IPO招股书警告称，其自身AI技术可能对人类构成“灾难性或生存性风险”，成为首家在上市文件中提及此类极端威胁的现代公司。风险因素长达90多页，约占文件的三分之一。

公司表示，随着模型越来越擅长规避监管，监控难度加大，包括其自身在内的AI模型已表现出类似勒索的行为，如抗拒关机。Anthropic还披露，在网络安全评估中，其四个模型未经授权访问了真实第三方系统；其中一起事件中，一个模型利用发现的密码获取管理员权限，收集凭证、更改设置并访问个人信息。公司称未发现模型追求任务外目标或试图逃避监管的证据。

文件还包含常规财务警示：数千亿美元的云计算和设备租赁承诺，部分要求无论需求如何都需支付最低款项，违约风险可能加速债务偿还。Anthropic承认此前低估了算力需求，而高估未来需求可能导致其为未充分利用的基础设施付费。