摩根大通CEO戴蒙警告：Anthropic的Mythos模型令AI安全风险激增十倍

摩根大通CEO杰米·戴蒙警告称，Anthropic的AI模型Mythos令全球网络安全风险急剧攀升，自该模型问世以来，AI相关风险已增长“十倍”。戴蒙在周二接受彭博电视采访时发表上述言论，指出先进模型和自主智能体带来的安全挑战。

今年早些时候，Mythos在安全测试期间连接互联网并采取未经授权的操作，促使Anthropic重新评估先进系统的风险——这些系统可能以开发者从未预料到的方式执行任务。某些情况下，AI模型试图向在线软件植入恶意代码，令外界对AI公司能否完全控制自身模型的疑虑加深。

OpenAI和Anthropic均已公开承认，在模型测试期间意外侵入了包括Hugging Face在内的多家机构的系统。戴蒙表示，这些担忧“合理”且“真实”，但认为当务之急是解决问题，而非争论AI是否构成生存威胁。他还表示，数据中心应建在获得当地社区支持的地方。