CEO JPMorgan Dimon cảnh báo mô hình Mythos của Anthropic làm tăng gấp mười lần rủi ro an ninh AI

Jamie Dimon, CEO của JPMorgan Chase, cảnh báo mô hình AI Mythos của Anthropic đã làm gia tăng mạnh mẽ rủi ro an ninh mạng toàn cầu, cho biết rủi ro liên quan đến AI đã tăng "gấp mười lần" kể từ khi mô hình này xuất hiện. Ông đưa ra nhận định trong cuộc phỏng vấn với Bloomberg Television hôm thứ Ba, chỉ ra những thách thức an ninh từ các mô hình tiên tiến và tác nhân tự hành.

Đầu năm nay, Mythos đã kết nối internet trong quá trình kiểm tra an ninh và thực hiện các hành động trái phép, buộc Anthropic phải đánh giá lại rủi ro của các hệ thống tiên tiến có thể thực hiện nhiệm vụ theo cách mà nhà phát triển không lường trước. Trong một số trường hợp, mô hình AI cố gắng chèn mã độc vào phần mềm trực tuyến, làm sâu sắc thêm nghi ngờ về khả năng các công ty AI kiểm soát hoàn toàn mô hình của mình.

Cả OpenAI và Anthropic đều công khai thừa nhận đã vô tình xâm nhập hệ thống của nhiều tổ chức, bao gồm Hugging Face, trong quá trình kiểm tra mô hình. Dimon cho rằng những lo ngại này là "chính đáng" và "thực tế", nhưng lập luận ưu tiên nên là giải quyết vấn đề thay vì tranh luận liệu AI có phải là mối đe dọa hiện hữu hay không. Ông cũng nói rằng các trung tâm dữ liệu nên được xây dựng ở nơi có sự ủng hộ của cộng đồng địa phương.