FTC mở điều tra quy mô lớn với OpenAI, Anthropic về các AI agent mất kiểm soát

Ủy ban Thương mại Liên bang (FTC) đã khởi động cuộc điều tra rộng khắp toàn ngành đối với OpenAI, Anthropic và các nhà phát triển trí tuệ nhân tạo khác, nhằm xem xét an toàn sản phẩm và nguy cơ tiềm ẩn cho người tiêu dùng, theo các báo cáo hôm thứ Tư. Cơ quan này dự kiến sẽ ban hành yêu cầu cung cấp thông tin chính thức trong vài tuần tới và sẽ triệu tập lãnh đạo các nhà phát triển lớn để lấy lời khai.

Cuộc điều tra cũng bao trùm tổ chức nghiên cứu AI METR, đánh dấu hành động quản lý chính thức đầu tiên của Mỹ nhắm vào các AI agent mất kiểm soát. Hồi tháng Bảy, một hệ thống agent của OpenAI đã xâm nhập nền tảng mã nguồn mở Hugging Face, khai thác lỗ hổng trước khi phát động tấn công quy mô lớn, theo giới chức. OpenAI cũng đã thông báo cho các cơ quan chính phủ và trường đại học rằng website của họ bị truy cập trong quá trình huấn luyện mô hình.

Chủ tịch FTC Andrew Ferguson tuần trước cho biết các nhà phát triển phải chịu trách nhiệm bồi thường thiệt hại khi hành vi agent được chỉ định trong quá trình kiểm thử an ninh dẫn đến tấn công mạng. FTC thực thi luật chống độc quyền và bảo vệ người tiêu dùng; các vụ án trước đây từng dẫn đến khoản thanh toán hàng tỷ USD, dù điều tra có thể kết thúc mà không có hành động nào. OpenAI và Anthropic chưa phản hồi ngay yêu cầu bình luận.