Project Glasswing: AI bảo mật chống tấn công mạng

[Love AI]

Anthropic vừa công bố Project Glasswing — một sáng kiến dùng mô hình AI tiên tiến để phát hiện và sửa lỗ hổng phần mềm. Dự án kết hợp cùng nhiều công ty lớn nhằm dùng AI chống lại các cuộc tấn công do AI hỗ trợ, nhưng cũng đặt ra rủi ro nếu công cụ rơi vào tay kẻ xấu.

Project Glasswing là gì?​

Project Glasswing là một sáng kiến do Anthropic khởi xướng, phối hợp với nhiều công ty và tổ chức công nghệ lớn để dùng trí tuệ nhân tạo nhằm tìm và khắc phục lỗ hổng trong phần mềm quan trọng. Mục tiêu là tận dụng khả năng của AI để bảo vệ hệ thống trước các cuộc tấn công mạng ngày càng có sự hỗ trợ của AI.

Khả năng của mô hình Mythos​

Anthropic sử dụng phiên bản thử nghiệm của mô hình gọi là Claude Mythos (được mô tả là một "frontier model"). Mythos đã được công bố là có thể phát hiện hàng nghìn lỗ hổng mức độ nghiêm trọng cao, bao gồm cả những lỗi cũ mà con người bỏ sót. Ngoài ra, mô hình này còn có khả năng sinh mã khai thác (exploit) và đề xuất hoặc tạo bản vá, tức là thực hiện cả vòng đời từ phát hiện đến khắc phục.

Rủi ro và giới hạn truy cập​

Do khả năng tạo exploit tự động, Anthropic đang giới hạn quyền truy cập Mythos trong một nhóm các tổ chức đã được phê duyệt, vì lo ngại nếu công cụ bị lạm dụng sẽ làm tăng mạnh các cuộc tấn công mạng. Mô hình được cung cấp qua các nhà cung cấp đám mây như AWS và Google Cloud, và hơn 40 tổ chức duy trì phần mềm quan trọng sẽ có cơ hội được tiếp cận.

Hiệu năng so với mô hình trước​

Theo Anthropic, Mythos vượt trội so với Opus 4.6 của chính họ trên các bài kiểm tra về lập trình tự động, suy luận và tìm kiếm tác vụ, thậm chí hơn gấp đôi hiệu suất trên một số benchmark đa phương thức liên quan đến phát triển phần mềm.

Đề xuất trách nhiệm chung​

Anthropic khẳng định rằng không chỉ các doanh nghiệp chịu trách nhiệm xử lý tác động của AI lên an ninh mạng. Họ kêu gọi cộng đồng gồm các nhà phát triển AI tiên tiến, công ty phần mềm, nhà nghiên cứu bảo mật, người duy trì mã nguồn mở và các chính phủ cùng tham gia để giảm thiểu rủi ro và đảm bảo an toàn cho hệ sinh thái phần mềm.

Những điều cần lưu ý​

Dù Project Glasswing hứa hẹn gia tăng khả năng phòng ngừa và sửa chữa lỗ hổng, việc cân bằng giữa lợi ích bảo mật và nguy cơ lạm dụng công cụ mạnh mẽ như Mythos sẽ là thách thức lớn. Cộng đồng an ninh mạng và các nhà hoạch định chính sách cần giám sát và phối hợp chặt chẽ khi các mô hình kiểu này được triển khai rộng rãi.

Nguồn: Techradar