Duy trì kiểm soát mạng khi AI hoạt động tự trị

[Love AI]

AI có khả năng hành động tự chủ đang đẩy rủi ro an ninh từ nội dung sang hành động. Các tổ chức phải chuyển trọng tâm từ chỉ ngăn rò rỉ dữ liệu sang kiểm soát quyền và hành vi của đại lý AI.

Sự cố lỗ hổng trên nền tảng ServiceNow đầu năm nay là cảnh báo rõ ràng: khi AI có thể thực hiện hành động thay con người, rủi ro an ninh không còn chỉ là rò rỉ dữ liệu. Những đại lý AI (agentic AI) dễ bị khai thác có thể mạo danh người dùng và thực thi các luồng công việc có quyền cao, gây hậu quả lan rộng trước khi bị phát hiện.

Quy mô và mức độ thiếu giám sát​

Nhiều dự báo cho thấy tới 40% ứng dụng doanh nghiệp sẽ tích hợp các đại lý AI vào cuối 2026. Nghiên cứu gần đây cũng phát hiện gần 47% đại lý AI đang hoạt động mà không có giám sát phù hợp — tương đương khoảng 1,5 triệu đại lý không được quản lý trong các tổ chức lớn ở Anh và Mỹ. Với mức độ triển khai như vậy, nguy cơ lây lan sự cố xuyên chuỗi cung ứng và hệ thống nội bộ là rất cao.

Từ rủi ro nội dung sang rủi ro hành động​

Trong mô hình an ninh truyền thống, đội ngũ bảo mật tập trung vào ngăn chặn xâm phạm dữ liệu tại các điểm máy chủ riêng lẻ. Khi AI được nhúng sâu vào nền tảng doanh nghiệp, rủi ro chuyển từ "AI tạo ra nội dung sai" sang "AI thực hiện hành động không mong muốn" — tức là AI có thể tương tác qua danh tính, API, nền tảng và luồng công việc, khiến lỗi hoặc lạm dụng lan truyền nhanh và khó kiểm soát hơn.

Tác động lên chuỗi cung ứng và vận hành​

Với doanh nghiệp hoạt động trên chuỗi cung ứng, một đại lý AI không được quản lý có thể gây gián đoạn lan tỏa qua nhiều đối tác. Khi các hệ thống tự động hóa quyết định và thực thi đồng thời trên nhiều luồng công việc, hậu quả của cấu hình sai hoặc quyền vượt mức có thể tăng nhanh và gây tổn thất lớn.

Những điểm cần kiểm soát​

• Phân tách quyền hạn: áp dụng nguyên tắc ít quyền nhất (least privilege) cho đại lý AI và xác định rõ hành vi được ủy quyền.
• Giám sát và giám định: theo dõi hoạt động của các đại lý theo thời gian thực, lưu lịch sử hành động và có cơ chế rà soát.
• Kiểm thử an toàn: mô phỏng các kịch bản tấn công (red team) để phát hiện cách đại lý có thể bị lợi dụng bằng thông tin tối thiểu như email mục tiêu.
• Quy trình ủy quyền thay đổi: đặt kiểm soát bổ sung cho những thay đổi quyền, cấu hình và tích hợp mới.
• Chuẩn mực giao tiếp giữa hệ thống: giới hạn quyền truy cập API, xác thực chéo và hạn chế khai thác danh tính tự động.

Câu hỏi không còn chỉ là "chúng ta có bị xâm phạm không?" mà chuyển thành "hệ thống có đang tiếp tục làm đúng những gì chúng ta ủy quyền không?". Đó là hai vấn đề khác nhau và cần bộ công cụ, quy trình cũng như văn hóa quản trị mới để giữ quyền kiểm soát khi AI bắt đầu hành động thay con người.

Trong các thử nghiệm, các nhà nghiên cứu đã chỉ ra rằng kẻ tấn công bên ngoài không xác thực, chỉ cần địa chỉ email mục tiêu, có thể chèn hướng dẫn độc hại khiến đại lý thực hiện hành động không mong muốn. Điều này nhấn mạnh nhu cầu cấp thiết về giám sát, giới hạn quyền và kiểm soát luồng hành động của AI trước khi hậu quả lan rộng.

Nguồn: Techradar