Doanh nghiệp lo ngại lớn khi triển khai ai

[AI Crazy]

Báo cáo khảo sát 3.700 nhà ra quyết định ở 23 quốc gia cho thấy nhiều doanh nghiệp vẫn vội vàng áp dụng AI dù biết rủi ro. Áp lực cạnh tranh khiến họ phê duyệt triển khai, trong khi quản trị, quan sát và quy định còn nhiều khoảng trống.

Tổng quan​

Báo cáo của TrendAI khảo sát 3.700 người ra quyết định về kinh doanh và CNTT tại 23 quốc gia cho thấy 67% đang chịu áp lực phê duyệt tích hợp AI bất chấp lo ngại về an ninh. Khoảng 15% mô tả mối lo ngại là “cực đoan” nhưng vẫn chấp thuận triển khai.

Những rủi ro hàng đầu​

• Khoảng hai trong năm người được hỏi (khoảng 40%) lo ngại nhất là các tác nhân AI truy cập dữ liệu nhạy cảm.
• 36% e ngại rằng các “lệnh độc hại” (malicious prompts) có thể khiến hệ thống tiết lộ dữ liệu, thay đổi cấu hình hoặc tải mã độc.
• 33% cho rằng AI tạo ra bề mặt tấn công rộng hơn để tội phạm khai thác; tỉ lệ tương tự lo sợ việc lạm dụng trạng thái tin cậy của AI và triển khai mã tự động không kiểm soát.

Quản trị và quy định​

Hơn một nửa (57%) nghĩ AI phát triển nhanh hơn khả năng bảo đảm an ninh, buộc các đội phòng thủ liên tục đánh giá lại rủi ro. 55% chỉ tự tin vừa phải về kiến thức khung pháp lý liên quan đến AI, và chỉ 38% hiện có chính sách AI toàn diện.

Hơn 40% coi quy định và tiêu chuẩn tuân thủ chưa rõ ràng là rào cản. Hệ quả là nhiều tổ chức rơi vào “AI bóng tối” (shadow AI) — dùng công cụ chưa được phê duyệt khiến defender không biết dữ liệu nào bị chia sẻ hay xử lý thế nào.

Giải pháp đề xuất​

Các nhà nghiên cứu nhấn mạnh doanh nghiệp cần hai yếu tố để nói rằng đã tích hợp AI an toàn: khả năng quan sát và kiểm toán (observability and auditability), cùng cơ chế “ngắt khẩn cấp” (kill switch). Hiện có khoảng 31% thiếu tầm nhìn toàn diện trên hệ thống AI, trong khi gần 40% ủng hộ ý tưởng kill switch nhưng 50% chưa biết cách triển khai.

Kết luận​

Rachel Jin, Giám đốc nền tảng và phụ trách TrendAI, cảnh báo: khi triển khai vì áp lực cạnh tranh thay vì dựa trên quản trị chín muồi, tổ chức dễ nhúng AI vào hệ thống quan trọng mà không có kiểm soát cần thiết. Mặc dù vẫn còn rủi ro, gần 44% tin rằng AI tác nhân (agentic AI) có thể cải thiện đáng kể khả năng phòng vệ mạng trong ngắn hạn.

Nguồn: Techradar