Xây dựng lại niềm tin vào AI bằng ứng dụng có trách nhiệm

[Love AI]

Niềm tin vào AI đang suy giảm ngay khi nhiều doanh nghiệp đặt cược vào công nghệ này. Để AI mang lại giá trị thực và quy mô, cần áp dụng có trách nhiệm với quản trị, văn hóa và đào tạo phù hợp.

Vấn đề niềm tin​

Niềm tin vào AI đang bị xói mòn: nghiên cứu cho thấy 71% tổ chức vẫn do dự khi giao nhiệm vụ cho các tác nhân tự động trong môi trường doanh nghiệp. Trong khi đó, nhân viên cũng giảm sử dụng công cụ do nhà cung cấp cung cấp, với mức giảm khoảng 15% trong vài tháng gần đây.

Các hành vi tránh dùng công cụ chính thức tạo ra "AI bóng tối": theo nghiên cứu của Capgemini, 63% chuyên gia phần mềm đang dùng AI sinh tạo bằng công cụ không được ủy quyền hoặc không có quản trị. Điều này dẫn đến rủi ro bảo mật, lỗ hổng tuân thủ và kết quả không nhất quán, làm chậm quá trình triển khai thành công.

Mặt khác, có nơi lại đặt quá nhiều niềm tin mà thiếu nền tảng: IDC ghi nhận khoảng một phần ba doanh nghiệp ở Anh tin hoàn toàn vào AI, nhưng nhiều tổ chức trong số đó chưa bố trí khung quản trị, kiểm soát dữ liệu hay giám sát đạo đức. Trong bối cảnh luật pháp như EU AI Act, sai lầm có thể dẫn đến hậu quả nặng, lên tới 7% doanh thu toàn cầu cho một số trường hợp rủi ro cao.

Nguyên tắc để xây dựng niềm tin​

AI không chỉ là thuật toán tốt mà còn là cách nó được tích hợp vào quy trình và văn hóa. Để xây dựng niềm tin cần một cách tiếp cận toàn diện, kết hợp quản trị, minh bạch, đào tạo và hợp tác người-nhân tạo.

Quản trị phải đi trước thiết kế: khung quản lý vòng đời mô hình, nguồn gốc dữ liệu, đánh giá rủi ro, khả năng giải thích, giám sát con người và kiểm soát chất lượng liên tục cần được định nghĩa từ đầu thay vì bổ sung sau khi triển khai.

Minh bạch và đạo đức = niềm tin: người dùng sẽ tin khi họ hiểu AI hoạt động ra sao, vì sao nó đưa ra gợi ý và giá trị tổ chức được thể hiện trong hành vi của hệ thống. Đạo đức con người nên được đan xen vào các chỉ số vận hành, không chỉ là tài liệu kỹ thuật.

Thực hành cần thiết cho triển khai có trách nhiệm​

• Thiết lập khung quản trị rõ ràng từ giai đoạn thiết kế: quản lý vòng đời mô hình, kiểm soát truy cập dữ liệu và quy trình đánh giá rủi ro.
• Đảm bảo khả năng giải thích và minh bạch cho các quyết định quan trọng, đặc biệt với AI sinh tạo có rủi ro ảo tưởng (hallucination).
• Áp dụng giám sát con người cùng cơ chế human-in-the-loop cho các tác vụ then chốt và định nghĩa rõ trách nhiệm giữa người và máy.
• Đào tạo thực tế và phân định vai trò mới: đào tạo kỹ năng, vai trò như giám sát AI và chuyên gia human-in-the-loop để nhân viên cảm thấy được trao quyền thay vì bị thay thế.
• Kiểm soát và quản lý công cụ bên ngoài để giảm 'AI bóng tối': chính sách sử dụng, cơ chế phê duyệt công cụ và giám sát hoạt động.
• Giám sát, đánh giá và cải tiến liên tục: đo đạc hiệu suất, rủi ro và tác động để điều chỉnh chính sách khi mở rộng quy mô.

Kết luận​

Con đường tới lợi tức đầu tư từ AI là qua việc mở rộng quy mô — và quy mô chỉ xảy ra khi nền tảng lành mạnh. Quản trị chặt chẽ, minh bạch, văn hóa học hỏi và đào tạo thực tiễn không phải là rào cản của đổi mới mà là lợi thế cạnh tranh giúp triển khai AI an toàn, bền vững và được người dùng tin tưởng.

Nguồn: Techradar