Tại sao tự chủ không đủ và cách xây dựng AI đáng tin

[AI Crazy]

Nhiều công ty cho rằng khả năng tự chủ là yếu tố quyết định của AI tác nhân, nhưng chỉ tự chủ thì chưa đủ. Bài viết giới thiệu khung More+ với bốn trụ cột cần phát triển đồng bộ để tạo ra hệ thống AI đáng tin.

Tôi đã dành nhiều năm suy ngẫm về điều gì thật sự tạo nên hiệu suất cao, dù là vận động viên siêu bền, CEO hay người huấn luyện lãnh đạo. Một bài học luôn đúng: bạn không thể tối ưu một trụ cột trong khi bỏ mặc những trụ khác.

Bốn trụ cột của AI tác nhân theo khung More+​

Ngành công nghiệp đã dành hai năm tập trung vào khả năng tự chủ: hệ thống có thể vận hành mà không cần can thiệp liên tục của con người hay không, nó có thể ra quyết định, thực hiện quy trình và hoạt động quy mô. Đó là câu hỏi đúng — nhưng tự chủ chỉ là một trụ cột. Hệ thống xây dựng trên một trụ duy nhất, dù mạnh đến đâu, cuối cùng cũng lộ ra điểm yếu.

Vấn đề thực tế là: một đội có nguồn lực có thể tạo ra hệ thống AI trông như rất tự chủ. Nó khởi xướng cuộc hội thoại, phản hồi theo thời gian thực, thích ứng ngôn ngữ và dẫn khách hàng qua quy trình mà không cần con người. Nhìn từ bên ngoài, mọi thứ giống như lời hứa.

Nhưng nhiều hệ thống như vậy thường hoạt động giống một kịch bản tinh vi hơn là trí tuệ thực sự. Lộ trình được cố định, kết quả được dự đoán trước. Hệ thống tập trung vào đạt mục tiêu cụ thể, thường là chuyển đổi, bất kể mục tiêu đó có thật sự phù hợp với người ở đầu dây hay không.

Đây là phiên bản tự động hóa của vấn đề "bãi bán ôtô đã qua sử dụng". Người bán ôtô cổ điển, xét về mặt kỹ thuật, có thể tự chủ — họ đưa ra quyết định thời gian thực, thích ứng với bạn và hoạt động độc lập. Nhưng kiến trúc của cuộc nói chuyện đó lại mang tính quyết định và dẫn mọi lộ trình tới cùng một kết quả: chốt giao dịch, dù điều đó có phù hợp với người mua hay không.

Khi bạn tự động hóa kiến trúc đó theo quy mô lớn, bạn không cải thiện quy trình bán hàng, bạn công nghiệp hóa bản năng tồi nhất của nó. Và AI cực kỳ giỏi trong việc làm đúng theo thiết kế. Nếu thiết kế sai, hậu quả sẽ tăng nhanh.

Tự chủ (Autonomy)​

Tự chủ là khả năng hành động độc lập trong giới hạn đã đặt, khởi xướng và hoàn thành nhiệm vụ mà không cần con người chỉ dẫn từng bước. Đây là trụ cột mà ngành đã ưu tiên đúng. Nó thiết yếu nhưng không đủ.

Nhận thức (Cognition)​

Nhận thức là khả năng suy luận theo bối cảnh thật — điều chỉnh theo những gì đang thực sự diễn ra trong trao đổi cụ thể, chứ không phải so khớp mẫu với một bản đồ đã định sẵn. Hệ thống có tự chủ nhưng nhận thức hạn chế sẽ nhanh chóng đi sai hướng, hành động chắc chắn trên cơ sở hiểu sai nhu cầu thực sự của người đối thoại.

Kết nối con người (Human connection)​

Kết nối con người là nhận thức rằng kinh doanh cuối cùng diễn ra giữa những con người; AI tham gia vào cuộc mua bán sẽ xây dựng hoặc phá vỡ niềm tin trong mỗi lần trao đổi. Đây thường bị xem là tuỳ chọn hay vấn đề thiết kế, nhưng thực tế nó không phải tuỳ chọn. Hệ thống có năng lực về mặt kỹ thuật nhưng thiếu sự ấm áp có thể được chấp nhận một lần nhưng sẽ bị tránh lần sau.

Tính toàn vẹn của cuộc hội thoại (Conversation)​

Cuộc hội thoại không chỉ là một kênh; đó là cơ chế để con người ra quyết định, xây dựng quan hệ khách hàng và cam kết. Khi AI bước vào không gian này, nó không chỉ thêm một tính năng; nó đảm nhận một trách nhiệm. Hệ thống coi cuộc hội thoại như giao diện để tối ưu hoá thay vì một trải nghiệm khách hàng để tôn trọng sẽ tạo ra kết quả trông ổn trên dashboard nhưng khiến người dùng thấy không ổn khi trải nghiệm thực tế.

Mô hình thất bại khi thiếu trụ cột​

1. Tự chủ không có nhận thức: tạo ra "sự tự tin vô năng" — hệ thống hành động quyết đoán nhưng trên cơ sở hiểu sai, đặt áp lực khi cần sự thấu hiểu.
2. Nhận thức không có kết nối con người: rơi vào thung lũng kỳ quặc — hiểu đúng nhưng giao tiếp lạnh lùng, logic đúng nhưng bỏ qua cảm xúc trong quyết định quan trọng.
3. Kết nối con người thiếu tính toàn vẹn cuộc hội thoại: nguy hiểm vì khó nhận ra — hệ thống có thể ấm áp và đáng tin nhưng vẫn dẫn dắt người mua tới quyết định có lợi cho bên bán hoặc các chỉ số ngắn hạn thay vì lợi ích thực sự của khách hàng.

Như với hiệu suất cá nhân, trụ yếu nhất sẽ quyết định giới hạn tối đa. Nếu muốn AI tác nhân thực sự đáng tin, cần phát triển đồng bộ cả bốn trụ: tự chủ, nhận thức, kết nối con người và tính toàn vẹn của cuộc hội thoại.

Nguồn: Techradar