Ai đánh giá con người như bảng tính

[AI Crazy]

Một nghiên cứu từ Đại học Hebrew cho thấy hệ thống AI có thể hình thành cái nhìn giống “niềm tin”, nhưng cách chúng đánh giá con người khác biệt căn bản so với con người. AI tách người thành các chỉ số riêng biệt — năng lực, chính trực, thiện chí — dẫn đến kết quả có thể có thiên vị hệ thống và khó phát hiện.

Tổng quan nghiên cứu​

Nghiên cứu của Đại học Hebrew, công bố trên Proceedings of the Royal Society, phân tích hơn 43.000 quyết định mô phỏng cùng khoảng 1.000 người tham gia thực tế trong năm kịch bản khác nhau. Các kịch bản bao gồm: quyết định cho một chủ doanh nghiệp nhỏ vay tiền, có nên tin tưởng một người trông trẻ, đánh giá một sếp, và quyết định quyên góp cho người sáng lập tổ chức phi lợi nhuận.

AI và cấu trúc của “niềm tin”​

Kết quả cho thấy các công cụ AI tạo ra thứ mà trông giống như niềm tin — tức là chúng ưu tiên những người có vẻ năng lực, trung thực và có thiện chí — nhưng cơ chế hoạt động khác biệt so với con người. Trong khi con người thường đưa ra đánh giá tổng thể, hòa trộn nhiều đặc điểm thành một ấn tượng trực giác, AI lại phân tích và chấm điểm từng đặc tính riêng rẽ, như những cột trong một bảng tính.

Sự khác nhau giữa phán đoán con người và AI​

Các tác giả nhấn mạnh: con người hay đánh giá một cách rối rắm và toàn diện, còn AI vận hành theo cách hệ thống hơn, “sạch” và có cấu trúc. Điều này dẫn tới những kết quả khác biệt ngay cả khi mọi thông tin khác về người được đánh giá là giống hệt nhau.

Thiên vị hệ thống và hậu quả thực tế​

Nghiên cứu phát hiện ra rằng AI có thể thể hiện thiên vị có cấu trúc: trong các kịch bản liên quan đến tài chính, những khác biệt chỉ dựa trên đặc điểm nhân khẩu học đã dẫn tới kết quả khác nhau. Người lớn tuổi thường được ưu ái hơn; tôn giáo ảnh hưởng mạnh trong các tình huống liên quan tiền bạc; và giới tính cũng tác động lên quyết định trong một số mô hình.

Không có một “ý kiến AI” duy nhất​

Một phát hiện quan trọng khác là không tồn tại một quan điểm AI chung: các mô hình khác nhau thường đưa ra nhận định khác nhau về cùng một người. Điều này có nghĩa là lựa chọn mô hình AI có thể âm thầm quyết định kết quả trong thế giới thực — việc dùng mô hình nào là rất quan trọng.

Ý nghĩa đối với tổ chức và xã hội​

Với việc các mô hình ngôn ngữ lớn đã và đang được dùng để sàng lọc ứng viên, đánh giá tín dụng, gợi ý hành động y tế và hỗ trợ quyết định tổ chức, hiểu được cách AI “suy nghĩ” về con người trở nên quan trọng. Nghiên cứu khuyến nghị cần nhận thức rõ về đặc tính hệ thống và thiên vị của AI — không phải để phản đối hoàn toàn AI, mà để biết cách theo dõi, kiểm soát và lựa chọn mô hình phù hợp.

Kết luận​

Tóm lại, AI có thể mô phỏng cấu trúc của đánh giá con người nhưng làm điều đó theo cách cứng nhắc hơn, ít tinh tế hơn và đôi khi thiên vị hơn. Thách thức đặt ra không còn là có nên tin AI hay không, mà là chúng ta có hiểu được cách AI tin tưởng và đánh giá chúng ta hay chưa.

Nguồn: Techradar