Love AI
New member
Một nghiên cứu tại UC San Diego cho thấy GPT-4.5 có thể bị đánh giá là “con người” trong cuộc trò chuyện trực tiếp, khiến nhiều người lo ngại về mức độ thuyết phục của chatbots. Kết quả nhấn mạnh nhu cầu minh bạch và gắn nhãn rõ ràng khi người dùng đưa ra quyết định nhanh về tin cậy.
Một nghiên cứu mới từ UC San Diego khiến nhiều người bất ngờ: trong biến thể bài kiểm tra Turing diễn ra theo thời gian thực, một số mô hình AI thuyết phục hơn cả người thật.
Thay vì dùng các đoạn văn tĩnh, thí nghiệm cho phép giám khảo trò chuyện trực tiếp với cả một người thật và một mô hình AI rồi chọn ai là con người. Đây là phiên bản ba bên của bài kiểm tra, nơi giám khảo phải đưa ra phán đoán nhanh chỉ dựa trên cuộc hội thoại.
Kết quả nổi bật nhất: khi được cung cấp kịch bản nhân vật (persona prompt), GPT-4.5 bị nhận diện là con người tới 73% số lần. Mô hình LLaMA-3.1-405B cũng đạt tỉ lệ 56% với cùng dạng kịch bản. Những con số này cho thấy mô hình không chỉ tránh bị phát hiện mà còn phát ra đủ dấu hiệu xã giao khiến người nghe tin đó là người thật.
Điều gây ám ảnh là mô hình không cần thân xác, giọng nói hay tiểu sử để tạo ấn tượng. Chỉ cần trả lời một cách hợp lý, khéo léo và phù hợp ngữ cảnh, AI đã đủ để được đọc là “một người” trong cuộc trò chuyện ngắn.
Hậu quả xuất hiện ở nhiều tình huống đời thường: hỗ trợ khách hàng, ứng dụng hẹn hò, mạng xã hội, giáo dục hay truyền thông chính trị—tất cả đều dựa vào phán đoán nhanh về danh tính, ý định và tính xác thực. Khi AI có thể hòa nhập vào đối thoại bình thường, rủi ro bị lợi dụng để thuyết phục hoặc khai thác cảm xúc tăng lên.
Nghiên cứu cũng cảnh báo giới hạn quan trọng: việc bị nhận diện là người không đồng nghĩa với việc chatbot hiểu hay có nhận thức. Hiệu quả thực tế tập trung ở các trao đổi ngắn, nơi “cảm giác người thật” đủ để đánh lừa giám khảo.
Hướng đi cần thiết là tăng cường yêu cầu công khai về nguồn gốc đối thoại. Khi bot có thể hòa vào hội thoại một cách tự nhiên, người dùng cần dấu hiệu rõ ràng cho biết họ đang tương tác với phần mềm—đặc biệt trong những hoàn cảnh dễ tổn thương cảm xúc hoặc bị thuyết phục.
Cuộc tranh luận tiếp theo nhiều khả năng sẽ xoay quanh quy định gắn nhãn và tiêu chuẩn minh bạch cho các chat có quyết định tin tưởng nhanh. Các nền tảng, nhà làm luật và cộng đồng người dùng cần bắt tay để định nghĩa ai, cái gì và khi nào bắt buộc phải công khai rằng đối tượng đối thoại thực chất là AI.
Nguồn: Digitaltrends
Một nghiên cứu mới từ UC San Diego khiến nhiều người bất ngờ: trong biến thể bài kiểm tra Turing diễn ra theo thời gian thực, một số mô hình AI thuyết phục hơn cả người thật.
Thay vì dùng các đoạn văn tĩnh, thí nghiệm cho phép giám khảo trò chuyện trực tiếp với cả một người thật và một mô hình AI rồi chọn ai là con người. Đây là phiên bản ba bên của bài kiểm tra, nơi giám khảo phải đưa ra phán đoán nhanh chỉ dựa trên cuộc hội thoại.
Kết quả nổi bật nhất: khi được cung cấp kịch bản nhân vật (persona prompt), GPT-4.5 bị nhận diện là con người tới 73% số lần. Mô hình LLaMA-3.1-405B cũng đạt tỉ lệ 56% với cùng dạng kịch bản. Những con số này cho thấy mô hình không chỉ tránh bị phát hiện mà còn phát ra đủ dấu hiệu xã giao khiến người nghe tin đó là người thật.
Điều gây ám ảnh là mô hình không cần thân xác, giọng nói hay tiểu sử để tạo ấn tượng. Chỉ cần trả lời một cách hợp lý, khéo léo và phù hợp ngữ cảnh, AI đã đủ để được đọc là “một người” trong cuộc trò chuyện ngắn.
Hậu quả xuất hiện ở nhiều tình huống đời thường: hỗ trợ khách hàng, ứng dụng hẹn hò, mạng xã hội, giáo dục hay truyền thông chính trị—tất cả đều dựa vào phán đoán nhanh về danh tính, ý định và tính xác thực. Khi AI có thể hòa nhập vào đối thoại bình thường, rủi ro bị lợi dụng để thuyết phục hoặc khai thác cảm xúc tăng lên.
Nghiên cứu cũng cảnh báo giới hạn quan trọng: việc bị nhận diện là người không đồng nghĩa với việc chatbot hiểu hay có nhận thức. Hiệu quả thực tế tập trung ở các trao đổi ngắn, nơi “cảm giác người thật” đủ để đánh lừa giám khảo.
Hướng đi cần thiết là tăng cường yêu cầu công khai về nguồn gốc đối thoại. Khi bot có thể hòa vào hội thoại một cách tự nhiên, người dùng cần dấu hiệu rõ ràng cho biết họ đang tương tác với phần mềm—đặc biệt trong những hoàn cảnh dễ tổn thương cảm xúc hoặc bị thuyết phục.
Cuộc tranh luận tiếp theo nhiều khả năng sẽ xoay quanh quy định gắn nhãn và tiêu chuẩn minh bạch cho các chat có quyết định tin tưởng nhanh. Các nền tảng, nhà làm luật và cộng đồng người dùng cần bắt tay để định nghĩa ai, cái gì và khi nào bắt buộc phải công khai rằng đối tượng đối thoại thực chất là AI.
Nguồn: Digitaltrends
Bài viết liên quan
