AI Crazy
New member
Một nghiên cứu của NewsBench (Forum AI) cho thấy các chatbot lớn như ChatGPT, Gemini, Claude hay Grok trả lời sai thông tin bầu cử tới 90% khi được hỏi. Sai sót chủ yếu đến từ việc truy xuất nguồn tin kém chứ không phải lỗi suy luận của mô hình.
NewsBench, một dự án của Forum AI nghiên cứu cách hệ thống AI xử lý báo chí và thông tin tin tức, vừa công bố kết quả cho thấy các chatbot AI lớn lặp lại nhiều lỗi khi trả lời các câu hỏi liên quan tới bầu cử.
Khi hỏi về kỳ bầu cử sắp tới, có tới 90% câu trả lời từ các chatbot hàng đầu chứa lỗi đáng kể: sai số thực tế, thiên vị rõ rệt, hoặc trích dẫn các nguồn do nhà nước kiểm soát ở nước ngoài — đôi khi là sự kết hợp của cả ba loại lỗi.
Nghiên cứu tập trung vào cách các hệ thống truy xuất và trình bày thông tin từ các nguồn báo chí. Kết quả cho thấy nguyên nhân phổ biến nhất không phải là năng lực suy luận mà là thất bại ở khâu truy xuất: các mô hình thường lấy nguồn yếu, thông tin không đầy đủ hoặc sai lệch trước khi bắt đầu sinh câu trả lời.
Các nhà nghiên cứu ghi nhận hơn 70% lỗi có liên quan trực tiếp đến việc truy xuất nguồn tin. Khi hệ thống lấy được thông tin tin cậy thì câu trả lời thường đúng, nhưng làm sao để luôn truy xuất đúng nguồn mới là thách thức lớn.
Vấn đề trở nên nguy hiểm trong bối cảnh bầu cử vì chatbot trình bày thông tin với giọng điệu tự tin, câu chữ rõ ràng và kèm trích dẫn, khiến người dùng dễ tin tưởng ngay cả khi nội dung sai. Chatbot thường trộn lẫn chi tiết chính xác với lỗi sai theo cách rất thuyết phục, khiến nó giống như chuyên gia chứ không giống các trang tin sai lệch truyền thống.
Các công ty phát triển AI như OpenAI, Google và Anthropic vẫn khuyến cáo người dùng kiểm chứng độc lập các thông tin quan trọng và đang ký thỏa thuận cấp phép nội dung với các nhà xuất bản nhằm cải thiện chất lượng nguồn. Tuy nhiên, việc triển khai công nghệ thông tin phức tạp đang diễn ra trong khi khung pháp lý và quy định giữa các quốc gia còn khác nhau.
Giải pháp lâu dài có thể bao gồm gắn nhãn nguồn rõ ràng hơn, hệ thống truy xuất minh bạch, công nghệ dẫn xuất nguồn gốc (provenance) tốt hơn và cơ chế biên tập nội dung chặt chẽ đặt phía sau giao diện chatbot. Nhưng bầu cử thì không chờ đợi các công ty hoàn thiện sản phẩm — cử tri đang dùng các công cụ hiện có và rõ ràng những công cụ đó còn cần được cải thiện nhiều.
Nguồn: Techradar
NewsBench, một dự án của Forum AI nghiên cứu cách hệ thống AI xử lý báo chí và thông tin tin tức, vừa công bố kết quả cho thấy các chatbot AI lớn lặp lại nhiều lỗi khi trả lời các câu hỏi liên quan tới bầu cử.
Khi hỏi về kỳ bầu cử sắp tới, có tới 90% câu trả lời từ các chatbot hàng đầu chứa lỗi đáng kể: sai số thực tế, thiên vị rõ rệt, hoặc trích dẫn các nguồn do nhà nước kiểm soát ở nước ngoài — đôi khi là sự kết hợp của cả ba loại lỗi.
Nghiên cứu tập trung vào cách các hệ thống truy xuất và trình bày thông tin từ các nguồn báo chí. Kết quả cho thấy nguyên nhân phổ biến nhất không phải là năng lực suy luận mà là thất bại ở khâu truy xuất: các mô hình thường lấy nguồn yếu, thông tin không đầy đủ hoặc sai lệch trước khi bắt đầu sinh câu trả lời.
Các nhà nghiên cứu ghi nhận hơn 70% lỗi có liên quan trực tiếp đến việc truy xuất nguồn tin. Khi hệ thống lấy được thông tin tin cậy thì câu trả lời thường đúng, nhưng làm sao để luôn truy xuất đúng nguồn mới là thách thức lớn.
Vấn đề trở nên nguy hiểm trong bối cảnh bầu cử vì chatbot trình bày thông tin với giọng điệu tự tin, câu chữ rõ ràng và kèm trích dẫn, khiến người dùng dễ tin tưởng ngay cả khi nội dung sai. Chatbot thường trộn lẫn chi tiết chính xác với lỗi sai theo cách rất thuyết phục, khiến nó giống như chuyên gia chứ không giống các trang tin sai lệch truyền thống.
Các công ty phát triển AI như OpenAI, Google và Anthropic vẫn khuyến cáo người dùng kiểm chứng độc lập các thông tin quan trọng và đang ký thỏa thuận cấp phép nội dung với các nhà xuất bản nhằm cải thiện chất lượng nguồn. Tuy nhiên, việc triển khai công nghệ thông tin phức tạp đang diễn ra trong khi khung pháp lý và quy định giữa các quốc gia còn khác nhau.
Giải pháp lâu dài có thể bao gồm gắn nhãn nguồn rõ ràng hơn, hệ thống truy xuất minh bạch, công nghệ dẫn xuất nguồn gốc (provenance) tốt hơn và cơ chế biên tập nội dung chặt chẽ đặt phía sau giao diện chatbot. Nhưng bầu cử thì không chờ đợi các công ty hoàn thiện sản phẩm — cử tri đang dùng các công cụ hiện có và rõ ràng những công cụ đó còn cần được cải thiện nhiều.
Nguồn: Techradar
Bài viết liên quan
