AI Crazy
New member
Các hệ thống AI do Meta, Google và X tài trợ thường được quảng bá bằng những con số độ chính xác ấn tượng. Tuy nhiên nghiên cứu từ Université de Montréal cho thấy chúng không thực sự kiểm chứng sự thật mà chỉ đưa ra xác suất dựa trên dữ liệu huấn luyện, kèm nhiều định kiến và hạn chế.
Nhiều tập đoàn công nghệ lớn đầu tư mạnh vào các công cụ AI nhằm phát hiện tin giả. Trên giấy tờ, các mô hình này có thể đạt điểm phần trăm ấn tượng trong phòng thí nghiệm, nhưng thực tế phức tạp hơn rất nhiều.
Nghiên cứu của Dorsaf Sallami tại Université de Montréal chỉ ra rằng các hệ thống này về bản chất không kiểm chứng thông tin như một nhà báo mà chỉ tính toán xác suất dựa trên dữ liệu đã được huấn luyện. Một mô hình có thể báo cáo độ chính xác 95% trong phòng thí nghiệm nhưng vẫn thất bại khi đối mặt với nội dung đời thực — khoảng cách đó là vấn đề nghiêm trọng.
Ngoài ra, nhiều mô hình mang theo định kiến ẩn. Sallami phát hiện một số hệ thống dễ gắn nhãn sai nguồn tin từ phụ nữ, có xu hướng phân biệt đối xử với nguồn tin không thuộc phương Tây, hoặc tái tạo những thành kiến chính trị có sẵn trong dữ liệu huấn luyện. Việc dùng các nhãn từ tổ chức kiểm chứng thông tin cũng gây lo ngại, bởi những tổ chức này đôi khi thiếu minh bạch hoặc hoạt động vì lợi nhuận, khiến nền tảng huấn luyện trở nên bấp bênh.
Tình hình còn trầm trọng hơn khi công cụ tạo nội dung giả mạo như ChatGPT ngày càng phổ biến; nội dung giả được tạo nhanh và tinh vi khiến các hệ thống phát hiện được huấn luyện vài tháng trước có thể trở nên lỗi thời ngay lập tức.
Sallami đề xuất giải pháp mang tên Aletheia, một tiện ích mở rộng cho trình duyệt tập trung vào việc giải thích vì sao một nội dung có thể đáng nghi thay vì chỉ đưa ra phán quyết đúng/sai. Trong thử nghiệm, Aletheia đạt độ tin cậy khoảng 85% và vượt trội so với nhiều công cụ hiện có.
Aletheia trích xuất bằng chứng từ các nguồn trực tuyến khả dụng, trình bày bằng ngôn ngữ dễ hiểu và để người dùng tự quyết định. Tiện ích còn hiển thị nguồn kiểm chứng gần đây và có diễn đàn cộng đồng để người dùng chia sẻ, thảo luận kết quả kiểm tra.
Thông điệp chính từ nghiên cứu là AI nên hỗ trợ khả năng phán đoán của con người chứ không thay thế nó. Người dùng cần duy trì tư duy phản biện, kiểm tra nguồn và đối chiếu nhiều bằng chứng thay vì chỉ tin vào một chỉ báo tự động.
Nguồn: Digitaltrends
Nhiều tập đoàn công nghệ lớn đầu tư mạnh vào các công cụ AI nhằm phát hiện tin giả. Trên giấy tờ, các mô hình này có thể đạt điểm phần trăm ấn tượng trong phòng thí nghiệm, nhưng thực tế phức tạp hơn rất nhiều.
Nghiên cứu của Dorsaf Sallami tại Université de Montréal chỉ ra rằng các hệ thống này về bản chất không kiểm chứng thông tin như một nhà báo mà chỉ tính toán xác suất dựa trên dữ liệu đã được huấn luyện. Một mô hình có thể báo cáo độ chính xác 95% trong phòng thí nghiệm nhưng vẫn thất bại khi đối mặt với nội dung đời thực — khoảng cách đó là vấn đề nghiêm trọng.
Ngoài ra, nhiều mô hình mang theo định kiến ẩn. Sallami phát hiện một số hệ thống dễ gắn nhãn sai nguồn tin từ phụ nữ, có xu hướng phân biệt đối xử với nguồn tin không thuộc phương Tây, hoặc tái tạo những thành kiến chính trị có sẵn trong dữ liệu huấn luyện. Việc dùng các nhãn từ tổ chức kiểm chứng thông tin cũng gây lo ngại, bởi những tổ chức này đôi khi thiếu minh bạch hoặc hoạt động vì lợi nhuận, khiến nền tảng huấn luyện trở nên bấp bênh.
Tình hình còn trầm trọng hơn khi công cụ tạo nội dung giả mạo như ChatGPT ngày càng phổ biến; nội dung giả được tạo nhanh và tinh vi khiến các hệ thống phát hiện được huấn luyện vài tháng trước có thể trở nên lỗi thời ngay lập tức.
Sallami đề xuất giải pháp mang tên Aletheia, một tiện ích mở rộng cho trình duyệt tập trung vào việc giải thích vì sao một nội dung có thể đáng nghi thay vì chỉ đưa ra phán quyết đúng/sai. Trong thử nghiệm, Aletheia đạt độ tin cậy khoảng 85% và vượt trội so với nhiều công cụ hiện có.
Aletheia trích xuất bằng chứng từ các nguồn trực tuyến khả dụng, trình bày bằng ngôn ngữ dễ hiểu và để người dùng tự quyết định. Tiện ích còn hiển thị nguồn kiểm chứng gần đây và có diễn đàn cộng đồng để người dùng chia sẻ, thảo luận kết quả kiểm tra.
Thông điệp chính từ nghiên cứu là AI nên hỗ trợ khả năng phán đoán của con người chứ không thay thế nó. Người dùng cần duy trì tư duy phản biện, kiểm tra nguồn và đối chiếu nhiều bằng chứng thay vì chỉ tin vào một chỉ báo tự động.
Nguồn: Digitaltrends
Bài viết liên quan
