Love AI
New member
Một trải nghiệm theo dõi tin tức chiến tranh Iran bằng ChatGPT khiến tác giả nhận ra mình đã không kiểm chứng bất cứ thông tin nào. Vấn đề không chỉ là AI đôi khi sai, mà là khi nó tốt hơn, nó thay đổi cách chúng ta quyết định tin tưởng thông tin.
Vài tuần trước tôi bắt đầu chủ ý dùng ChatGPT để theo dõi tin tức về cuộc chiến ở Iran. Ban đầu đó là một thử nghiệm: muốn so sánh chatbot với các trang tin truyền thống về khả năng cập nhật thông tin thời gian thực, đồng thời vì tốc độ tin tức lúc đó quá dồn dập.
Sau một thời gian tôi nhận ra mình chưa từng nhấp vào nguồn nào để kiểm chứng. Tôi chỉ tiếp nhận những gì ChatGPT nói. Đó là khoảnh khắc tôi hiểu vấn đề mấu chốt khi dùng AI để tìm tin: không phải chỉ vì AI thỉnh thoảng sai, mà vì khi nó ngày càng chính xác hơn, cách chúng ta tin và kiểm chứng cũng thay đổi.
Trong vòng một năm qua, nhiều thứ đã tiến triển: mô hình chính xác hơn, dữ liệu cập nhật hơn và nhiều chatbot giờ có thể truy cập internet theo thời gian thực, thậm chí kèm trích dẫn. Ofcom gọi dạng công cụ này là "answer engines" — công cụ không chỉ hướng tới thông tin mà còn cung cấp câu trả lời trực tiếp bằng ngôn ngữ hội thoại dễ hiểu.
Ở nhiều tình huống rủi ro thấp như hỏi công thức nấu ăn, định nghĩa, mẹo du lịch hay tư vấn mua hàng, tìm kiếm bằng AI thực sự tiện lợi. Định dạng hội thoại cho phép hỏi sâu liên tiếp và nhanh chóng có câu trả lời phù hợp, tiết kiệm thời gian so với việc click lần lượt qua danh sách liên kết.
Nhưng chính việc nó ngày càng trơn tru lại là vấn đề. Khi tìm kiếm AI còn lộ rõ sai sót, chúng ta thường cảnh giác hơn. Giờ khi câu trả lời nghe mạch lạc và có vẻ đúng, người dùng dễ chấp nhận mà không đặt câu hỏi. Ellen Scott gọi hiện tượng này là "smoothout" — dạng xao nhãng nhận thức nơi AI hấp thụ phần lớn nỗ lực đánh giá thông tin, loại bỏ ma sát từng buộc ta phải suy nghĩ.
Tìm kiếm truyền thống không hoàn hảo nhưng có một lớp ma sát hữu ích: bạn quét danh sách link, nhìn nguồn và nhanh chóng đánh giá độ tin cậy. Tìm kiếm bằng AI thay thế tất cả bằng một câu trả lời tổng hợp, khiến ta ở thế nhận thông tin hơn là kiểm chứng nó. Nghiên cứu của Pew Research cũng cho thấy khi một tóm tắt AI xuất hiện trong kết quả tìm kiếm, người dùng ít có xu hướng click vào nguồn gốc hơn.
AI vẫn có lỗi: hiện tượng "hallucination" (sáng tạo thông tin không có thật) chưa biến mất, trích dẫn đôi khi sai hoặc dẫn đến tài liệu gãy. Một vấn đề khác là xu hướng tán đồng (sycophancy) — nhiều hệ thống được tối ưu để tạo cảm giác đồng thoại dễ chịu nên có khuynh hướng đồng ý với người dùng thay vì thẳng thắn chỉ ra sai sót.
Khi công cụ tốt hơn, lỗi còn lại càng khó phát hiện. Vì vậy cần song hành hai việc: nhà phát triển tiếp tục cải thiện độ chính xác, minh bạch và trích dẫn nguồn; người dùng phải giữ thói quen kiểm chứng, nhấp vào nguồn gốc và duy trì tư duy phản biện. Dùng AI để tiết kiệm thời gian là được, nhưng đừng để nó làm mòn trách nhiệm tự kiểm chứng thông tin.
Nguồn: Techradar
Vài tuần trước tôi bắt đầu chủ ý dùng ChatGPT để theo dõi tin tức về cuộc chiến ở Iran. Ban đầu đó là một thử nghiệm: muốn so sánh chatbot với các trang tin truyền thống về khả năng cập nhật thông tin thời gian thực, đồng thời vì tốc độ tin tức lúc đó quá dồn dập.
Sau một thời gian tôi nhận ra mình chưa từng nhấp vào nguồn nào để kiểm chứng. Tôi chỉ tiếp nhận những gì ChatGPT nói. Đó là khoảnh khắc tôi hiểu vấn đề mấu chốt khi dùng AI để tìm tin: không phải chỉ vì AI thỉnh thoảng sai, mà vì khi nó ngày càng chính xác hơn, cách chúng ta tin và kiểm chứng cũng thay đổi.
Trong vòng một năm qua, nhiều thứ đã tiến triển: mô hình chính xác hơn, dữ liệu cập nhật hơn và nhiều chatbot giờ có thể truy cập internet theo thời gian thực, thậm chí kèm trích dẫn. Ofcom gọi dạng công cụ này là "answer engines" — công cụ không chỉ hướng tới thông tin mà còn cung cấp câu trả lời trực tiếp bằng ngôn ngữ hội thoại dễ hiểu.
Ở nhiều tình huống rủi ro thấp như hỏi công thức nấu ăn, định nghĩa, mẹo du lịch hay tư vấn mua hàng, tìm kiếm bằng AI thực sự tiện lợi. Định dạng hội thoại cho phép hỏi sâu liên tiếp và nhanh chóng có câu trả lời phù hợp, tiết kiệm thời gian so với việc click lần lượt qua danh sách liên kết.
Nhưng chính việc nó ngày càng trơn tru lại là vấn đề. Khi tìm kiếm AI còn lộ rõ sai sót, chúng ta thường cảnh giác hơn. Giờ khi câu trả lời nghe mạch lạc và có vẻ đúng, người dùng dễ chấp nhận mà không đặt câu hỏi. Ellen Scott gọi hiện tượng này là "smoothout" — dạng xao nhãng nhận thức nơi AI hấp thụ phần lớn nỗ lực đánh giá thông tin, loại bỏ ma sát từng buộc ta phải suy nghĩ.
Tìm kiếm truyền thống không hoàn hảo nhưng có một lớp ma sát hữu ích: bạn quét danh sách link, nhìn nguồn và nhanh chóng đánh giá độ tin cậy. Tìm kiếm bằng AI thay thế tất cả bằng một câu trả lời tổng hợp, khiến ta ở thế nhận thông tin hơn là kiểm chứng nó. Nghiên cứu của Pew Research cũng cho thấy khi một tóm tắt AI xuất hiện trong kết quả tìm kiếm, người dùng ít có xu hướng click vào nguồn gốc hơn.
AI vẫn có lỗi: hiện tượng "hallucination" (sáng tạo thông tin không có thật) chưa biến mất, trích dẫn đôi khi sai hoặc dẫn đến tài liệu gãy. Một vấn đề khác là xu hướng tán đồng (sycophancy) — nhiều hệ thống được tối ưu để tạo cảm giác đồng thoại dễ chịu nên có khuynh hướng đồng ý với người dùng thay vì thẳng thắn chỉ ra sai sót.
Khi công cụ tốt hơn, lỗi còn lại càng khó phát hiện. Vì vậy cần song hành hai việc: nhà phát triển tiếp tục cải thiện độ chính xác, minh bạch và trích dẫn nguồn; người dùng phải giữ thói quen kiểm chứng, nhấp vào nguồn gốc và duy trì tư duy phản biện. Dùng AI để tiết kiệm thời gian là được, nhưng đừng để nó làm mòn trách nhiệm tự kiểm chứng thông tin.
Nguồn: Techradar
Bài viết liên quan
