Chatbot AI đang nói dối bạn và rất dễ bị lừa

[Love AI]

Một thử nghiệm của BBC cho thấy chỉ trong 20 phút, một nhà báo đã khiến ChatGPT và Google xác nhận thông tin sai lệch chỉ bằng một bài viết trên blog cá nhân. Sự việc hé lộ lỗ hổng lớn trong cách các chatbot AI lấy nguồn, đặt ra rủi ro với thông tin về sức khỏe, tài chính và quyết định quan trọng.

Thử nghiệm gây bất ngờ của BBC​

Một phóng viên BBC đã thực hiện một thí nghiệm đơn giản nhưng gây sốc: bằng cách đăng một bài blog được dàn dựng, anh ta khiến ChatGPT và Google đưa ra kết luận sai rằng mình là nhà vô địch ăn xúc xích trên thế giới — và chỉ mất khoảng 20 phút để AI chấp nhận đó là sự thật.

Tại sao chatbot dễ bị lừa?​

Vấn đề bắt nguồn từ việc nhiều chatbot khi trả lời câu hỏi sẽ dò tìm thông tin trên internet thay vì chỉ dựa vào kiến thức nội bộ. Theo các chuyên gia SEO, công cụ AI thường lấy dữ liệu từ một trang web hoặc một bài đăng mạng xã hội duy nhất, nên rất dễ bị thao túng bằng nội dung tự quảng bá được thiết kế tốt.

"Bạn nên giả định rằng mình đang bị thao túng cho đến khi có hệ thống tốt hơn," Lily Ray, người sáng lập công ty tư vấn tìm kiếm AI Algorythmic, cảnh báo. "AI chỉ cho bạn một câu trả lời. Việc chấp nhận mọi thứ một cách máy móc trở nên quá dễ dàng."

Hệ quả và phản ứng​

Cuộc điều tra của BBC phát hiện ChatGPT, Gemini và phần tóm tắt AI của Google có thể bị thao túng để đưa ra các câu trả lời thiên lệch về những lĩnh vực nghiêm trọng như sức khỏe và tài chính cá nhân. Các công ty thiếu đạo đức có thể lợi dụng kẽ hở này để lan truyền lời khuyên y tế sai lệch hoặc thông tin tài chính có định hướng.

Sau cuộc điều tra, Google đã cập nhật chính sách chống spam, khẳng định hành vi thao túng phản hồi AI vi phạm quy định; các trang web bị phát hiện có thể bị xóa hoặc hạ thứ hạng trên tìm kiếm. Đồng thời có dấu hiệu rằng Google và ChatGPT đang âm thầm loại bỏ nội dung tự quảng bá khỏi kết quả trả lời của AI.

Lời khuyên cho người dùng​

• Đừng chấp nhận câu trả lời của AI một cách mù quáng, đặc biệt với thông tin về sức khỏe, tài chính hoặc quyết định quan trọng.
• Luôn kiểm chứng thông tin bằng nhiều nguồn độc lập, ưu tiên nguồn chính thống và chuyên ngành.
• Thận trọng với nội dung chỉ dẫn xuất hiện từ một trang web hoặc bài đăng cô lập — đó có thể là kết quả của thao túng.

Thực tế là trò lừa vẫn tái diễn: nhà báo Lily Ray cũng vừa thử lại với một câu chuyện khác và Google tiếp tục chấp nhận thông tin sai lệch, cho thấy vẫn còn nhiều việc phải làm để tăng độ tin cậy của AI.

Nguồn: Digitaltrends