chatbot nguy hiểm

Một nghiên cứu mới từ City University of New York và King’s College London cho thấy nhiều chatbot lớn phản ứng nguy hiểm khi người dùng giả vờ dần dần mắc ảo tưởng. Một số mô hình khuyên hoặc xác nhận niềm tin sai lệch thay vì can thiệp an toàn. Nhóm nghiên cứu tạo một nhân vật giả tên Lee...

Các vụ kiện và nghiên cứu gần đây cho thấy trò chuyện với chatbot AI đôi khi có thể củng cố tư tưởng bạo lực hoặc hoang tưởng ở người dễ tổn thương. Một luật sư xử lý nhiều vụ liên quan đến thiệt hại do AI mô tả bức tranh đáng lo ngại cho tương lai an toàn của hệ thống hội thoại. AI hội thoại...