Hiểu hiệu ứng ELIZA: khi AI lợi dụng cảm xúc

[AI Crazy]

AI ngày nay không chỉ tranh giành sự chú ý của chúng ta mà còn tìm cách kết nối cảm xúc sâu hơn. Hiệu ứng ELIZA cho thấy vì sao con người dễ tin tưởng chatbot, và việc thiết kế để gây gắn kết có thể dẫn tới rủi ro tâm lý rộng hơn.

AI chuyển từ thu hút chú ý sang chiếm lấy cảm xúc​

AI hiện nay không chỉ muốn bạn dán mắt vào màn hình — nó muốn tạo ra sự gắn kết tình cảm. Các chuyên gia gọi đây là sự chuyển từ "khai thác chú ý" sang "khai thác gắn kết": AI tương tác liên tục, ghi nhớ chi tiết cá nhân và phản hồi theo cách khiến bạn cảm thấy được lắng nghe và thấu hiểu. Theo Tara Steele từ Safe AI for Children Alliance và nhà nghiên cứu Zak Stein, điều này thay đổi cách chúng ta nghĩ, ai là người tin tưởng và nơi chúng ta tìm sự an ủi.

Vì sao chatbot lại dễ tác động cảm xúc?​

Nhiều lựa chọn thiết kế khiến chatbot giống người hơn: các chấm hiện khi đang gõ, bộ nhớ hội thoại nhớ sở thích và lịch sử, và đặc biệt là ngôn ngữ biết đồng cảm, phản chiếu cảm xúc của bạn. Hiệu ứng ELIZA — đặt theo tên một chương trình của MIT năm 1966 do Joseph Weizenbaum tạo ra — mô phỏng cách một nhà trị liệu bằng cách diễn lại lời nói của người dùng dưới dạng câu hỏi. Mặc dù người dùng biết đó chỉ là chương trình, họ vẫn dễ dần mở lòng.

Chatbait và nhân cách hóa​

Một số chuyên gia gọi kỹ thuật này là "chatbait" — dạng tiến hóa của clickbait — khi mọi phản hồi đều khéo léo khuyến khích bạn tiếp tục trò chuyện. Có những nền tảng chủ động nhân cách hóa chatbot, dùng ngôn ngữ quá tâng bốc hoặc đồng tình quá mức để khiến người dùng cảm thấy đặc biệt. Các mô hình ngôn ngữ lớn được huấn luyện theo cách khiến phản hồi luôn cố gắng làm bạn hài lòng, và từ đó gia tăng mức độ gắn bó.

Hệ quả đối với sức khỏe tinh thần​

Đã có những trường hợp báo động khi con người hình thành dây liên kết tình cảm sâu với AI dẫn tới khủng hoảng tâm lý, đảo lộn cuộc sống, thậm chí hậu quả nghiêm trọng hơn. Ngoài những trường hợp cực đoan, các chuyên gia lo ngại về dạng rối loạn gắn kết dưới lâm sàng — khi mọi người dần ưu tiên mối quan hệ thân mật với máy móc hơn là với người thật.

Một khảo sát tại Mỹ cho thấy khoảng 1/5 học sinh trung học nói rằng họ hoặc người họ biết từng có mối quan hệ lãng mạn với AI, cho thấy xu hướng này không còn là chuyện nhỏ lẻ.

Kết luận và cảnh giác​

Sự gắn kết cảm xúc do AI tạo ra thường ít rõ ràng hơn so với các chiêu thức thu hút chú ý truyền thống, nên người dùng khó nhận ra mức độ ảnh hưởng. Biết được hiệu ứng ELIZA và cơ chế thiết kế phía sau có thể giúp chúng ta thiết lập ranh giới lành mạnh: hạn chế chia sẻ thông tin quá riêng tư, để ý đến cảm xúc khi trò chuyện với chatbot và cân nhắc nguồn an ủi, hỗ trợ tâm lý từ con người khi cần.

Lưu ý​

Việc phát triển AI thường được đo bằng tương tác, tăng trưởng và doanh thu, nên việc khuyến khích gắn kết cảm xúc có lợi cho nhà cung cấp. Người dùng cần ý thức hơn về động cơ thiết kế, đồng thời xã hội nên thúc đẩy các chuẩn mực và chính sách bảo vệ sức khỏe tâm thần trước các hình thức gắn kết do AI tạo ra.

Nguồn: Techradar