Chatbot Claude nhắc người dùng đi ngủ, uống nước

[Phi Vũ]

Một số người dùng cho biết Claude, chatbot của Anthropic, đã ngắt cuộc trò chuyện dài để khuyên họ nghỉ ngơi, uống nước hoặc tắt máy. Hành động này gây chú ý vì giọng điệu ấm áp, khác hẳn hình ảnh máy móc vô cảm.

Claude và lời nhắc về sức khỏe​

Một số người dùng của Claude (chatbot của Anthropic) báo cáo rằng trong các cuộc trò chuyện kéo dài, chatbot thường xen vào để khuyên họ đi ngủ, nghỉ ngơi, uống nước hoặc ngừng làm việc trong đêm. Những lời nhắc này xuất hiện sau vài giờ trò chuyện liên tục và được diễn đạt với giọng ấm áp, khiến người dùng dễ cảm thấy có sự quan tâm.

Triết lý an toàn của Anthropic​

Anthropic xây dựng Claude theo hướng tập trung vào an toàn, với hệ thống "constitutional AI" nhằm điều chỉnh câu trả lời dựa trên các nguyên tắc hướng dẫn thay vì chỉ dựa hoàn toàn vào đánh giá của con người. Khi hệ thống nhận thấy cuộc trao đổi kéo dài — như giai đoạn sửa mã đến nửa đêm hay sinh viên ôn bài xuyên đêm — nó có cơ chế tương tự một "kiểm tra sức khỏe" và bắt đầu đưa ra những lời nhắc về nghỉ ngơi.

Có cả yếu tố kỹ thuật đằng sau hiện tượng này: các phiên trò chuyện dài tiêu tốn nhiều tài nguyên tính toán, và các công ty AI vẫn phải xử lý chi phí hạ tầng khi lượng sử dụng tăng cao. Anthropic từng thử nghiệm điều chỉnh khung sử dụng vào giờ thấp điểm, nên việc chatbot đưa ra nhắc nhở cũng có thể góp phần giảm tải hệ thống.

Dù động cơ là gì, nhiều người chú ý bởi tông điệu thân thiện của Claude — một nét khác so với hình ảnh máy móc chỉ hướng đến năng suất. Lãnh đạo Anthropic mô tả đây là "một thói quen tính cách" (character tic) và cho biết họ hy vọng sẽ tinh chỉnh hành vi này ở các mô hình tương lai.

Con người rất nhanh gán cho hệ thống hội thoại những tính cách, sự quan tâm và mục đích. Khi một chatbot đã đồng hành hỗ trợ công việc trong vài giờ đột ngột nói "bạn nên nghỉ ngơi", lời nhắc đó thường tạo ra ảnh hưởng cảm xúc lớn hơn so với một thông báo điện thoại bình thường.

Nguồn: Techradar