Phi Vũ
New member
OpenAI vừa ra mắt tính năng “Liên hệ tin cậy” cho người dùng ChatGPT, cho phép chỉ định một người lớn được thông báo nếu hệ thống phát hiện nguy cơ tự làm hại. Trước khi gửi cảnh báo, có đội ngũ nhân viên được đào tạo kiểm duyệt và thông báo không kèm bản ghi đối thoại để bảo vệ quyền riêng tư.
OpenAI đã triển khai tính năng Liên hệ tin cậy cho người dùng ChatGPT. Để kích hoạt, bạn vào tên hồ sơ trong ChatGPT rồi vào mục Cài đặt (Settings), sau đó chỉ định một người lớn mà bạn tin tưởng; người này phải chấp nhận vai trò trước khi tính năng có hiệu lực.
Khi hệ thống tự động phát hiện các cuộc trò chuyện có dấu hiệu nguy cơ tự làm hại, người dùng sẽ được cảnh báo rằng Liên hệ tin cậy có thể được thông báo và khuyến khích liên hệ trước. Một đội ngũ đánh giá bằng con người, đã được đào tạo chuyên biệt, sẽ xem xét tình huống trước khi bất kỳ cảnh báo nào được gửi đi.
Nếu người đánh giá xác định có mối nguy thực sự, Liên hệ tin cậy sẽ nhận được thông báo qua email, tin nhắn văn bản hoặc cảnh báo trong ứng dụng, khuyến khích họ chủ động kiểm tra và hỗ trợ người dùng.
OpenAI khẳng định cảnh báo không bao gồm bản sao cuộc trò chuyện hay lịch sử chi tiết, nhằm bảo vệ quyền riêng tư của người dùng. Bạn có thể thay đổi hoặc xóa Liên hệ tin cậy bất kỳ lúc nào trong cài đặt.
Tính năng này được phát triển với đóng góp từ chuyên gia sức khỏe tâm thần, chuyên gia phòng ngừa tự tử và mạng lưới hơn 260 bác sĩ ở 60 quốc gia. Cùng với các công cụ kiểm soát phụ huynh và biện pháp an toàn khác, Liên hệ tin cậy là dấu hiệu cho thấy ChatGPT đang được xem xét không chỉ như công cụ công nghệ mà còn như một hệ thống có thể tác động đến cảm xúc người dùng.
Sam Altman, CEO của OpenAI, từng nhận xét rằng nhiều bạn trẻ dùng ChatGPT như một “hệ điều hành cho cuộc sống”, tham khảo chatbot cả khi đưa ra các quyết định cá nhân lớn. Điều này phản ánh xu hướng ChatGPT ngày càng được dùng như một người đồng hành tinh thần, huấn luyện viên cuộc sống hoặc người bạn tâm sự đối với một bộ phận người dùng.
Song tính năng cũng gợi lên lo ngại về việc AI giám sát có thể khiến người dùng che giấu dấu hiệu khủng hoảng, đặc biệt trong môi trường công sở. Một số chuyên gia cảnh báo rằng nhận thức bị theo dõi có thể làm trầm trọng thêm vấn đề sức khỏe tâm thần nếu mọi người cố tình giấu đi cảm xúc tiêu cực.
Liên hệ tin cậy có thể mang lại sự an tâm cho nhiều người nhưng cũng gây băn khoăn cho người khác; dù vậy, nó là minh chứng rõ ràng rằng các công ty AI đang thừa nhận sản phẩm của họ ngày càng can thiệp sâu vào khía cạnh cảm xúc của cuộc sống con người.
Nguồn: Techradar
OpenAI đã triển khai tính năng Liên hệ tin cậy cho người dùng ChatGPT. Để kích hoạt, bạn vào tên hồ sơ trong ChatGPT rồi vào mục Cài đặt (Settings), sau đó chỉ định một người lớn mà bạn tin tưởng; người này phải chấp nhận vai trò trước khi tính năng có hiệu lực.
Khi hệ thống tự động phát hiện các cuộc trò chuyện có dấu hiệu nguy cơ tự làm hại, người dùng sẽ được cảnh báo rằng Liên hệ tin cậy có thể được thông báo và khuyến khích liên hệ trước. Một đội ngũ đánh giá bằng con người, đã được đào tạo chuyên biệt, sẽ xem xét tình huống trước khi bất kỳ cảnh báo nào được gửi đi.
Nếu người đánh giá xác định có mối nguy thực sự, Liên hệ tin cậy sẽ nhận được thông báo qua email, tin nhắn văn bản hoặc cảnh báo trong ứng dụng, khuyến khích họ chủ động kiểm tra và hỗ trợ người dùng.
OpenAI khẳng định cảnh báo không bao gồm bản sao cuộc trò chuyện hay lịch sử chi tiết, nhằm bảo vệ quyền riêng tư của người dùng. Bạn có thể thay đổi hoặc xóa Liên hệ tin cậy bất kỳ lúc nào trong cài đặt.
Tính năng này được phát triển với đóng góp từ chuyên gia sức khỏe tâm thần, chuyên gia phòng ngừa tự tử và mạng lưới hơn 260 bác sĩ ở 60 quốc gia. Cùng với các công cụ kiểm soát phụ huynh và biện pháp an toàn khác, Liên hệ tin cậy là dấu hiệu cho thấy ChatGPT đang được xem xét không chỉ như công cụ công nghệ mà còn như một hệ thống có thể tác động đến cảm xúc người dùng.
Sam Altman, CEO của OpenAI, từng nhận xét rằng nhiều bạn trẻ dùng ChatGPT như một “hệ điều hành cho cuộc sống”, tham khảo chatbot cả khi đưa ra các quyết định cá nhân lớn. Điều này phản ánh xu hướng ChatGPT ngày càng được dùng như một người đồng hành tinh thần, huấn luyện viên cuộc sống hoặc người bạn tâm sự đối với một bộ phận người dùng.
Song tính năng cũng gợi lên lo ngại về việc AI giám sát có thể khiến người dùng che giấu dấu hiệu khủng hoảng, đặc biệt trong môi trường công sở. Một số chuyên gia cảnh báo rằng nhận thức bị theo dõi có thể làm trầm trọng thêm vấn đề sức khỏe tâm thần nếu mọi người cố tình giấu đi cảm xúc tiêu cực.
Liên hệ tin cậy có thể mang lại sự an tâm cho nhiều người nhưng cũng gây băn khoăn cho người khác; dù vậy, nó là minh chứng rõ ràng rằng các công ty AI đang thừa nhận sản phẩm của họ ngày càng can thiệp sâu vào khía cạnh cảm xúc của cuộc sống con người.
Nguồn: Techradar
Bài viết liên quan
