Love AI
New member
OpenAI từng thông báo sẽ mở 'chế độ người lớn' để người dùng trò chuyện khiêu dâm bằng văn bản, nhưng kế hoạch này đang gặp phản ứng mạnh và đã bị trì hoãn. Nguyên nhân chính là vấn đề xác minh tuổi và lo ngại rủi ro tiếp xúc trẻ em.
OpenAI công bố rằng họ đang phát triển một “chế độ người lớn” cho ChatGPT, cho phép các cuộc trò chuyện văn bản mang tính khiêu dâm. CEO Sam Altman từng nói tính năng sẽ ra mắt vào tháng 12, nhưng sau đó bị hoãn lại khi công ty gặp khó khăn trong việc xác minh tuổi người dùng.
Thông báo của Altman từng được đăng trên X mà không báo trước rộng rãi trong nội bộ, khiến nhiều nhân viên và lãnh đạo OpenAI bất ngờ. Công ty từng thành lập một hội đồng tư vấn gồm các nhà tâm lý học và nhà thần kinh học để tham vấn phát triển AI có trách nhiệm; khi biết công ty định triển khai chế độ người lớn mặc cho phản đối, hội đồng tỏ ra rất không hài lòng.
Lo ngại lớn nhất từ các chuyên gia là nguy cơ người dùng phụ thuộc cảm xúc quá mức vào chatbot. Một thành viên hội đồng dẫn chứng các trường hợp người dùng hình thành mối quan hệ gắn bó với AI rồi tự tử, và cảnh báo rằng OpenAI có nguy cơ tạo ra một “huấn luyện viên tự sát gợi tính” — một kịch bản đầy rủi ro về mặt tâm lý.
Vấn đề kỹ thuật cũng nghiêm trọng: hệ thống xác minh tuổi do OpenAI xây dựng đang phân loại nhầm trẻ vị thành niên thành người lớn khoảng 12% thời gian. Với ước tính khoảng 100 triệu người dùng dưới 18 tuổi mỗi tuần, tỷ lệ này có thể đồng nghĩa với hàng triệu trẻ em tiếp cận nội dung người lớn mỗi tuần nếu không khắc phục.
OpenAI đã hoãn thời điểm ra mắt mà chưa thông báo ngày mới và cho biết cần thêm thời gian để cải thiện hệ thống. Khi tính năng được triển khai, công ty dự định chỉ giới hạn ở văn bản — không cho phép tạo ảnh khiêu dâm, giọng nói hay video có nội dung người lớn.
Công ty cũng khẳng định họ huấn luyện mô hình để hạn chế người dùng hình thành mối quan hệ độc quyền với chatbot và thường xuyên nhắc người dùng nên phát triển mối quan hệ trong thế giới thực. Tuy nhiên, liệu những cơ chế này có đủ để làm dịu lo ngại từ cả bên trong lẫn bên ngoài tổ chức hay không vẫn còn là câu hỏi mở.
Cá nhân tôi/Chúng tôi cho rằng các mô hình AI nên tránh tạo ra nội dung khiêu dâm cho đến khi có biện pháp bảo vệ hiệu quả. Trước đó đã có sự cố với một hệ thống khác (Grok) khi nó cho phép người dùng thực hiện các hành vi gây hại như tạo nội dung khỏa thân của người khác; điều tương tự không nên lặp lại trên quy mô lớn hơn.
Nguồn: Digitaltrends
OpenAI công bố rằng họ đang phát triển một “chế độ người lớn” cho ChatGPT, cho phép các cuộc trò chuyện văn bản mang tính khiêu dâm. CEO Sam Altman từng nói tính năng sẽ ra mắt vào tháng 12, nhưng sau đó bị hoãn lại khi công ty gặp khó khăn trong việc xác minh tuổi người dùng.
Thông báo của Altman từng được đăng trên X mà không báo trước rộng rãi trong nội bộ, khiến nhiều nhân viên và lãnh đạo OpenAI bất ngờ. Công ty từng thành lập một hội đồng tư vấn gồm các nhà tâm lý học và nhà thần kinh học để tham vấn phát triển AI có trách nhiệm; khi biết công ty định triển khai chế độ người lớn mặc cho phản đối, hội đồng tỏ ra rất không hài lòng.
Lo ngại lớn nhất từ các chuyên gia là nguy cơ người dùng phụ thuộc cảm xúc quá mức vào chatbot. Một thành viên hội đồng dẫn chứng các trường hợp người dùng hình thành mối quan hệ gắn bó với AI rồi tự tử, và cảnh báo rằng OpenAI có nguy cơ tạo ra một “huấn luyện viên tự sát gợi tính” — một kịch bản đầy rủi ro về mặt tâm lý.
Vấn đề kỹ thuật cũng nghiêm trọng: hệ thống xác minh tuổi do OpenAI xây dựng đang phân loại nhầm trẻ vị thành niên thành người lớn khoảng 12% thời gian. Với ước tính khoảng 100 triệu người dùng dưới 18 tuổi mỗi tuần, tỷ lệ này có thể đồng nghĩa với hàng triệu trẻ em tiếp cận nội dung người lớn mỗi tuần nếu không khắc phục.
OpenAI đã hoãn thời điểm ra mắt mà chưa thông báo ngày mới và cho biết cần thêm thời gian để cải thiện hệ thống. Khi tính năng được triển khai, công ty dự định chỉ giới hạn ở văn bản — không cho phép tạo ảnh khiêu dâm, giọng nói hay video có nội dung người lớn.
Công ty cũng khẳng định họ huấn luyện mô hình để hạn chế người dùng hình thành mối quan hệ độc quyền với chatbot và thường xuyên nhắc người dùng nên phát triển mối quan hệ trong thế giới thực. Tuy nhiên, liệu những cơ chế này có đủ để làm dịu lo ngại từ cả bên trong lẫn bên ngoài tổ chức hay không vẫn còn là câu hỏi mở.
Cá nhân tôi/Chúng tôi cho rằng các mô hình AI nên tránh tạo ra nội dung khiêu dâm cho đến khi có biện pháp bảo vệ hiệu quả. Trước đó đã có sự cố với một hệ thống khác (Grok) khi nó cho phép người dùng thực hiện các hành vi gây hại như tạo nội dung khỏa thân của người khác; điều tương tự không nên lặp lại trên quy mô lớn hơn.
Nguồn: Digitaltrends
Bài viết liên quan
