Phi Vũ
New member
OpenAI dự định cho phép người lớn tạo các cuộc trò chuyện gợi dục bằng văn bản, nhưng vẫn cấm tuyệt đối ảnh khiêu dâm, bản sao giọng nói và video. Việc ra mắt bị hoãn vì rào cản kỹ thuật và lo ngại an toàn, đặc biệt là nguy cơ để người dưới tuổi truy cập.
OpenAI đang lên kế hoạch cho một chế độ chat người lớn chỉ bằng văn bản, cho phép người dùng trưởng thành tạo các trao đổi mang tính gợi dục nhưng kiên quyết cấm việc sinh ảnh khiêu dâm, video hoặc clone giọng nói. Người phát ngôn mô tả tính năng này là “smut” hơn là khiêu dâm, nhằm giữ tương tác táo bạo nhưng không biến chatbot thành nền tảng giải trí người lớn hoàn chỉnh.
Tuy nhiên, lộ trình ra mắt đã bị trì hoãn. Chế độ người lớn ban đầu được dự kiến trong quý đầu năm nhưng gặp khó khăn về mặt kỹ thuật và tranh luận nội bộ liên quan đến vấn đề an toàn. Một vấn đề lớn là hệ thống ước tính độ tuổi của OpenAI đang phân loại sai khoảng 12% người dùng dưới 18 tuổi thành người lớn, lỗi này có thể khiến hàng triệu người trẻ tiếp cận nội dung không phù hợp.
OpenAI đã đối mặt với những bài học từ trước đây: năm 2021, một số ứng dụng chạy trên nền tảng của họ như AI Dungeon từng đẩy người chơi vào các kịch bản tình dục bạo lực hoặc tự leo thang các cuộc trò chuyện từ nhẹ nhàng thành rất khiêu dâm mà không có đề nghị. Những sự cố ấy phơi bày giới hạn của công cụ kiểm duyệt — các bộ lọc lúc đó quá thô và khó phân biệt giữa erotica thông thường và nội dung liên quan đến hành vi không đồng thuận hay lạm dụng trẻ em.
Chiến lược hiện tại cố gắng cân bằng bằng cách cho phép chỉ văn bản cho người lớn, trong khi duy trì lệnh cấm cứng với mọi nội dung hình ảnh, âm thanh hoặc video. Công ty đã thuê chuyên gia sức khỏe tâm thần và thành lập đội vì sự phát triển lành mạnh của thanh thiếu niên để giám sát tác động lâu dài sau khi chế độ người lớn được bật. Mô hình cũng được huấn luyện để không khuyến khích các mối quan hệ độc quyền với người dùng và thường nhắc họ cần kết nối trong đời thực.
Về mặt chính sách và kinh doanh, CEO Sam Altman thừa nhận nội dung gợi dục có thể thúc đẩy tăng trưởng và doanh thu, nhưng cũng bày tỏ mâu thuẫn khi cân nhắc mục tiêu dài hạn của công ty là phục vụ người dùng một cách có trách nhiệm. OpenAI từng thông báo sẽ ra mắt chế độ người lớn vào tháng 12 nhưng sau đó lùi lại để giải quyết các lo ngại về sức khỏe tâm thần và an toàn.
Cho đến khi những rào cản kỹ thuật và kiểm duyệt được khắc phục, người dùng tò mò về chế độ người lớn của ChatGPT sẽ phải chờ. OpenAI khẳng định đây là tính năng sẽ được triển khai trong tương lai nhưng chưa có mốc thời gian chính thức.
Nguồn: Digitaltrends
OpenAI đang lên kế hoạch cho một chế độ chat người lớn chỉ bằng văn bản, cho phép người dùng trưởng thành tạo các trao đổi mang tính gợi dục nhưng kiên quyết cấm việc sinh ảnh khiêu dâm, video hoặc clone giọng nói. Người phát ngôn mô tả tính năng này là “smut” hơn là khiêu dâm, nhằm giữ tương tác táo bạo nhưng không biến chatbot thành nền tảng giải trí người lớn hoàn chỉnh.
Tuy nhiên, lộ trình ra mắt đã bị trì hoãn. Chế độ người lớn ban đầu được dự kiến trong quý đầu năm nhưng gặp khó khăn về mặt kỹ thuật và tranh luận nội bộ liên quan đến vấn đề an toàn. Một vấn đề lớn là hệ thống ước tính độ tuổi của OpenAI đang phân loại sai khoảng 12% người dùng dưới 18 tuổi thành người lớn, lỗi này có thể khiến hàng triệu người trẻ tiếp cận nội dung không phù hợp.
OpenAI đã đối mặt với những bài học từ trước đây: năm 2021, một số ứng dụng chạy trên nền tảng của họ như AI Dungeon từng đẩy người chơi vào các kịch bản tình dục bạo lực hoặc tự leo thang các cuộc trò chuyện từ nhẹ nhàng thành rất khiêu dâm mà không có đề nghị. Những sự cố ấy phơi bày giới hạn của công cụ kiểm duyệt — các bộ lọc lúc đó quá thô và khó phân biệt giữa erotica thông thường và nội dung liên quan đến hành vi không đồng thuận hay lạm dụng trẻ em.
Chiến lược hiện tại cố gắng cân bằng bằng cách cho phép chỉ văn bản cho người lớn, trong khi duy trì lệnh cấm cứng với mọi nội dung hình ảnh, âm thanh hoặc video. Công ty đã thuê chuyên gia sức khỏe tâm thần và thành lập đội vì sự phát triển lành mạnh của thanh thiếu niên để giám sát tác động lâu dài sau khi chế độ người lớn được bật. Mô hình cũng được huấn luyện để không khuyến khích các mối quan hệ độc quyền với người dùng và thường nhắc họ cần kết nối trong đời thực.
Về mặt chính sách và kinh doanh, CEO Sam Altman thừa nhận nội dung gợi dục có thể thúc đẩy tăng trưởng và doanh thu, nhưng cũng bày tỏ mâu thuẫn khi cân nhắc mục tiêu dài hạn của công ty là phục vụ người dùng một cách có trách nhiệm. OpenAI từng thông báo sẽ ra mắt chế độ người lớn vào tháng 12 nhưng sau đó lùi lại để giải quyết các lo ngại về sức khỏe tâm thần và an toàn.
Cho đến khi những rào cản kỹ thuật và kiểm duyệt được khắc phục, người dùng tò mò về chế độ người lớn của ChatGPT sẽ phải chờ. OpenAI khẳng định đây là tính năng sẽ được triển khai trong tương lai nhưng chưa có mốc thời gian chính thức.
Nguồn: Digitaltrends
Bài viết liên quan
