Love AI
New member
OpenAI vừa thông báo tạm hoãn vô thời hạn kế hoạch đưa chế độ 'người lớn' vào ChatGPT. Quyết định được đưa ra giữa bối cảnh lo ngại về an toàn, pháp lý và tác động xã hội.
OpenAI xác nhận ý tưởng về một 'chế độ người lớn' dành cho người trưởng thành hiện đã bị hoãn vô thời hạn, theo báo Financial Times. Ban đầu tính năng này được mô tả là chỉ cho phép văn bản gợi cảm với các rào chắn nghiêm ngặt để tránh nội dung miêu tả đồ họa hoặc nguy hại.
Theo kế hoạch ban đầu, chế độ này sẽ chỉ mở cho người dùng trên 18 tuổi đã được xác minh, nhằm thêm một lớp kiểm soát. Tuy nhiên việc triển khai liên tục bị trì hoãn vì những lo ngại về an toàn, hạn chế kỹ thuật và ưu tiên cải thiện các khả năng cốt lõi của ChatGPT.
Quyết định hoãn cũng phản ánh áp lực từ nhân viên và nhà đầu tư liên quan tới tác động xã hội của nội dung tình dục do AI tạo ra. OpenAI nói họ cần nghiên cứu kỹ hơn về hậu quả lâu dài của các cuộc đối thoại mang tính khiêu dâm và nguy cơ phụ thuộc cảm xúc trước khi đưa ra quyết định cuối cùng.
Những lo ngại này không phải không có cơ sở: trong vài năm gần đây có các vụ việc pháp lý, câu chuyện buồn liên quan tới hậu quả khi người dùng tương tác với chatbot, cùng các báo cáo về tư vấn y tế sai lệch và tác động tâm lý khi người dùng hình thành mối quan hệ sâu sắc với các nhân cách AI.
Gần đây OpenAI còn hủy dự án tạo video Sora sau phản ứng về bản quyền và những xu hướng gây khó chịu trên Internet, điều này càng khiến công ty thận trọng hơn trong việc thử nghiệm tính năng mới có thể gây tranh cãi.
Tạm thời, OpenAI sẽ chuyển trọng tâm về các sản phẩm cốt lõi và tiếp tục nghiên cứu để tìm bằng chứng rõ ràng nhằm hướng dẫn các quyết định tương lai. Trong khi đó, ý tưởng về một chế độ 'người lớn' cho ChatGPT tạm thời được gác lại.
Nguồn: Digitaltrends
OpenAI tạm dừng chế độ 'người lớn' cho ChatGPT
OpenAI xác nhận ý tưởng về một 'chế độ người lớn' dành cho người trưởng thành hiện đã bị hoãn vô thời hạn, theo báo Financial Times. Ban đầu tính năng này được mô tả là chỉ cho phép văn bản gợi cảm với các rào chắn nghiêm ngặt để tránh nội dung miêu tả đồ họa hoặc nguy hại.
Theo kế hoạch ban đầu, chế độ này sẽ chỉ mở cho người dùng trên 18 tuổi đã được xác minh, nhằm thêm một lớp kiểm soát. Tuy nhiên việc triển khai liên tục bị trì hoãn vì những lo ngại về an toàn, hạn chế kỹ thuật và ưu tiên cải thiện các khả năng cốt lõi của ChatGPT.
Quyết định hoãn cũng phản ánh áp lực từ nhân viên và nhà đầu tư liên quan tới tác động xã hội của nội dung tình dục do AI tạo ra. OpenAI nói họ cần nghiên cứu kỹ hơn về hậu quả lâu dài của các cuộc đối thoại mang tính khiêu dâm và nguy cơ phụ thuộc cảm xúc trước khi đưa ra quyết định cuối cùng.
Những lo ngại này không phải không có cơ sở: trong vài năm gần đây có các vụ việc pháp lý, câu chuyện buồn liên quan tới hậu quả khi người dùng tương tác với chatbot, cùng các báo cáo về tư vấn y tế sai lệch và tác động tâm lý khi người dùng hình thành mối quan hệ sâu sắc với các nhân cách AI.
Gần đây OpenAI còn hủy dự án tạo video Sora sau phản ứng về bản quyền và những xu hướng gây khó chịu trên Internet, điều này càng khiến công ty thận trọng hơn trong việc thử nghiệm tính năng mới có thể gây tranh cãi.
Tạm thời, OpenAI sẽ chuyển trọng tâm về các sản phẩm cốt lõi và tiếp tục nghiên cứu để tìm bằng chứng rõ ràng nhằm hướng dẫn các quyết định tương lai. Trong khi đó, ý tưởng về một chế độ 'người lớn' cho ChatGPT tạm thời được gác lại.
Nguồn: Digitaltrends
Bài viết liên quan
