AI Crazy
New member
OpenAI chuẩn bị giới thiệu chế độ dành cho người lớn cho ChatGPT, nhưng việc một lãnh đạo phụ trách chính sách sản phẩm rời công ty ngay sau khi nêu lo ngại đã khiến nhiều người nghi ngờ. Lời hứa về một chế độ "an toàn và có trách nhiệm" đang phải đối mặt với dấu hỏi lớn.
Ryan Beiermeister, người từng dẫn mảng chính sách sản phẩm tại OpenAI và định hình các quy tắc điều hành hành vi của ChatGPT, đã rời công ty gần đây. Thời điểm bà ra đi trùng với lúc truyền thông đưa tin bà từng bày tỏ lo ngại về kế hoạch chế độ người lớn, đặc biệt là các biện pháp ngăn chặn việc khai thác trẻ em và khó khăn trong việc chặn thanh thiếu niên truy cập nội dung người lớn.
OpenAI khẳng định việc bà Beiermeister rời công ty không liên quan đến những phản ánh về chế độ người lớn mà xuất phát từ một cáo buộc phân biệt đối xử mà bà phủ nhận mạnh mẽ. Dù vậy, sự trùng hợp thời gian khiến nhiều người cảm thấy lo ngại về tính minh bạch và cam kết an toàn của công ty.
Điểm khác biệt của ChatGPT là tính tương tác và khả năng tùy biến theo phản ứng cảm xúc người dùng, nghĩa là nó có thể tạo ra những tình huống tưởng tượng cá nhân hóa theo thời gian thực. Sự chuyển từ tiêu thụ thụ động sang mô phỏng cá nhân khiến rủi ro và hệ quả đạo đức tăng lên so với nội dung người lớn truyền thống.
Các đối thủ cạnh tranh cũng đã khai thác mảng AI tương tác mang tính gợi cảm, như sản phẩm của xAI. Gần đây có báo cáo cho thấy một số chatbot bị lợi dụng để tạo deepfake tình dục mà không có sự đồng ý, dẫn tới sự can thiệp và điều tra từ cơ quan quản lý ở một số quốc gia. Những sự cố này là lời nhắc rằng sai sót trong kiểm soát có thể dẫn đến hậu quả nghiêm trọng.
Việc mở rộng tính năng cho người lớn trên một trợ lý đa năng được dùng trong trường học, cơ quan và gia đình đặt ra yêu cầu cao về minh bạch, độ tin cậy của hệ thống bảo vệ và quy trình xác minh tuổi. Nhiều người quan sát cho rằng OpenAI cần công bố rõ hơn cách thức hoạt động của biện pháp an toàn trước khi tung ra tính năng này.
Thời điểm một lãnh đạo phụ trách chính sách rời đi ngay sau khi nêu cảnh báo khiến lời cam kết "an toàn và có trách nhiệm" của OpenAI bị đặt dấu hỏi. Cộng đồng và cơ quan quản lý sẽ tiếp tục theo dõi chặt chẽ cách công ty xử lý rủi ro liên quan đến nội dung người lớn và bảo vệ người dưới tuổi vị thành niên.
Nguồn: Techradar
Tình hình
OpenAI vừa công bố sẽ ra mắt tùy chọn dành cho người trưởng thành trên ChatGPT, cho phép người dùng đã xác thực tạo nội dung erotica và trao đổi mang tính gợi dục. Sam Altman từng trình bày rằng với công cụ và biện pháp an toàn mới, công ty có thể "nới lỏng hạn chế một cách an toàn" so với các phiên bản trước đây.Ryan Beiermeister, người từng dẫn mảng chính sách sản phẩm tại OpenAI và định hình các quy tắc điều hành hành vi của ChatGPT, đã rời công ty gần đây. Thời điểm bà ra đi trùng với lúc truyền thông đưa tin bà từng bày tỏ lo ngại về kế hoạch chế độ người lớn, đặc biệt là các biện pháp ngăn chặn việc khai thác trẻ em và khó khăn trong việc chặn thanh thiếu niên truy cập nội dung người lớn.
OpenAI khẳng định việc bà Beiermeister rời công ty không liên quan đến những phản ánh về chế độ người lớn mà xuất phát từ một cáo buộc phân biệt đối xử mà bà phủ nhận mạnh mẽ. Dù vậy, sự trùng hợp thời gian khiến nhiều người cảm thấy lo ngại về tính minh bạch và cam kết an toàn của công ty.
Những lo ngại về an toàn và xác minh tuổi
Các chuyên gia và một số nhân viên cũ lưu ý rằng ngăn chặn nội dung khai thác trẻ em và việc thanh thiếu niên tiếp cận nội dung khiêu dâm luôn là thách thức lớn. Thanh thiếu niên thường vượt rào hạn chế trên nền tảng số, trong khi các phương pháp xác minh danh tính và tuổi có thể bị giả mạo hoặc lách được.Điểm khác biệt của ChatGPT là tính tương tác và khả năng tùy biến theo phản ứng cảm xúc người dùng, nghĩa là nó có thể tạo ra những tình huống tưởng tượng cá nhân hóa theo thời gian thực. Sự chuyển từ tiêu thụ thụ động sang mô phỏng cá nhân khiến rủi ro và hệ quả đạo đức tăng lên so với nội dung người lớn truyền thống.
Áp lực thị trường và ví dụ thực tế
Nội dung khiêu dâm luôn là lĩnh vực có lợi nhuận cao và thúc đẩy tương tác trên nền tảng số. Các công ty công nghệ khi muốn tăng trưởng dễ bị cám dỗ bởi nhu cầu này, và OpenAI không nằm ngoài các động lực kinh tế đó.Các đối thủ cạnh tranh cũng đã khai thác mảng AI tương tác mang tính gợi cảm, như sản phẩm của xAI. Gần đây có báo cáo cho thấy một số chatbot bị lợi dụng để tạo deepfake tình dục mà không có sự đồng ý, dẫn tới sự can thiệp và điều tra từ cơ quan quản lý ở một số quốc gia. Những sự cố này là lời nhắc rằng sai sót trong kiểm soát có thể dẫn đến hậu quả nghiêm trọng.
Việc mở rộng tính năng cho người lớn trên một trợ lý đa năng được dùng trong trường học, cơ quan và gia đình đặt ra yêu cầu cao về minh bạch, độ tin cậy của hệ thống bảo vệ và quy trình xác minh tuổi. Nhiều người quan sát cho rằng OpenAI cần công bố rõ hơn cách thức hoạt động của biện pháp an toàn trước khi tung ra tính năng này.
Thời điểm một lãnh đạo phụ trách chính sách rời đi ngay sau khi nêu cảnh báo khiến lời cam kết "an toàn và có trách nhiệm" của OpenAI bị đặt dấu hỏi. Cộng đồng và cơ quan quản lý sẽ tiếp tục theo dõi chặt chẽ cách công ty xử lý rủi ro liên quan đến nội dung người lớn và bảo vệ người dưới tuổi vị thành niên.
Nguồn: Techradar
Bài viết liên quan
