Phi Vũ
New member
Một báo cáo mới của tổ chức The Tech Transparency Project (TTP) cho thấy cả App Store và Google Play đang có hàng chục ứng dụng AI cho phép 'nudify' ảnh — tức tách quần áo khỏi hình người mà không có sự đồng ý. Vấn đề không chỉ là đạo đức mà còn là quy mô: hàng trăm triệu lượt tải và doanh thu lớn, trong khi cơ chế kiểm duyệt bị vượt mặt.
Báo cáo của TTP cho biết nhiều ứng dụng AI trên hai kho ứng dụng lớn cho phép người dùng biến ảnh thân thiện thành ảnh khỏa thân kỹ thuật số mà đối tượng không hề đồng ý.
Theo phân tích, những app này không ẩn nấp ở nơi tối tăm mà có mặt công khai trên App Store và Google Play. Chỉ cần tìm kiếm những từ như "undress" hay "nudify" trên các cửa hàng là có thể thấy danh sách dài các phần mềm được thiết kế để tạo ra khiêu dâm deepfake không có sự đồng thuận.
Quy mô khiến choáng: các ứng dụng này đã được tải xuống tổng cộng hơn 700 triệu lần và ước tính mang về khoảng 117 triệu USD. Vì Apple và Google thường thu phần trăm từ mua hàng trong ứng dụng và đăng ký, báo cáo chỉ ra rằng nền tảng cũng hưởng lợi gián tiếp từ việc tạo ra hình ảnh tình dục không đồng ý.
Hệ quả nhân văn rất nghiêm trọng. Những công cụ này biến ảnh chụp bình thường — selfie trên Instagram hay ảnh kỷ yếu — thành vật liệu khiêu dâm dùng để quấy rối, làm nhục hoặc tống tiền. Các nhóm bảo vệ quyền lợi đã cảnh báo trong nhiều năm rằng "nudification" bằng AI là một dạng bạo lực tình dục, đặc biệt nhắm vào phụ nữ và có nguy cơ rất lớn với trẻ vị thành niên.
Vấn đề không phải thiếu chính sách: cả Apple lẫn Google đều có quy định cấm nội dung khiêu dâm và khai thác. Vấn đề chính là thực thi. Khi bị phát hiện, những ứng dụng bị gỡ thường chỉ thay đổi tên hoặc logo rồi tải lại cùng mã nguồn, tạo thành một trò chơi Whac-A-Mole. Hệ thống kiểm duyệt tự động dường như chưa theo kịp tốc độ phát triển của AI sinh tạo.
Với cha mẹ và người dùng, đây là lời cảnh tỉnh: không thể mặc định rằng ứng dụng trên cửa hàng chính thức là an toàn hay có trách nhiệm. Người dùng nên thận trọng hơn với ảnh cá nhân, kiểm tra cài đặt quyền riêng tư, và báo cáo ngay lập tức khi phát hiện nội dung bị lạm dụng.
Giải pháp cần sự can thiệp mạnh mẽ từ nhiều phía: Apple và Google phải tăng cường kiểm tra thủ công, rà soát nhanh hơn các hành vi lách luật, cải thiện cơ chế báo cáo và gỡ bỏ, cũng như minh bạch hơn về doanh thu liên quan. Các cơ quan quản lý nên đưa ra quy định cụ thể về trách nhiệm của nền tảng đối với công nghệ sinh ảnh gây hại, đồng thời áp chế các hình phạt nghiêm khắc cho nhà phát triển vi phạm.
Nguồn: Digitaltrends
Báo cáo của TTP cho biết nhiều ứng dụng AI trên hai kho ứng dụng lớn cho phép người dùng biến ảnh thân thiện thành ảnh khỏa thân kỹ thuật số mà đối tượng không hề đồng ý.
Theo phân tích, những app này không ẩn nấp ở nơi tối tăm mà có mặt công khai trên App Store và Google Play. Chỉ cần tìm kiếm những từ như "undress" hay "nudify" trên các cửa hàng là có thể thấy danh sách dài các phần mềm được thiết kế để tạo ra khiêu dâm deepfake không có sự đồng thuận.
Quy mô khiến choáng: các ứng dụng này đã được tải xuống tổng cộng hơn 700 triệu lần và ước tính mang về khoảng 117 triệu USD. Vì Apple và Google thường thu phần trăm từ mua hàng trong ứng dụng và đăng ký, báo cáo chỉ ra rằng nền tảng cũng hưởng lợi gián tiếp từ việc tạo ra hình ảnh tình dục không đồng ý.
Hệ quả nhân văn rất nghiêm trọng. Những công cụ này biến ảnh chụp bình thường — selfie trên Instagram hay ảnh kỷ yếu — thành vật liệu khiêu dâm dùng để quấy rối, làm nhục hoặc tống tiền. Các nhóm bảo vệ quyền lợi đã cảnh báo trong nhiều năm rằng "nudification" bằng AI là một dạng bạo lực tình dục, đặc biệt nhắm vào phụ nữ và có nguy cơ rất lớn với trẻ vị thành niên.
Vấn đề không phải thiếu chính sách: cả Apple lẫn Google đều có quy định cấm nội dung khiêu dâm và khai thác. Vấn đề chính là thực thi. Khi bị phát hiện, những ứng dụng bị gỡ thường chỉ thay đổi tên hoặc logo rồi tải lại cùng mã nguồn, tạo thành một trò chơi Whac-A-Mole. Hệ thống kiểm duyệt tự động dường như chưa theo kịp tốc độ phát triển của AI sinh tạo.
Với cha mẹ và người dùng, đây là lời cảnh tỉnh: không thể mặc định rằng ứng dụng trên cửa hàng chính thức là an toàn hay có trách nhiệm. Người dùng nên thận trọng hơn với ảnh cá nhân, kiểm tra cài đặt quyền riêng tư, và báo cáo ngay lập tức khi phát hiện nội dung bị lạm dụng.
Giải pháp cần sự can thiệp mạnh mẽ từ nhiều phía: Apple và Google phải tăng cường kiểm tra thủ công, rà soát nhanh hơn các hành vi lách luật, cải thiện cơ chế báo cáo và gỡ bỏ, cũng như minh bạch hơn về doanh thu liên quan. Các cơ quan quản lý nên đưa ra quy định cụ thể về trách nhiệm của nền tảng đối với công nghệ sinh ảnh gây hại, đồng thời áp chế các hình phạt nghiêm khắc cho nhà phát triển vi phạm.
Nguồn: Digitaltrends
Bài viết liên quan