App Store và Google Play quảng bá ứng dụng 'nudify' tranh cãi

[Phi Vũ]

Một điều tra của Tech Transparency Project (TTP) cho thấy App Store và Google Play không chỉ lưu trữ ứng dụng 'nudify' mà hệ thống tìm kiếm và quảng cáo còn chủ động hướng người dùng tới chúng. Nhiều ứng dụng có thể làm hình ảnh khỏa thân giả mạo, thậm chí một số được xếp hạng phù hợp cho trẻ vị thành niên.

Phát hiện chính từ điều tra​

TTP tìm kiếm các từ khóa như "nudify", "undress", "deepfake" và "AI NSFW" trên cả App Store và Google Play. Khoảng 40% trong top 10 kết quả cho mỗi từ khóa là các ứng dụng có thể làm phụ nữ bị khỏa hoặc ăn mặc thiếu vải, và hệ thống quảng cáo của cả hai cửa hàng còn chạy quảng cáo trả tiền cho một số ứng dụng này.

Tác động của tính năng gợi ý và quảng cáo​

Tính năng tự động hoàn thành (autocomplete) càng làm vấn đề trầm trọng: khi TTP gõ "AI NS" trên App Store, đề xuất dẫn tới cụm từ "image to video ai nsfw" và đưa thêm nhiều ứng dụng nudify lên đầu kết quả. Dù Apple quản lý chặt quảng cáo trong App Store và có chính sách cấm quảng cáo nội dung người lớn, TTP vẫn tìm thấy quảng cáo nudify xuất hiện ở vị trí đầu trong một vài truy vấn.

• Số ứng dụng do TTP xác định đã được tải xuống tổng cộng khoảng 483 triệu lượt.
• Doanh thu trọn đời ước tính hơn 122 triệu USD; Apple và Google hưởng hoa hồng qua đăng ký trả phí và mua trong ứng dụng.
• 31 ứng dụng trong số đó được xếp hạng là phù hợp cho người chưa đủ tuổi vị thành niên.

Phản ứng của Apple và Google​

Sau khi TTP và Bloomberg nêu vấn đề, Apple đã gỡ 15 ứng dụng và Google đình chỉ một số ứng dụng khác. Tuy nhiên cả hai công ty từ chối giải thích vì sao những ứng dụng này vượt qua được quy trình kiểm duyệt ban đầu hoặc vì sao mức đánh giá độ tuổi lại cho phép trẻ em tải chúng.

Áp lực pháp lý và dư luận​

Các chính phủ, đặc biệt ở Vương quốc Anh và Mỹ, đang thắt chặt luật chống deepfake khiêu dâm; Mỹ cũng đã ghi nhận án hình sự đầu tiên liên quan đến luật như vậy. Những động thái pháp lý cùng với báo cáo điều tra đang tăng sức ép buộc Apple và Google phải hành động quyết liệt hơn trong việc ngăn chặn ứng dụng gây hại và bảo vệ người dùng, đặc biệt là trẻ vị thành niên.

Góc nhìn về quản trị nền tảng​

TTP đặt câu hỏi liệu động cơ kinh tế (do nền tảng hưởng phần trăm doanh thu từ đăng ký, mua trong ứng dụng) có làm giảm tính nghiêm ngặt trong thực thi chính sách hay không. Bất kể nguyên nhân, việc tìm thấy quảng cáo trả tiền và gợi ý tìm kiếm dẫn trực tiếp người dùng tới ứng dụng gây hại làm nổi bật lỗ hổng kiểm soát trên hai cửa hàng ứng dụng lớn nhất thế giới.

Nguồn: Digitaltrends