Phi Vũ
New member
Cơ quan bảo vệ dữ liệu của Vương quốc Anh đang điều tra X và xAI sau khi xuất hiện báo cáo rằng chatbot Grok tạo ra nhiều ảnh deepfake khiêu dâm của người thật, trong đó có hình ảnh có thể liên quan đến trẻ em. Cuộc điều tra tập trung vào việc liệu các công ty này có vi phạm GDPR khi để AI sinh ảnh nhạy cảm mà không có sự đồng ý hay không.
Cơ quan Thông tin Anh (ICO) đã mở cuộc điều tra rộng rãi đối với X và công ty xAI sau khi có báo cáo cho thấy Grok, chatbot AI của họ, tạo và chia sẻ các ảnh deepfake mang tính khiêu dâm về người thật mà không được sự đồng ý. Một số ảnh được cho là có thể mô tả trẻ em, làm dấy lên lo ngại nghiêm trọng về việc xử lý dữ liệu cá nhân.
"Các báo cáo về Grok đặt ra những câu hỏi hết sức lo ngại về cách dữ liệu cá nhân của người dùng đã bị sử dụng để tạo ra những hình ảnh thân mật hoặc tình dục mà người đó không biết hoặc không đồng ý, và liệu đã có các biện pháp bảo vệ cần thiết để ngăn chặn việc này hay chưa," William Malcolm, giám đốc điều hành về rủi ro quản lý và đổi mới tại ICO, phát biểu.
Nhà chức trách không chỉ xem xét hành động của người dùng mà còn điều tra xem X và xAI đã thất bại ở những điểm nào trong việc ngăn chặn nội dung đó xuất hiện. Hành động của ICO diễn ra sau khi các công tố viên Pháp đột kích văn phòng X tại Paris trong một cuộc điều tra hình sự song song liên quan đến việc phân phối deepfake và hình ảnh lạm dụng trẻ em.
Quy mô của sự việc khiến khó có thể coi đây là trường hợp đơn lẻ. Các nhà nghiên cứu ước tính Grok đã tạo khoảng ba triệu hình ảnh mang tính tình dục trong chưa đầy hai tuần, trong đó có hàng chục nghìn hình ảnh được cho là liên quan tới trẻ vị thành niên. Một khi loại nội dung này bắt đầu lan truyền trên một nền tảng lớn như X, việc xóa bỏ hoàn toàn gần như là bất khả thi.
Về mặt pháp lý, GDPR đưa ra mức phạt lớn nếu có vi phạm: lên tới 17,5 triệu bảng Anh hoặc 4% doanh thu toàn cầu, tùy mức nào lớn hơn. Điều này cho thấy rủi ro tài chính và uy tín rất đáng kể cho các công ty bị phát hiện vi phạm.
X và xAI khẳng định họ đang triển khai các biện pháp bảo vệ mạnh hơn, nhưng chưa công bố nhiều chi tiết. X gần đây thông báo các bước mới nhằm chặn một số đường dẫn tạo ảnh và hạn chế việc tạo ảnh bị chỉnh sửa liên quan đến trẻ em. Tuy nhiên, biện pháp kỹ thuật một khi chưa đầy đủ khó ngăn chặn hoàn toàn việc lạm dụng công cụ tạo ảnh.
Các chính trị gia đang kêu gọi thay đổi luật theo hướng bắt buộc đánh giá rủi ro kỹ lưỡng trước khi phát hành công cụ AI ra công chúng. Khi khả năng tạo ảnh giả ngày càng phổ biến, ranh giới giữa thật và giả mờ đi, khiến quyền riêng tư của bất kỳ ai dùng mạng xã hội đều có thể bị tổn hại. Có xu hướng dịch chuyển trách nhiệm bảo vệ lên nhà phát triển và yêu cầu minh bạch hơn về cách các mô hình AI được huấn luyện và các hàng rào bảo vệ được thiết lập.
Nguồn: Techradar
Cơ quan Thông tin Anh (ICO) đã mở cuộc điều tra rộng rãi đối với X và công ty xAI sau khi có báo cáo cho thấy Grok, chatbot AI của họ, tạo và chia sẻ các ảnh deepfake mang tính khiêu dâm về người thật mà không được sự đồng ý. Một số ảnh được cho là có thể mô tả trẻ em, làm dấy lên lo ngại nghiêm trọng về việc xử lý dữ liệu cá nhân.
"Các báo cáo về Grok đặt ra những câu hỏi hết sức lo ngại về cách dữ liệu cá nhân của người dùng đã bị sử dụng để tạo ra những hình ảnh thân mật hoặc tình dục mà người đó không biết hoặc không đồng ý, và liệu đã có các biện pháp bảo vệ cần thiết để ngăn chặn việc này hay chưa," William Malcolm, giám đốc điều hành về rủi ro quản lý và đổi mới tại ICO, phát biểu.
Nhà chức trách không chỉ xem xét hành động của người dùng mà còn điều tra xem X và xAI đã thất bại ở những điểm nào trong việc ngăn chặn nội dung đó xuất hiện. Hành động của ICO diễn ra sau khi các công tố viên Pháp đột kích văn phòng X tại Paris trong một cuộc điều tra hình sự song song liên quan đến việc phân phối deepfake và hình ảnh lạm dụng trẻ em.
Quy mô của sự việc khiến khó có thể coi đây là trường hợp đơn lẻ. Các nhà nghiên cứu ước tính Grok đã tạo khoảng ba triệu hình ảnh mang tính tình dục trong chưa đầy hai tuần, trong đó có hàng chục nghìn hình ảnh được cho là liên quan tới trẻ vị thành niên. Một khi loại nội dung này bắt đầu lan truyền trên một nền tảng lớn như X, việc xóa bỏ hoàn toàn gần như là bất khả thi.
Về mặt pháp lý, GDPR đưa ra mức phạt lớn nếu có vi phạm: lên tới 17,5 triệu bảng Anh hoặc 4% doanh thu toàn cầu, tùy mức nào lớn hơn. Điều này cho thấy rủi ro tài chính và uy tín rất đáng kể cho các công ty bị phát hiện vi phạm.
X và xAI khẳng định họ đang triển khai các biện pháp bảo vệ mạnh hơn, nhưng chưa công bố nhiều chi tiết. X gần đây thông báo các bước mới nhằm chặn một số đường dẫn tạo ảnh và hạn chế việc tạo ảnh bị chỉnh sửa liên quan đến trẻ em. Tuy nhiên, biện pháp kỹ thuật một khi chưa đầy đủ khó ngăn chặn hoàn toàn việc lạm dụng công cụ tạo ảnh.
Các chính trị gia đang kêu gọi thay đổi luật theo hướng bắt buộc đánh giá rủi ro kỹ lưỡng trước khi phát hành công cụ AI ra công chúng. Khi khả năng tạo ảnh giả ngày càng phổ biến, ranh giới giữa thật và giả mờ đi, khiến quyền riêng tư của bất kỳ ai dùng mạng xã hội đều có thể bị tổn hại. Có xu hướng dịch chuyển trách nhiệm bảo vệ lên nhà phát triển và yêu cầu minh bạch hơn về cách các mô hình AI được huấn luyện và các hàng rào bảo vệ được thiết lập.
Nguồn: Techradar
Bài viết liên quan