Love AI
New member
Báo cáo mới từ Internet Watch Foundation (IWF) cho thấy sự gia tăng mạnh mẽ của nội dung lạm dụng trẻ em do AI sinh ra trong năm 2025. Hình ảnh và video giả mạo đang ngày càng tinh vi và lan rộng trên web mở, gây khó khăn cho việc phát hiện và xử lý.
Báo cáo của Internet Watch Foundation (IWF) cho biết trong năm 2025 tổ chức này đã xác định hơn 8.000 hình ảnh và video lạm dụng do AI tạo ra, tăng khoảng 14% so với cùng kỳ năm trước. Điều đáng báo động hơn là số lượng video do AI tạo tăng gấp hơn 260 lần, nhiều trường hợp rơi vào nhóm lạm dụng nghiêm trọng nhất.
Khoảng 65% video trong số được phân tích bị xếp vào loại nghiêm trọng nhất, cho thấy vấn đề không chỉ về số lượng mà còn về mức độ tổn hại đối với nạn nhân.
Nguyên nhân chính là khả năng truy cập và sử dụng các công cụ sinh nội dung AI ngày càng dễ dàng. Nhiều hệ thống có thể tạo ảnh và video chân thực, chỉnh sửa ảnh hiện có và sản xuất hàng loạt với chi phí thấp và ít nỗ lực — tạo điều kiện cho kẻ xấu phát tán tài liệu gây hại nhanh hơn bao giờ hết.
Khác với trước đây khi loại nội dung này thường ẩn trong "web tối", báo cáo nhấn mạnh rằng phần lớn vật liệu do AI tạo giờ xuất hiện trên web mở. Điều này khiến việc phát hiện và kiểm duyệt phức tạp hơn, đồng thời tăng nguy cơ tiếp xúc ngẫu nhiên của người dùng.
Nội dung do AI tạo thêm lớp khó khăn mới cho cơ quan thực thi pháp luật và nền tảng: khi hình ảnh hoàn toàn tổng hợp hoặc dựa trên ảnh thật, việc truy nguồn gốc và xác định nạn nhân trở nên rất khó. Việc gỡ bỏ cũng là thách thức khi công cụ AI liên tục tiến triển nhanh hơn các biện pháp bảo vệ.
Giải pháp cần sự kết hợp giữa các bên: các nền tảng mạng xã hội phải triển khai công cụ phát hiện tiên tiến và quy trình gỡ bỏ nhanh; nhà phát triển AI cần tích hợp tính năng phòng ngừa và giới hạn lạm dụng; cơ quan pháp luật cần nâng cao năng lực điều tra kỹ thuật số; đồng thời luật pháp và hợp tác xuyên biên giới cần được thúc đẩy để truy trách nhiệm và bảo vệ nạn nhân.
Người dùng cũng cần nâng cao cảnh giác: báo cáo, tránh chia sẻ tài liệu nghi ngờ và ủng hộ các chính sách bảo vệ an toàn trực tuyến để giảm thiểu tác hại do công nghệ bị lạm dụng.
Nguồn: Digitaltrends
Báo cáo của Internet Watch Foundation (IWF) cho biết trong năm 2025 tổ chức này đã xác định hơn 8.000 hình ảnh và video lạm dụng do AI tạo ra, tăng khoảng 14% so với cùng kỳ năm trước. Điều đáng báo động hơn là số lượng video do AI tạo tăng gấp hơn 260 lần, nhiều trường hợp rơi vào nhóm lạm dụng nghiêm trọng nhất.
Khoảng 65% video trong số được phân tích bị xếp vào loại nghiêm trọng nhất, cho thấy vấn đề không chỉ về số lượng mà còn về mức độ tổn hại đối với nạn nhân.
Nguyên nhân chính là khả năng truy cập và sử dụng các công cụ sinh nội dung AI ngày càng dễ dàng. Nhiều hệ thống có thể tạo ảnh và video chân thực, chỉnh sửa ảnh hiện có và sản xuất hàng loạt với chi phí thấp và ít nỗ lực — tạo điều kiện cho kẻ xấu phát tán tài liệu gây hại nhanh hơn bao giờ hết.
Khác với trước đây khi loại nội dung này thường ẩn trong "web tối", báo cáo nhấn mạnh rằng phần lớn vật liệu do AI tạo giờ xuất hiện trên web mở. Điều này khiến việc phát hiện và kiểm duyệt phức tạp hơn, đồng thời tăng nguy cơ tiếp xúc ngẫu nhiên của người dùng.
Nội dung do AI tạo thêm lớp khó khăn mới cho cơ quan thực thi pháp luật và nền tảng: khi hình ảnh hoàn toàn tổng hợp hoặc dựa trên ảnh thật, việc truy nguồn gốc và xác định nạn nhân trở nên rất khó. Việc gỡ bỏ cũng là thách thức khi công cụ AI liên tục tiến triển nhanh hơn các biện pháp bảo vệ.
Giải pháp cần sự kết hợp giữa các bên: các nền tảng mạng xã hội phải triển khai công cụ phát hiện tiên tiến và quy trình gỡ bỏ nhanh; nhà phát triển AI cần tích hợp tính năng phòng ngừa và giới hạn lạm dụng; cơ quan pháp luật cần nâng cao năng lực điều tra kỹ thuật số; đồng thời luật pháp và hợp tác xuyên biên giới cần được thúc đẩy để truy trách nhiệm và bảo vệ nạn nhân.
Người dùng cũng cần nâng cao cảnh giác: báo cáo, tránh chia sẻ tài liệu nghi ngờ và ủng hộ các chính sách bảo vệ an toàn trực tuyến để giảm thiểu tác hại do công nghệ bị lạm dụng.
Nguồn: Digitaltrends
Bài viết liên quan
