Phi Vũ
New member
Trung Quốc đang đẩy nhanh việc siết chặt quản lý ngành "con người số" — những avatar AI sống động đang bùng nổ trên mạng xã hội và thương mại điện tử. Các quy định dự thảo yêu cầu dán nhãn rõ, không tái tạo nhân dạng khi chưa có sự đồng ý và tập trung bảo vệ trẻ em cùng an ninh xã hội.
Công nghệ "con người số" (digital humans) là các avatar AI có ngoại hình và hành vi giống người thật, thậm chí được dùng để tái hiện người đã mất. Ở Trung Quốc, chúng ngày càng phổ biến trong sáng tạo nội dung, thương mại điện tử và tương tác xã hội trực tuyến.
Một trường hợp điển hình là Zhang Xinyu ở tỉnh Liêu Ninh, người đã làm việc với công ty Super Brain để tạo avatar giống cha mình sau khi ông mất vì ung thư. Zhang nói rằng trải nghiệm này giúp cô đối diện nỗi đau, tìm lại sức mạnh tinh thần — nhưng cũng đặt ra câu hỏi liệu đó có phải là sự an ủi hay là một dạng “an ủi giả” gây phụ thuộc cảm xúc.
Thị trường con người số tại Trung Quốc được báo cáo có giá trị khoảng 4,1 tỷ nhân dân tệ (khoảng 600 triệu USD) vào năm 2024, tăng khoảng 85% so với cùng kỳ năm trước. Sự tăng trưởng nhanh chóng của ngành làm lộ rõ cả tiềm năng thương mại lẫn rủi ro đạo đức và xã hội.
Trước những lo ngại này, Cơ quan Quản lý Không gian Mạng Trung Quốc (CAC) đã công bố các quy tắc dự thảo nhằm thắt chặt giám sát. Các nội dung chính gồm yêu cầu dán nhãn rõ ràng đối với nội dung do AI tạo ra và cấm tái tạo nhân dạng của một cá nhân nếu không có sự đồng ý của người đó.
Quy định cũng nhằm ngăn ngừa việc lạm dụng công nghệ để lừa đảo, phát tán thông tin sai lệch hoặc tạo nội dung có thể đe dọa ổn định xã hội và an ninh quốc gia. Những công ty vi phạm có thể chịu phạt từ 10.000 đến 200.000 nhân dân tệ.
Một đoạn clip lan truyền từng cho thấy một cụ bà tương tác với avatar cực kỳ giống con trai đã mất, gây tranh luận rộng rãi về việc dùng AI để an ủi hay là lừa dối cảm xúc. Các chuyên gia cảnh báo nguy cơ phụ thuộc tình cảm và tác động tiêu cực tới sức khỏe tâm lý, đặc biệt với người dễ tổn thương.
Dự thảo nhấn mạnh biện pháp bảo vệ đặc biệt cho trẻ em, cấm các hệ thống AI khuyến khích lệ thuộc cảm xúc hoặc mô phỏng quan hệ thân mật với trẻ. Các doanh nghiệp trong ngành, bao gồm nhà sáng lập Super Brain, đều cho rằng quản lý là điều cần thiết để cân bằng đổi mới và trách nhiệm.
Quy tắc dự thảo đang được lấy ý kiến công chúng đến đầu tháng Năm; sau thời gian này dự kiến sẽ có thực thi chặt chẽ hơn. Mục tiêu rộng hơn của chính phủ là thúc đẩy ứng dụng AI trong khi kiểm soát chặt tác động xã hội — và mô hình quản lý của Trung Quốc có thể trở thành tham khảo cho nhiều nước khác gặp cùng thách thức về danh tính, quyền đồng ý và sức mạnh cảm xúc của AI.
Nguồn: Digitaltrends
Công nghệ "con người số" (digital humans) là các avatar AI có ngoại hình và hành vi giống người thật, thậm chí được dùng để tái hiện người đã mất. Ở Trung Quốc, chúng ngày càng phổ biến trong sáng tạo nội dung, thương mại điện tử và tương tác xã hội trực tuyến.
Một trường hợp điển hình là Zhang Xinyu ở tỉnh Liêu Ninh, người đã làm việc với công ty Super Brain để tạo avatar giống cha mình sau khi ông mất vì ung thư. Zhang nói rằng trải nghiệm này giúp cô đối diện nỗi đau, tìm lại sức mạnh tinh thần — nhưng cũng đặt ra câu hỏi liệu đó có phải là sự an ủi hay là một dạng “an ủi giả” gây phụ thuộc cảm xúc.
Thị trường con người số tại Trung Quốc được báo cáo có giá trị khoảng 4,1 tỷ nhân dân tệ (khoảng 600 triệu USD) vào năm 2024, tăng khoảng 85% so với cùng kỳ năm trước. Sự tăng trưởng nhanh chóng của ngành làm lộ rõ cả tiềm năng thương mại lẫn rủi ro đạo đức và xã hội.
Trước những lo ngại này, Cơ quan Quản lý Không gian Mạng Trung Quốc (CAC) đã công bố các quy tắc dự thảo nhằm thắt chặt giám sát. Các nội dung chính gồm yêu cầu dán nhãn rõ ràng đối với nội dung do AI tạo ra và cấm tái tạo nhân dạng của một cá nhân nếu không có sự đồng ý của người đó.
Quy định cũng nhằm ngăn ngừa việc lạm dụng công nghệ để lừa đảo, phát tán thông tin sai lệch hoặc tạo nội dung có thể đe dọa ổn định xã hội và an ninh quốc gia. Những công ty vi phạm có thể chịu phạt từ 10.000 đến 200.000 nhân dân tệ.
Một đoạn clip lan truyền từng cho thấy một cụ bà tương tác với avatar cực kỳ giống con trai đã mất, gây tranh luận rộng rãi về việc dùng AI để an ủi hay là lừa dối cảm xúc. Các chuyên gia cảnh báo nguy cơ phụ thuộc tình cảm và tác động tiêu cực tới sức khỏe tâm lý, đặc biệt với người dễ tổn thương.
Dự thảo nhấn mạnh biện pháp bảo vệ đặc biệt cho trẻ em, cấm các hệ thống AI khuyến khích lệ thuộc cảm xúc hoặc mô phỏng quan hệ thân mật với trẻ. Các doanh nghiệp trong ngành, bao gồm nhà sáng lập Super Brain, đều cho rằng quản lý là điều cần thiết để cân bằng đổi mới và trách nhiệm.
Quy tắc dự thảo đang được lấy ý kiến công chúng đến đầu tháng Năm; sau thời gian này dự kiến sẽ có thực thi chặt chẽ hơn. Mục tiêu rộng hơn của chính phủ là thúc đẩy ứng dụng AI trong khi kiểm soát chặt tác động xã hội — và mô hình quản lý của Trung Quốc có thể trở thành tham khảo cho nhiều nước khác gặp cùng thách thức về danh tính, quyền đồng ý và sức mạnh cảm xúc của AI.
Nguồn: Digitaltrends
Bài viết liên quan
