AI Crazy
New member
Nghiên cứu từ Flashpoint cảnh báo tội phạm mạng đang tận dụng AI để mạo danh và vượt qua quy trình xác thực khách hàng (KYC). Các nhóm xấu rao bán bộ công cụ hoàn chỉnh, biến deepfake và prompt thành công cụ gian lận thương mại.
Nghiên cứu mới của công ty an ninh mạng Flashpoint cho thấy tội phạm mạng ngày càng sử dụng trí tuệ nhân tạo (AI) để mạo danh người thật, đặc biệt qua deepfake, nhằm vượt qua kiểm tra KYC và thực hiện hành vi gian lận.
Báo cáo dựa trên phân tích hơn 2,3 triệu cuộc thảo luận trực tuyến, trong đó có hơn 63.000 bài viết đề cập tới các phương pháp vượt KYC bằng AI; nhiều nhóm còn rao bán các bộ công cụ toàn diện phục vụ mục đích này.
Các giải pháp được rao bán thường kết hợp tạo video tổng hợp mô phỏng hành vi xác minh trực tiếp, nhân bản giọng nói, kịch bản tương tác và giấy tờ giả, cho phép kẻ xấu xây dựng danh tính giả từ đầu tới cuối. Một số người bán còn hướng dẫn tùy chỉnh công cụ theo từng nền tảng hoặc yêu cầu xác minh cụ thể, cập nhật sản phẩm theo phản hồi người mua.
Flashpoint nhận xét các tập đoàn tấn công đã 'chín muồi': thay vì phát triển công cụ mới, họ tập trung tận dụng tối đa công cụ hiện có bằng cách trao đổi phương pháp jailbreak, chia sẻ prompt và chuyển sang các mô hình ít hạn chế hơn so với tiêu chuẩn ngành như ChatGPT hay Gemini.
Báo cáo cũng lưu ý sự tăng mạnh về đề cập tới VeniceAI, chủ yếu do các cộng đồng mới trên Reddit và Discord, và cho biết prompt đã trở thành một mặt hàng trao đổi, kèm theo kịch bản lừa đảo, quy trình mạo danh từng bước và nhiều tài nguyên hỗ trợ khác.
Flashpoint khuyến nghị các đội an ninh duy trì khả năng giám sát liên tục để nắm bắt cách thức tấn công tiến hóa và nơi chúng được áp dụng, từ đó phát hiện sớm, phản ứng chính xác và theo dõi sự phát triển của các kỹ thuật đang lưu hành.
Để giảm rủi ro mạo danh bằng AI, doanh nghiệp nên củng cố quy trình KYC với kiểm tra liveness chặt chẽ hơn, xác thực chéo tài liệu, áp dụng xác thực đa yếu tố và triển khai hệ thống phát hiện bất thường dựa trên hành vi và dữ liệu nhằm ngăn chặn gian lận ngay từ giai đoạn đầu.
Nguồn: Techradar
Nghiên cứu mới của công ty an ninh mạng Flashpoint cho thấy tội phạm mạng ngày càng sử dụng trí tuệ nhân tạo (AI) để mạo danh người thật, đặc biệt qua deepfake, nhằm vượt qua kiểm tra KYC và thực hiện hành vi gian lận.
Báo cáo dựa trên phân tích hơn 2,3 triệu cuộc thảo luận trực tuyến, trong đó có hơn 63.000 bài viết đề cập tới các phương pháp vượt KYC bằng AI; nhiều nhóm còn rao bán các bộ công cụ toàn diện phục vụ mục đích này.
Các giải pháp được rao bán thường kết hợp tạo video tổng hợp mô phỏng hành vi xác minh trực tiếp, nhân bản giọng nói, kịch bản tương tác và giấy tờ giả, cho phép kẻ xấu xây dựng danh tính giả từ đầu tới cuối. Một số người bán còn hướng dẫn tùy chỉnh công cụ theo từng nền tảng hoặc yêu cầu xác minh cụ thể, cập nhật sản phẩm theo phản hồi người mua.
Flashpoint nhận xét các tập đoàn tấn công đã 'chín muồi': thay vì phát triển công cụ mới, họ tập trung tận dụng tối đa công cụ hiện có bằng cách trao đổi phương pháp jailbreak, chia sẻ prompt và chuyển sang các mô hình ít hạn chế hơn so với tiêu chuẩn ngành như ChatGPT hay Gemini.
Báo cáo cũng lưu ý sự tăng mạnh về đề cập tới VeniceAI, chủ yếu do các cộng đồng mới trên Reddit và Discord, và cho biết prompt đã trở thành một mặt hàng trao đổi, kèm theo kịch bản lừa đảo, quy trình mạo danh từng bước và nhiều tài nguyên hỗ trợ khác.
Flashpoint khuyến nghị các đội an ninh duy trì khả năng giám sát liên tục để nắm bắt cách thức tấn công tiến hóa và nơi chúng được áp dụng, từ đó phát hiện sớm, phản ứng chính xác và theo dõi sự phát triển của các kỹ thuật đang lưu hành.
Để giảm rủi ro mạo danh bằng AI, doanh nghiệp nên củng cố quy trình KYC với kiểm tra liveness chặt chẽ hơn, xác thực chéo tài liệu, áp dụng xác thực đa yếu tố và triển khai hệ thống phát hiện bất thường dựa trên hành vi và dữ liệu nhằm ngăn chặn gian lận ngay từ giai đoạn đầu.
Nguồn: Techradar
Bài viết liên quan
