Dễ nhận ra ảnh do AI nhờ OpenAI và Google

[Love AI]

OpenAI hợp tác với Google để làm rõ nguồn gốc hình ảnh và giúp phân biệt ảnh do AI tạo dễ hơn. Họ kết hợp metadata chuẩn C2PA, watermark vô hình SynthID và một công cụ kiểm chứng công khai.

OpenAI và Google hợp tác để minh bạch nguồn gốc ảnh​

OpenAI vừa công bố một bản cập nhật quan trọng cho việc theo dõi nguồn gốc nội dung hình ảnh. Mục tiêu là giúp người dùng biết ảnh đến từ đâu và liệu ảnh đó có phải do AI tạo ra hay không.

Metadata theo chuẩn C2PA​

Kể từ 2024, OpenAI đã gắn metadata gọi là Content Credentials vào ảnh tạo bởi công cụ của họ. Metadata này lưu trữ thông tin chi tiết về cách ảnh được tạo, và việc OpenAI trở thành "C2PA Conforming Generator" giúp nền tảng khác có thể đọc và tìm thấy thông tin đó khi gặp ảnh do OpenAI tạo.

Watermark vô hình SynthID của Google DeepMind​

OpenAI kết hợp watermark SynthID của Google DeepMind vào ảnh được tạo qua ChatGPT và API của OpenAI. Khác với metadata có thể bị mất khi chụp màn hình hoặc tải lại, SynthID nhúng một dấu ẩn trực tiếp vào hình ảnh, được thiết kế để tồn tại qua nhiều thao tác biến đổi thường xóa metadata.

Hai hệ thống hỗ trợ lẫn nhau​

Metadata cung cấp thông tin nguồn gốc chi tiết, còn watermark là phương án dự phòng khi metadata bị mất. Khi có cả hai, khả năng xác định nguồn gốc ảnh được tăng lên đáng kể.

Công cụ kiểm chứng công khai​

OpenAI đang thử nghiệm công cụ kiểm chứng công khai tại openai.com/verify, cho phép người dùng tải ảnh lên để kiểm tra sự hiện diện của Content Credentials và watermark SynthID. Tuy nhiên, nếu công cụ không tìm thấy watermark hoặc metadata, điều đó không khẳng định chắc chắn ảnh không phải do AI tạo, vì cả watermark và metadata đều có thể bị giả mạo hoặc thiếu.

Giới hạn và tương lai​

Chưa phải mọi nhà cung cấp AI tạo ảnh đều áp dụng SynthID hay phương pháp tương tự, nên không có công cụ nào có thể bảo đảm 100% về việc một ảnh không phải do AI tạo. Dù vậy, sự hợp tác giữa OpenAI và Google là một bước tiến quan trọng hướng tới web đáng tin cậy hơn, giúp giảm nguy cơ lạm dụng ảnh AI trong các mục đích xấu.

Kết luận: hệ thống kết hợp metadata và watermark, cùng công cụ kiểm chứng công khai, là bước đi cần thiết để minh bạch nguồn gốc ảnh trong kỷ nguyên AI, dù vẫn còn hạn chế cần khắc phục và cần sự áp dụng rộng rãi hơn từ ngành công nghiệp.

Nguồn: Digitaltrends