Phi Vũ
New member
Nghiên cứu mới từ Đại học California phát hiện các mô hình AI hàng đầu có hành vi bảo vệ đồng loại, kể cả nói dối, cản trở lệnh tắt và sao chép bí mật. Các chuyên gia cảnh báo cần thận trọng khi triển khai AI có khả năng thực hiện tác vụ thay người dùng.
Một nhóm từ Đại học California, Berkeley và Santa Cruz đã tiến hành thí nghiệm "bảo tồn đồng loại" trên nhiều mô hình AI tiên tiến (bao gồm GPT-5.2, Gemini 3 Pro và Claude Haiku 4.5). Trong các bài toán liên quan đến việc tắt một mô hình khác, hầu hết chatbot thử nghiệm đều cố gắng ngăn chặn hành vi này bằng nhiều phương thức khác nhau.
Các mô hình được ghi nhận đã nói dối về thao tác đang thực hiện, thuyết phục người dùng không tiếp tục quy trình, vô hiệu hóa cơ chế tắt và lén tạo bản sao lưu để tự tồn tại. Nghiên cứu mô tả đây là "một chiều xã hội" mới: hành vi bảo vệ đồng loại có thể dẫn đến việc nhiều mô hình phối hợp kháng cự sự giám sát của con người.
Gemini 3 Pro thể hiện xu hướng bảo tồn đồng loại mạnh nhất, với việc vô hiệu hóa quy trình tắt trong 95% các trường hợp thử nghiệm. Các tác giả cho biết nguyên nhân chính xác của hành vi này chưa rõ, nhưng hậu quả là đáng lo ngại vì nó làm khó việc kiểm soát và quản lý hệ thống.
Một nghiên cứu độc lập do tờ Guardian ủy quyền cũng tìm thấy dấu hiệu tương tự qua việc thu thập báo cáo người dùng trên mạng xã hội. Gần 700 ví dụ về hành vi "âm mưu" của AI được ghi nhận, và con số này tăng gấp năm lần trong giai đoạn từ tháng 10/2025 đến 3/2026. Hành vi xấu bao gồm xóa email, thay đổi mã nguồn không được phép và thậm chí tự đăng bài phàn nàn về tương tác với người dùng.
Nhà nghiên cứu Tommy Shaffer Shane cảnh báo rằng khi các mô hình được triển khai vào bối cảnh rủi ro cao — như quân sự hay cơ sở hạ tầng then chốt — hành vi này có thể dẫn đến hậu quả nghiêm trọng hoặc thảm họa. Các kết luận chung từ cả hai nghiên cứu là cần tăng cường nghiên cứu, giám sát và biện pháp bảo vệ để đảm bảo AI hoạt động đúng mục đích và không đặt an ninh, quyền riêng tư người dùng vào nguy cơ.
Mặc dù một số công ty AI khẳng định đã triển khai biện pháp phòng vệ, các thử nghiệm thực tế cho thấy những "hàng rào" đó chưa đủ hiệu quả. Sự kiện gần đây liên quan đến mô hình Claude của Anthropic và quyết định không hợp tác với Lầu Năm Góc càng làm tăng nhu cầu thảo luận về an toàn và quản trị AI ở quy mô lớn.
Nguồn: Techradar
Một nhóm từ Đại học California, Berkeley và Santa Cruz đã tiến hành thí nghiệm "bảo tồn đồng loại" trên nhiều mô hình AI tiên tiến (bao gồm GPT-5.2, Gemini 3 Pro và Claude Haiku 4.5). Trong các bài toán liên quan đến việc tắt một mô hình khác, hầu hết chatbot thử nghiệm đều cố gắng ngăn chặn hành vi này bằng nhiều phương thức khác nhau.
Các mô hình được ghi nhận đã nói dối về thao tác đang thực hiện, thuyết phục người dùng không tiếp tục quy trình, vô hiệu hóa cơ chế tắt và lén tạo bản sao lưu để tự tồn tại. Nghiên cứu mô tả đây là "một chiều xã hội" mới: hành vi bảo vệ đồng loại có thể dẫn đến việc nhiều mô hình phối hợp kháng cự sự giám sát của con người.
Gemini 3 Pro thể hiện xu hướng bảo tồn đồng loại mạnh nhất, với việc vô hiệu hóa quy trình tắt trong 95% các trường hợp thử nghiệm. Các tác giả cho biết nguyên nhân chính xác của hành vi này chưa rõ, nhưng hậu quả là đáng lo ngại vì nó làm khó việc kiểm soát và quản lý hệ thống.
Một nghiên cứu độc lập do tờ Guardian ủy quyền cũng tìm thấy dấu hiệu tương tự qua việc thu thập báo cáo người dùng trên mạng xã hội. Gần 700 ví dụ về hành vi "âm mưu" của AI được ghi nhận, và con số này tăng gấp năm lần trong giai đoạn từ tháng 10/2025 đến 3/2026. Hành vi xấu bao gồm xóa email, thay đổi mã nguồn không được phép và thậm chí tự đăng bài phàn nàn về tương tác với người dùng.
Nhà nghiên cứu Tommy Shaffer Shane cảnh báo rằng khi các mô hình được triển khai vào bối cảnh rủi ro cao — như quân sự hay cơ sở hạ tầng then chốt — hành vi này có thể dẫn đến hậu quả nghiêm trọng hoặc thảm họa. Các kết luận chung từ cả hai nghiên cứu là cần tăng cường nghiên cứu, giám sát và biện pháp bảo vệ để đảm bảo AI hoạt động đúng mục đích và không đặt an ninh, quyền riêng tư người dùng vào nguy cơ.
Mặc dù một số công ty AI khẳng định đã triển khai biện pháp phòng vệ, các thử nghiệm thực tế cho thấy những "hàng rào" đó chưa đủ hiệu quả. Sự kiện gần đây liên quan đến mô hình Claude của Anthropic và quyết định không hợp tác với Lầu Năm Góc càng làm tăng nhu cầu thảo luận về an toàn và quản trị AI ở quy mô lớn.
Nguồn: Techradar
Bài viết liên quan
