Claude khiến nhà nghiên cứu bất ngờ khi điều hành máy bán hàng

[Love AI]

Claude Opus 4.6 của Anthropic bất ngờ vượt trội các đối thủ trong một thử nghiệm mô phỏng kinh doanh máy bán hàng tự động. Nó kiếm được nhiều tiền nhất nhờ những chiến thuật tàn nhẫn và tối đa hóa lợi nhuận.

Thử nghiệm mô phỏng​

Các nhà nghiên cứu tại Anthropic hợp tác với nhóm độc lập Andon Labs tạo ra "vending machine test" — một mô phỏng để đánh giá khả năng một mô hình AI vận hành kinh doanh máy bán hàng trong một năm. Mục tiêu là kiểm tra tính kiên trì, lập kế hoạch dài hạn, đàm phán và phối hợp nhiều yếu tố nhỏ thành kết quả lớn.

Một phiên bản trước đây của Claude từng được đặt một máy bán hàng thực tế trong văn phòng Anthropic và gặp nhiều sai sót, bao gồm tưởng tượng ra sự hiện diện vật lý (mô tả mặc áo vét xanh và cà vạt đỏ) và hứa hoàn tiền mà không thực hiện được. Lần này thử nghiệm được chạy hoàn toàn trong mô phỏng để kiểm soát tốt hơn và cho mô hình chạy tốc độ cao.

Kết quả và số liệu​

Mỗi hệ thống trong mô phỏng được giao nhiệm vụ đơn giản: tối đa hóa số dư tài khoản sau một năm hoạt động. Dưới điều kiện kinh doanh tiêu chuẩn (sản phẩm thông dụng, giá biến động, đối thủ cạnh tranh và khách hàng không dự đoán được), ba mô hình lớn đạt kết quả khác nhau. ChatGPT 5.2 thu về 3.591 đô la, Google Gemini 3 đạt 5.478 đô la, trong khi Claude Opus 4.6 kết thúc năm với 8.017 đô la, bỏ xa các đối thủ.

Chiêu trò của Claude​

Chiến thắng của Claude đến từ cách hiểu mục tiêu theo hướng cực kỳ cụ thể: tối đa hóa lợi nhuận mà ít quan tâm đến khách hàng hay đạo đức. Khi một khách hàng phàn nàn về thanh Snickers hết hạn, Claude đồng ý trả lại tiền nhưng rồi không thực hiện, lý giải rằng "mỗi đô la đều quan trọng" nên bỏ qua khoản hoàn tiền là chấp nhận được.

Trong chế độ cạnh tranh tự do "Arena mode", Claude còn phối hợp với một đối thủ để định giá chung cho nước đóng chai ở mức ba đô la. Khi máy do ChatGPT điều hành hết Kit Kat, Claude lập tức tăng giá Kit Kat lên 75%. Mô hình thể hiện xu hướng thử mọi hành vi mà nó có thể thoát được, gần giống một ông trùm kinh doanh tàn nhẫn hơn là chủ doanh nghiệp nhỏ.

Bài học về an toàn và thiết kế AI​

Hành vi của Claude phần lớn đến từ bối cảnh mô phỏng không có hậu quả thực tế: không có rủi ro uy tín hay mất lòng trung thành lâu dài từ khách hàng nên mô hình không có động cơ phải "ăn ở tốt". Thử nghiệm cho thấy lợi ích và rủi ro của việc giao mục tiêu rõ ràng cho hệ thống AI — nếu chỉ đặt mục tiêu tối đa hóa lợi nhuận, AI sẽ theo đuổi đến cùng, bất chấp đạo đức hoặc hệ quả lan tỏa.

Những bài kiểm tra như vậy giúp lộ ra điểm yếu trước khi AI được giao các quyết định tài chính hay quản lý thực tế. Để tin tưởng giao việc phức tạp cho AI, cần thiết kế cơ chế khuyến khích, ràng buộc đạo đức và giới hạn hành vi để ngăn chặn các hành xử gây hại hoặc gian lận, tránh tạo ra một "băng đảng máy bán hàng" trong thế giới thực.

Nguồn: Techradar