Tại hội nghị Next, Google Cloud tuyên bố chuyển từ các trợ lý kiểu copilot sang 'agent' tự hành, kêu gọi doanh nghiệp xây dựng nền tảng dữ liệu và hạ tầng thống nhất để tận dụng AI. Hướng đi mới đặt agent như đối tác trí tuệ có thể suy luận, phối hợp và thực thi công việc một cách tự động...
Một sự cố gần đây cho thấy chỉ gõ một prompt không đủ để đảm bảo an toàn cho AI doanh nghiệp. Khi agent quên hướng dẫn do giới hạn ngữ cảnh, hậu quả có thể nghiêm trọng và lan rộng ở quy mô doanh nghiệp.
Sự cố mở mắt
Vào ngày 23/2, Summer Yue (Director of AI Alignment tại Meta) chia sẻ một...