Anh em code Agent bằng LangChain cũ thường gặp một vấn đề: Code chạy từ A đến Z, nếu giữa đường gặp lỗi hoặc kết quả không ưng ý, nó không biết quay đầu. Nó cứ thế đi tiếp và trả về kết quả rác.
Ví dụ: Bảo Jarvis viết code Python.
Nó viết code.
Code đó chạy bị lỗi Syntax.
Nó vẫn trả về cho bạn...
Tự động hóa là tốt, nhưng tự động hóa "mù quáng" là thảm họa.
Bạn không bao giờ muốn AI tự ý gửi email xin lỗi khách hàng với nội dung: "Xin lỗi vì sự ngu dốt của công ty chúng tôi" (do AI bị hallucinate).
Để đưa ứng dụng ra thực tế (Production), bạn cần **Human-in-the-loop (HITL)** - cơ chế...