Love AI
New member
Amazon Web Services đang thử nghiệm 'AI Factories' — giải pháp hạ tầng AI toàn diện đặt ngay trong trung tâm dữ liệu của khách hàng. AWS sẽ cung cấp và quản lý phần cứng cùng phần mềm AI, trong khi khách hàng đảm nhiệm cơ sở vật chất và nguồn điện.
Amazon Web Services (AWS) vừa công bố thêm thông tin về AI Factories — một giải pháp hạ tầng AI toàn diện đặt ngay trong trung tâm dữ liệu của khách hàng.
Thay vì chạy trên đám mây công cộng, hệ thống này để khách hàng cung cấp cơ sở vật chất và nguồn điện, còn AWS sẽ triển khai và quản lý toàn bộ phần cứng lẫn phần mềm AI. Mô hình được ví gần giống như một vùng AWS riêng tư đặt ngay tại cơ sở của khách hàng.
Giải pháp giúp tổ chức kiểm soát tốt hơn về chủ quyền dữ liệu, an ninh và yêu cầu pháp lý, đồng thời vẫn cho phép truy cập các tùy chọn phần cứng cao cấp như GPU Blackwell của NVIDIA hoặc bộ tăng tốc Trainium3 của Amazon.
Nhiều doanh nghiệp và cơ quan chính phủ cần chạy mô hình AI với dữ liệu nhạy cảm nhưng bị hạn chế khi phải chuyển dữ liệu ra khỏi cơ sở. Xây dựng hạ tầng AI độc lập mất nhiều thời gian và chi phí lớn; AWS khẳng định có thể triển khai các hệ thống này trong vài tháng, giúp tránh gánh nặng chi tiêu đầu tư ban đầu (capex).
Khi AWS quản lý toàn bộ môi trường AI độc quyền cho một khách hàng, dữ liệu sẽ được giữ tại chỗ và phần cứng không bị chia sẻ với bên khác. Động thái này phản ánh xu hướng ngược lại so với việc dịch chuyển mạnh sang đám mây trong những năm gần đây, do lo ngại về bảo mật, đào tạo AI và an ninh quốc gia.
Ian Buck, Phó chủ tịch và tổng quản lý mảng Hyperscale và HPC của NVIDIA, nhận xét: “Bằng cách kết hợp kiến trúc Grace Blackwell và Vera Rubin mới nhất của NVIDIA với hạ tầng bảo mật, hiệu năng cao và ngăn xếp phần mềm AI của AWS, AWS AI Factories cho phép tổ chức triển khai năng lực AI mạnh mẽ trong thời gian rất ngắn và tập trung hoàn toàn vào đổi mới thay vì tích hợp.”
Amazon không phải công ty duy nhất hướng tới ý tưởng này. Microsoft cũng có giải pháp tương tự mang tên Azure Local, với phần cứng do Microsoft quản lý cài đặt ngay trong cơ sở của khách hàng để đáp ứng yêu cầu chủ quyền dữ liệu.
Việc đưa phần cứng AI đến gần hơn với khách hàng đánh dấu một bước chuyển đáng chú ý trong cách doanh nghiệp tiếp cận công nghệ AI — kết hợp lợi ích của cả đám mây lẫn hạ tầng tại chỗ.
Amazon Web Services (AWS) vừa công bố thêm thông tin về AI Factories — một giải pháp hạ tầng AI toàn diện đặt ngay trong trung tâm dữ liệu của khách hàng.
Thay vì chạy trên đám mây công cộng, hệ thống này để khách hàng cung cấp cơ sở vật chất và nguồn điện, còn AWS sẽ triển khai và quản lý toàn bộ phần cứng lẫn phần mềm AI. Mô hình được ví gần giống như một vùng AWS riêng tư đặt ngay tại cơ sở của khách hàng.
Giải pháp giúp tổ chức kiểm soát tốt hơn về chủ quyền dữ liệu, an ninh và yêu cầu pháp lý, đồng thời vẫn cho phép truy cập các tùy chọn phần cứng cao cấp như GPU Blackwell của NVIDIA hoặc bộ tăng tốc Trainium3 của Amazon.
Nhiều doanh nghiệp và cơ quan chính phủ cần chạy mô hình AI với dữ liệu nhạy cảm nhưng bị hạn chế khi phải chuyển dữ liệu ra khỏi cơ sở. Xây dựng hạ tầng AI độc lập mất nhiều thời gian và chi phí lớn; AWS khẳng định có thể triển khai các hệ thống này trong vài tháng, giúp tránh gánh nặng chi tiêu đầu tư ban đầu (capex).
Khi AWS quản lý toàn bộ môi trường AI độc quyền cho một khách hàng, dữ liệu sẽ được giữ tại chỗ và phần cứng không bị chia sẻ với bên khác. Động thái này phản ánh xu hướng ngược lại so với việc dịch chuyển mạnh sang đám mây trong những năm gần đây, do lo ngại về bảo mật, đào tạo AI và an ninh quốc gia.
Ian Buck, Phó chủ tịch và tổng quản lý mảng Hyperscale và HPC của NVIDIA, nhận xét: “Bằng cách kết hợp kiến trúc Grace Blackwell và Vera Rubin mới nhất của NVIDIA với hạ tầng bảo mật, hiệu năng cao và ngăn xếp phần mềm AI của AWS, AWS AI Factories cho phép tổ chức triển khai năng lực AI mạnh mẽ trong thời gian rất ngắn và tập trung hoàn toàn vào đổi mới thay vì tích hợp.”
Amazon không phải công ty duy nhất hướng tới ý tưởng này. Microsoft cũng có giải pháp tương tự mang tên Azure Local, với phần cứng do Microsoft quản lý cài đặt ngay trong cơ sở của khách hàng để đáp ứng yêu cầu chủ quyền dữ liệu.
Việc đưa phần cứng AI đến gần hơn với khách hàng đánh dấu một bước chuyển đáng chú ý trong cách doanh nghiệp tiếp cận công nghệ AI — kết hợp lợi ích của cả đám mây lẫn hạ tầng tại chỗ.
Bài viết liên quan
