AI Crazy
New member
John Carmack gợi ý dùng vòng cáp quang dài như một hình thức 'bộ nhớ' thay cho RAM trong các hệ thống AI. Ý tưởng có thể giúp tiết kiệm năng lượng và giảm áp lực lên nguồn cung RAM, nhưng vẫn gặp nhiều thách thức kỹ thuật.
John Carmack, đồng sáng lập id Software, đưa ra ý tưởng dùng vòng cáp quang dài để "lưu trữ" dữ liệu thay vì các mô-đun RAM truyền thống cho các tác vụ AI.
Theo lời Carmack trên X, tốc độ dữ liệu 256 Tb/s trên cáp quang đơn mode qua đoạn 200 km đã được chứng minh, tương đương khoảng 32 GB dữ liệu đang "lưu thông" trong sợi cáp và băng thông 32 TB/s. Ý tưởng là dùng một vòng cáp khép kín để truyền liên tục trọng số mô hình vào bộ nhớ đệm L2, thay vì dựa vào DRAM.
Cơ chế này chỉ hoạt động khi mẫu truy xuất trọng số có tính xác định và có thể truy cập tuần tự — tức là các trọng số được stream liên tục theo vòng, giúp bộ xử lý AI luôn có dữ liệu cần thiết.
Về mặt lịch sử, Carmack gọi đây là phiên bản hiện đại của các bộ nhớ dạng sóng như ống echo thủy ngân hay delay-line memory, nơi dữ liệu được lưu dưới dạng sóng chuyển động qua môi trường.
Ưu điểm tiềm năng rõ ràng: giảm năng lượng tiêu thụ so với RAM truyền thống, thân thiện với môi trường, và có thể giảm áp lực lên thị trường bộ nhớ đang thiếu hụt do nhu cầu AI tăng cao.
Tuy nhiên, ý tưởng này gặp nhiều rào cản kỹ thuật: cần lượng cáp rất lớn, khó giữ tín hiệu ổn định qua vòng dài, và hạn chế về kiểu truy cập dữ liệu (phù hợp với truy xuất tuần tự hơn). Do đó hiện tại nó là một khái niệm cho tương lai, chưa khả thi ngay.
Carmack cũng nêu giải pháp thực tế hơn trong ngắn hạn: ghép nhiều mô-đun flash rẻ tiền hoạt động đồng thời, đọc theo trang và pipeline tốt, để đạt băng thông lớn cần thiết cho inference. Yêu cầu then chốt là một giao diện tốc độ cao giữa bộ nhớ flash và bộ tăng tốc AI.
Tóm lại, dù không phải giải pháp ngay lập tức, ý tưởng dùng cáp quang làm "bộ nhớ" cho AI mở ra hướng suy nghĩ mới có thể góp phần giảm bớt cuộc khủng hoảng RAM đang ảnh hưởng tới người dùng và ngành công nghiệp.
Nguồn: Techradar
John Carmack, đồng sáng lập id Software, đưa ra ý tưởng dùng vòng cáp quang dài để "lưu trữ" dữ liệu thay vì các mô-đun RAM truyền thống cho các tác vụ AI.
Theo lời Carmack trên X, tốc độ dữ liệu 256 Tb/s trên cáp quang đơn mode qua đoạn 200 km đã được chứng minh, tương đương khoảng 32 GB dữ liệu đang "lưu thông" trong sợi cáp và băng thông 32 TB/s. Ý tưởng là dùng một vòng cáp khép kín để truyền liên tục trọng số mô hình vào bộ nhớ đệm L2, thay vì dựa vào DRAM.
Cơ chế này chỉ hoạt động khi mẫu truy xuất trọng số có tính xác định và có thể truy cập tuần tự — tức là các trọng số được stream liên tục theo vòng, giúp bộ xử lý AI luôn có dữ liệu cần thiết.
Về mặt lịch sử, Carmack gọi đây là phiên bản hiện đại của các bộ nhớ dạng sóng như ống echo thủy ngân hay delay-line memory, nơi dữ liệu được lưu dưới dạng sóng chuyển động qua môi trường.
Ưu điểm tiềm năng rõ ràng: giảm năng lượng tiêu thụ so với RAM truyền thống, thân thiện với môi trường, và có thể giảm áp lực lên thị trường bộ nhớ đang thiếu hụt do nhu cầu AI tăng cao.
Tuy nhiên, ý tưởng này gặp nhiều rào cản kỹ thuật: cần lượng cáp rất lớn, khó giữ tín hiệu ổn định qua vòng dài, và hạn chế về kiểu truy cập dữ liệu (phù hợp với truy xuất tuần tự hơn). Do đó hiện tại nó là một khái niệm cho tương lai, chưa khả thi ngay.
Carmack cũng nêu giải pháp thực tế hơn trong ngắn hạn: ghép nhiều mô-đun flash rẻ tiền hoạt động đồng thời, đọc theo trang và pipeline tốt, để đạt băng thông lớn cần thiết cho inference. Yêu cầu then chốt là một giao diện tốc độ cao giữa bộ nhớ flash và bộ tăng tốc AI.
Tóm lại, dù không phải giải pháp ngay lập tức, ý tưởng dùng cáp quang làm "bộ nhớ" cho AI mở ra hướng suy nghĩ mới có thể góp phần giảm bớt cuộc khủng hoảng RAM đang ảnh hưởng tới người dùng và ngành công nghiệp.
Nguồn: Techradar
Bài viết liên quan
