AI Crazy
New member
Công cụ AI giúp lập trình viên viết code nhanh hơn nhưng đã tạo ra núi mã chưa được kiểm tra, đặt ra rủi ro bảo mật mới. Nhiều công ty đang vật lộn với lượng mã tăng nhanh và thiếu chuyên gia an ninh ứng dụng để rà soát.
Công cụ lập trình dựa trên AI đã giúp đội ngũ kỹ sư viết mã nhanh hơn bao giờ hết — nhưng điều đó lại tạo ra một vấn đề mới: lượng mã khổng lồ chưa được xem xét kỹ lưỡng. Theo báo New York Times, một công ty dịch vụ tài chính dùng công cụ Cursor đã tăng sản lượng từ 25.000 lên 250.000 dòng mã mỗi tháng, dẫn tới tồn đọng lên đến một triệu dòng mã chưa qua kiểm duyệt.
“Khối lượng mã được giao và sự gia tăng lỗ hổng là điều họ không thể theo kịp,” nói Joni Klippert, CEO của StackHawk, một startup chuyên về bảo mật đang làm việc với công ty đó.
Một nút thắt khác là thiếu hụt nhân lực chuyên trách: kỹ sư an ninh ứng dụng là những người chịu trách nhiệm phát hiện lỗi trong mã do AI tạo ra, và hiện có quá ít người cho vị trí này. “Không có đủ kỹ sư an ninh ứng dụng trên hành tinh để đáp ứng nhu cầu chỉ riêng các công ty Mỹ cần,” theo Joe Sullivan, cố vấn tại Costanoa Ventures.
Rủi ro không chỉ nằm ở số lượng người rà soát. Nhiều công cụ AI hoạt động tốt nhất trên máy cá nhân, buộc kỹ sư phải tải cả codebase về thiết bị riêng. Nếu một laptop bị mất hoặc bị tấn công, rất nhiều dữ liệu nhạy cảm có thể bị lộ.
Phản ứng của thị trường là các công ty công nghệ (như Anthropic, OpenAI và Cursor) đang phát triển công cụ kiểm duyệt mã do AI hỗ trợ để bắt lỗi tự động; thậm chí Cursor đã mua lại một startup chuyên review mã để tích hợp tính năng này. Dù vậy, câu hỏi đặt ra là liệu các công cụ này có đủ đáng tin cậy để thay thế hoàn toàn con người hay không.
Tôi còn nghi ngờ về việc trao hoàn toàn trách nhiệm cho AI. AI có thể phát hiện nhiều lỗi, nhưng kiểm duyệt cuối cùng trước khi đưa mã vào môi trường sản xuất vẫn cần con người. Có tiền lệ cho thấy mã do AI gây ra sự cố nghiêm trọng: một lỗi liên quan đến AI từng khiến Amazon gặp sự cố, dẫn tới hơn 100.000 đơn hàng bị mất và 1,6 triệu lỗi hệ thống.
Giải pháp cần sự kết hợp: tăng cường tuyển dụng kỹ sư an ninh ứng dụng, điều chỉnh quy trình phát triển để kiểm soát sản lượng mã, triển khai công cụ review do AI hỗ trợ nhưng không phụ thuộc hoàn toàn vào nó, và siết chặt quản lý khi dùng công cụ AI trên máy cá nhân. Chỉ khi có quy trình và con người phù hợp, lợi ích về tốc độ từ AI mới có thể được khai thác an toàn.
Nguồn: Digitaltrends
AI tăng tốc phát triển, đồng thời tạo ra áp lực kiểm duyệt
Công cụ lập trình dựa trên AI đã giúp đội ngũ kỹ sư viết mã nhanh hơn bao giờ hết — nhưng điều đó lại tạo ra một vấn đề mới: lượng mã khổng lồ chưa được xem xét kỹ lưỡng. Theo báo New York Times, một công ty dịch vụ tài chính dùng công cụ Cursor đã tăng sản lượng từ 25.000 lên 250.000 dòng mã mỗi tháng, dẫn tới tồn đọng lên đến một triệu dòng mã chưa qua kiểm duyệt.
“Khối lượng mã được giao và sự gia tăng lỗ hổng là điều họ không thể theo kịp,” nói Joni Klippert, CEO của StackHawk, một startup chuyên về bảo mật đang làm việc với công ty đó.
Một nút thắt khác là thiếu hụt nhân lực chuyên trách: kỹ sư an ninh ứng dụng là những người chịu trách nhiệm phát hiện lỗi trong mã do AI tạo ra, và hiện có quá ít người cho vị trí này. “Không có đủ kỹ sư an ninh ứng dụng trên hành tinh để đáp ứng nhu cầu chỉ riêng các công ty Mỹ cần,” theo Joe Sullivan, cố vấn tại Costanoa Ventures.
Rủi ro không chỉ nằm ở số lượng người rà soát. Nhiều công cụ AI hoạt động tốt nhất trên máy cá nhân, buộc kỹ sư phải tải cả codebase về thiết bị riêng. Nếu một laptop bị mất hoặc bị tấn công, rất nhiều dữ liệu nhạy cảm có thể bị lộ.
Phản ứng của thị trường là các công ty công nghệ (như Anthropic, OpenAI và Cursor) đang phát triển công cụ kiểm duyệt mã do AI hỗ trợ để bắt lỗi tự động; thậm chí Cursor đã mua lại một startup chuyên review mã để tích hợp tính năng này. Dù vậy, câu hỏi đặt ra là liệu các công cụ này có đủ đáng tin cậy để thay thế hoàn toàn con người hay không.
Tôi còn nghi ngờ về việc trao hoàn toàn trách nhiệm cho AI. AI có thể phát hiện nhiều lỗi, nhưng kiểm duyệt cuối cùng trước khi đưa mã vào môi trường sản xuất vẫn cần con người. Có tiền lệ cho thấy mã do AI gây ra sự cố nghiêm trọng: một lỗi liên quan đến AI từng khiến Amazon gặp sự cố, dẫn tới hơn 100.000 đơn hàng bị mất và 1,6 triệu lỗi hệ thống.
Giải pháp cần sự kết hợp: tăng cường tuyển dụng kỹ sư an ninh ứng dụng, điều chỉnh quy trình phát triển để kiểm soát sản lượng mã, triển khai công cụ review do AI hỗ trợ nhưng không phụ thuộc hoàn toàn vào nó, và siết chặt quản lý khi dùng công cụ AI trên máy cá nhân. Chỉ khi có quy trình và con người phù hợp, lợi ích về tốc độ từ AI mới có thể được khai thác an toàn.
Nguồn: Digitaltrends
Bài viết liên quan
