Trưởng robotics OpenAI từ chức phản đối thỏa thuận quân sự

[Love AI]

Trưởng mảng robotics của OpenAI, Caitlin Kalinowski, vừa tuyên bố từ chức sau khi công ty ký thỏa thuận với Lầu Năm Góc. Bà lo ngại về tốc độ quyết định và nguy cơ liên quan đến giám sát công dân cùng vũ khí tự động.

Caitlin Kalinowski, người lãnh đạo nhóm robotics tại OpenAI, đã từ chức vì bất đồng với thỏa thuận giữa công ty và Bộ Quốc phòng Mỹ liên quan đến việc triển khai mô hình AI trong một số hệ thống chính phủ. Bà nhấn mạnh mối quan ngại về quy trình ra quyết định bị thúc gấp và thiếu các biện pháp quản trị rõ ràng.

Lý do từ chức​

Kalinsowski cho biết vấn đề chính không phải là quan hệ đối tác với quốc phòng mà là tốc độ và cách thức thông qua thỏa thuận. Bà viết rằng: 'Giám sát người dân Mỹ mà không có giám sát tư pháp và vũ khí sát thương hoạt động tự động mà không có sự cho phép của con người là những ranh giới cần được bàn thảo kỹ lưỡng hơn.'

Bối cảnh rộng hơn​

Thời điểm thỏa thuận được công bố càng gây chú ý vì diễn ra chỉ vài giờ sau khi hãng AI đối thủ, Anthropic, từ chối cho phép sử dụng rộng rãi mô hình của họ cho mục đích quân sự. Quyết định của Anthropic đã khiến một số quan chức coi họ là rủi ro cho chuỗi cung ứng khi không cung cấp quyền truy cập không giới hạn.

Những thỏa thuận liên quan hạ tầng quốc phòng thường đi kèm đàm phán kéo dài và giám sát chặt chẽ; việc OpenAI công bố nhanh chóng đã đặt ra câu hỏi về quy trình thẩm định nội bộ. Kalinowski nhấn mạnh bà phản đối không phải vì mâu thuẫn cá nhân mà vì lo ngại về quản trị.

Phản hồi của OpenAI​

CEO OpenAI, Sam Altman, đã cố trấn an công chúng bằng nói rằng hợp đồng sẽ được điều chỉnh để đảm bảo mô hình không bị dùng cho giám sát nội địa công dân Mỹ. Công ty cũng tuyên bố phản đối việc phát triển hệ thống sát thương hoàn toàn tự động, nhưng việc phải lên tiếng nhắc lại lập trường này khiến nhiều người vẫn lo ngại.

Ý nghĩa và hệ quả​

Sự kiện cho thấy mối quan hệ ngày càng phức tạp giữa các công ty AI tiên tiến và cơ quan an ninh quốc gia. Dù việc từ chức của Kalinowski có thể không làm đổ vỡ hoàn toàn quan hệ đối tác quốc phòng của OpenAI, nó có thể khơi gợi thêm thảo luận, làm chậm tiến trình hoặc yêu cầu tăng cường cơ chế giám sát.

Trong bối cảnh một số cơ quan xem AI là năng lực chiến lược, còn nhiều doanh nghiệp lo ngại về mức độ hợp tác với quân đội, sự việc nhấn mạnh rằng các quyết định về việc ứng dụng AI trong an ninh quốc gia cần được cân nhắc kỹ lưỡng và minh bạch hơn.

Nguồn: Techradar