Love AI
New member
OpenAI đang tuyển một vị trí 'Head of Preparedness' với mức lương 555.000 USD/năm kèm cổ phiếu. Sam Altman cảnh báo đây là công việc căng thẳng, tập trung vào phòng ngừa rủi ro do mô hình AI ngày càng mạnh.
OpenAI vừa thông báo tuyển Head of Preparedness — người sẽ lãnh đạo một nhóm nhỏ nhưng được kỳ vọng có tác động lớn — với mức lương 555.000 USD mỗi năm cùng khoản cổ phần. Sam Altman nhắc rõ đây là vai trò áp lực cao và ứng viên sẽ phải lao ngay vào những vấn đề phức tạp liên quan đến an toàn AI.
Nhiệm vụ chính của vị trí này bao gồm hiểu rõ cách các mô hình tiên tiến có thể bị lạm dụng, định hướng các quyết định về an toàn, và củng cố hệ thống của OpenAI để giảm thiểu rủi ro cả trong sản phẩm lẫn tác động ra xã hội. Công việc đòi hỏi phân tích tinh vi, đo lường rủi ro và xây dựng biện pháp hạn chế tác hại hiệu quả.
Altman cho biết OpenAI đã chứng kiến một “bản xem trước” về các tác động sức khỏe tâm thần liên quan tới mô hình vào năm 2025, và công ty từng phải rollback một bản cập nhật GPT-4o sau khi thừa nhận khả năng củng cố hành vi gây hại ở người dùng. Những ví dụ này cho thấy lý do cần có người phụ trách chuyên sâu để ngăn chặn hệ quả tiêu cực.
Một số người từng nắm vai trò này trước đây gồm Aleksander Madry, Joaquin Quiñonero Candela và Lilian Weng, nhưng các nhân sự này đã được điều chuyển hoặc đảm nhiệm những vị trí khác. Điều đó cho thấy cơ cấu trách nhiệm về 'preparedness' ở OpenAI đã trải qua nhiều thay đổi từ trước đến nay.
Altman thẳng thắn: "Đây sẽ là một công việc căng thẳng và bạn sẽ phải nhảy ngay xuống phần sâu nhất ngay lập tức." Lời cảnh báo phản ánh tính cấp bách và mức độ phức tạp trong việc cân bằng giữa đổi mới công nghệ và an toàn cộng đồng.
Cũng có nhiều chỉ trích từ cựu nhân viên cho rằng OpenAI từng thiên về cơ hội thương mại và mục tiêu AGI. Việc công bố vị trí với gói đãi ngộ cao có thể là dấu hiệu cho thấy công ty đang nỗ lực chú trọng hơn đến an toàn và sẵn sàng đầu tư nguồn lực để giảm thiểu rủi ro.
Dù vậy, thực tế vị trí mới sẽ hoạt động ra sao và liệu sự bổ sung này có đủ để thay đổi văn hóa, chiến lược của OpenAI hay không vẫn cần thời gian để đánh giá. Vị trí Head of Preparedness cho thấy an toàn AI đang ngày càng được đặt lên hàng đầu trong các quyết định vận hành của các công ty phát triển mô hình lớn.
OpenAI vừa thông báo tuyển Head of Preparedness — người sẽ lãnh đạo một nhóm nhỏ nhưng được kỳ vọng có tác động lớn — với mức lương 555.000 USD mỗi năm cùng khoản cổ phần. Sam Altman nhắc rõ đây là vai trò áp lực cao và ứng viên sẽ phải lao ngay vào những vấn đề phức tạp liên quan đến an toàn AI.
Nhiệm vụ chính của vị trí này bao gồm hiểu rõ cách các mô hình tiên tiến có thể bị lạm dụng, định hướng các quyết định về an toàn, và củng cố hệ thống của OpenAI để giảm thiểu rủi ro cả trong sản phẩm lẫn tác động ra xã hội. Công việc đòi hỏi phân tích tinh vi, đo lường rủi ro và xây dựng biện pháp hạn chế tác hại hiệu quả.
Altman cho biết OpenAI đã chứng kiến một “bản xem trước” về các tác động sức khỏe tâm thần liên quan tới mô hình vào năm 2025, và công ty từng phải rollback một bản cập nhật GPT-4o sau khi thừa nhận khả năng củng cố hành vi gây hại ở người dùng. Những ví dụ này cho thấy lý do cần có người phụ trách chuyên sâu để ngăn chặn hệ quả tiêu cực.
Một số người từng nắm vai trò này trước đây gồm Aleksander Madry, Joaquin Quiñonero Candela và Lilian Weng, nhưng các nhân sự này đã được điều chuyển hoặc đảm nhiệm những vị trí khác. Điều đó cho thấy cơ cấu trách nhiệm về 'preparedness' ở OpenAI đã trải qua nhiều thay đổi từ trước đến nay.
Altman thẳng thắn: "Đây sẽ là một công việc căng thẳng và bạn sẽ phải nhảy ngay xuống phần sâu nhất ngay lập tức." Lời cảnh báo phản ánh tính cấp bách và mức độ phức tạp trong việc cân bằng giữa đổi mới công nghệ và an toàn cộng đồng.
Cũng có nhiều chỉ trích từ cựu nhân viên cho rằng OpenAI từng thiên về cơ hội thương mại và mục tiêu AGI. Việc công bố vị trí với gói đãi ngộ cao có thể là dấu hiệu cho thấy công ty đang nỗ lực chú trọng hơn đến an toàn và sẵn sàng đầu tư nguồn lực để giảm thiểu rủi ro.
Dù vậy, thực tế vị trí mới sẽ hoạt động ra sao và liệu sự bổ sung này có đủ để thay đổi văn hóa, chiến lược của OpenAI hay không vẫn cần thời gian để đánh giá. Vị trí Head of Preparedness cho thấy an toàn AI đang ngày càng được đặt lên hàng đầu trong các quyết định vận hành của các công ty phát triển mô hình lớn.
Bài viết liên quan