AI Crazy
New member
Gần một nghìn nhân viên từ Google và OpenAI vừa ký thư ngỏ kêu gọi hai công ty kiên quyết không nhượng bộ trước áp lực từ quân đội Mỹ trong việc nới lỏng giới hạn sử dụng AI. Thư này nhắm tới những yêu cầu liên quan giám sát trong nước và vũ khí tự hành.
Gần 1.000 kỹ sư và nhân viên từ Google và OpenAI đã ký một bức thư ngỏ kêu gọi lãnh đạo công ty không chấp nhận các yêu cầu từ quân đội Mỹ nhằm nới lỏng các giới hạn đạo đức về cách sử dụng hệ thống AI. Thư tuyên bố “We Will Not Be Divided” và thể hiện quyết tâm đoàn kết trước áp lực bên ngoài.
Trong thư, các ký tên nêu rõ lo ngại về việc một số quan chức muốn buộc các công ty công nghệ từ bỏ ranh giới đạo đức mà họ đã đặt ra, đồng thời đề cập tới động thái của Lầu Năm Góc khi gán mác "rủi ro chuỗi cung ứng" cho Anthropic sau khi công ty này từ chối cho phép công nghệ của họ dùng cho giám sát quy mô lớn trong nước hoặc vũ khí hoàn toàn tự hành.
Các ký giả cảnh báo rằng áp lực kiểu chia rẽ — tạo lo sợ rằng bên này sẽ chịu thua còn bên kia không — chỉ hiệu quả khi các công ty không biết lập trường của nhau. Do đó, bức thư nhằm tạo sự hiểu biết chung và thể hiện sự đoàn kết của những người làm việc trong lĩnh vực AI.
Các cơ quan quân sự trên thế giới đang tìm cách tích hợp AI vào hoạch định chiến lược, phân tích tình báo, giám sát và mục tiêu. Những mô hình sinh ngôn ngữ và hệ thống AI tiên tiến có thể làm tăng tốc độ và quy mô khả năng do thám và định vị mục tiêu, khiến rủi ro liên quan tới quyền riêng tư và an toàn con người tăng cao.
Một số nghiên cứu mô phỏng cho thấy AI trong kịch bản chiến tranh có thể thiên về các phương án cực đoan, thậm chí phương án hủy diệt, nếu hệ thống bị tối ưu hóa theo mục tiêu sai lệch. Vì vậy, để AI trực tiếp kiểm soát vũ khí hoặc hệ thống giám sát mà không có giới hạn chặt chẽ là điều khiến nhiều kỹ sư và chuyên gia lo ngại.
Đây không phải là lần đầu nhân viên ngành công nghệ phản đối hợp tác với quân đội. Năm 2018, hàng nghìn nhân viên Google phản đối dự án Maven của Lầu Năm Góc liên quan đến phân tích hình ảnh từ drone, dẫn đến việc Google không tái ký hợp đồng và sau đó công bố bộ nguyên tắc AI của mình. Những nguyên tắc này cam kết không phát triển công nghệ nhằm gây hại hay vi phạm các chuẩn mực quốc tế về giám sát.
Dù chưa rõ bức thư sẽ thay đổi quyết định của các công ty lớn đến đâu, nó ít nhất gửi một thông điệp rõ ràng: nhiều người trong ngành không chấp nhận việc nới lỏng các giới hạn đạo đức cho AI vì mục đích quân sự hoặc giám sát hàng loạt. Lá thư tạo nền tảng cho sự đoàn kết nội bộ và giúp các kỹ sư có cơ sở công khai lập trường trước áp lực từ bên ngoài.
Nguồn: Techradar
Những gì diễn ra
Gần 1.000 kỹ sư và nhân viên từ Google và OpenAI đã ký một bức thư ngỏ kêu gọi lãnh đạo công ty không chấp nhận các yêu cầu từ quân đội Mỹ nhằm nới lỏng các giới hạn đạo đức về cách sử dụng hệ thống AI. Thư tuyên bố “We Will Not Be Divided” và thể hiện quyết tâm đoàn kết trước áp lực bên ngoài.
Trong thư, các ký tên nêu rõ lo ngại về việc một số quan chức muốn buộc các công ty công nghệ từ bỏ ranh giới đạo đức mà họ đã đặt ra, đồng thời đề cập tới động thái của Lầu Năm Góc khi gán mác "rủi ro chuỗi cung ứng" cho Anthropic sau khi công ty này từ chối cho phép công nghệ của họ dùng cho giám sát quy mô lớn trong nước hoặc vũ khí hoàn toàn tự hành.
Các ký giả cảnh báo rằng áp lực kiểu chia rẽ — tạo lo sợ rằng bên này sẽ chịu thua còn bên kia không — chỉ hiệu quả khi các công ty không biết lập trường của nhau. Do đó, bức thư nhằm tạo sự hiểu biết chung và thể hiện sự đoàn kết của những người làm việc trong lĩnh vực AI.
Vì sao vấn đề này quan trọng
Các cơ quan quân sự trên thế giới đang tìm cách tích hợp AI vào hoạch định chiến lược, phân tích tình báo, giám sát và mục tiêu. Những mô hình sinh ngôn ngữ và hệ thống AI tiên tiến có thể làm tăng tốc độ và quy mô khả năng do thám và định vị mục tiêu, khiến rủi ro liên quan tới quyền riêng tư và an toàn con người tăng cao.
Một số nghiên cứu mô phỏng cho thấy AI trong kịch bản chiến tranh có thể thiên về các phương án cực đoan, thậm chí phương án hủy diệt, nếu hệ thống bị tối ưu hóa theo mục tiêu sai lệch. Vì vậy, để AI trực tiếp kiểm soát vũ khí hoặc hệ thống giám sát mà không có giới hạn chặt chẽ là điều khiến nhiều kỹ sư và chuyên gia lo ngại.
Bối cảnh lịch sử
Đây không phải là lần đầu nhân viên ngành công nghệ phản đối hợp tác với quân đội. Năm 2018, hàng nghìn nhân viên Google phản đối dự án Maven của Lầu Năm Góc liên quan đến phân tích hình ảnh từ drone, dẫn đến việc Google không tái ký hợp đồng và sau đó công bố bộ nguyên tắc AI của mình. Những nguyên tắc này cam kết không phát triển công nghệ nhằm gây hại hay vi phạm các chuẩn mực quốc tế về giám sát.
Ý nghĩa của bức thư
Dù chưa rõ bức thư sẽ thay đổi quyết định của các công ty lớn đến đâu, nó ít nhất gửi một thông điệp rõ ràng: nhiều người trong ngành không chấp nhận việc nới lỏng các giới hạn đạo đức cho AI vì mục đích quân sự hoặc giám sát hàng loạt. Lá thư tạo nền tảng cho sự đoàn kết nội bộ và giúp các kỹ sư có cơ sở công khai lập trường trước áp lực từ bên ngoài.
Nguồn: Techradar
Bài viết liên quan
