AI Crazy
New member
CEO Anthropic Dario Amodei công khai cáo buộc OpenAI nói "nói dối trắng trợn" về các thỏa thuận với Lầu Năm Góc trong một bản ghi nhớ nội bộ. Vụ việc bùng lên sau khi Anthropic rút lui khỏi một thỏa thuận với cơ quan tình báo Mỹ vì lo ngại an toàn.
Dario Amodei, CEO Anthropic, trong một bản ghi nhớ nội bộ được The Information trích dẫn, cáo buộc thông điệp của OpenAI là "mendacious" (dối trá) và nhiều tuyên bố về "lớp an toàn" chỉ mang tính biểu diễn. Amodei mô tả một số cam kết của OpenAI là "safety theater" — tức là tạo cảm giác an toàn mà không thực sự đảm bảo được hạn chế rủi ro.
Trước đó, Anthropic đã rút khỏi một thỏa thuận với cơ quan tình báo Mỹ vì lo ngại về việc sử dụng AI cho giám sát quy mô lớn, đặc biệt liên quan tới công dân trong nước, và vũ khí hoàn toàn tự động. Sau động thái này, quan chức chính phủ và Tổng thống Mỹ công bố rằng bot Claude của Anthropic sẽ không còn được dùng trong các cơ quan chính phủ.
Ngay lập tức, OpenAI và CEO Sam Altman công bố một thỏa thuận riêng với quân đội Mỹ, khẳng định có "nhiều hàng rào bảo vệ" hơn so với thỏa thuận từng đề nghị với Anthropic. Thông tin này đã khiến phản ứng của người dùng gia tăng: số lượng gỡ cài đặt ChatGPT tăng mạnh trong khi Claude của Anthropic vọt lên thứ hạng trên App Store.
Trong bản ghi nhớ, Amodei chỉ ra rằng OpenAI dường như lo nhiều về việc làm hài lòng nhân viên hơn là thực sự bảo đảm cách dùng AI an toàn, và đặt câu hỏi về điều khoản "mọi sử dụng hợp pháp" trong hợp đồng với Lầu Năm Góc — một khái niệm có thể rất mơ hồ khi liên quan đến giám sát trong nước. Ông cũng nhấn mạnh rằng hệ thống AI có thể bị lợi dụng hoặc đánh lừa dễ dàng, đơn giản bằng cách cung cấp sai thông tin về bản chất dữ liệu mà chúng xử lý.
Sam Altman đã thừa nhận rằng thông báo ban đầu của OpenAI về thỏa thuận với quân đội được công bố một cách "vội vàng" và "cẩu thả". Trong khi đó, Financial Times đưa tin Anthropic có thể đang trở lại đàm phán với chính phủ Mỹ, dù chưa rõ các điều khoản mới sẽ như thế nào.
Diễn biến cho thấy quan hệ giữa các công ty AI và chính phủ Mỹ vẫn đang thay đổi liên tục, và tranh luận về an toàn, đạo đức cùng phạm vi sử dụng quân sự của AI tiếp tục là tâm điểm tranh luận.
Nguồn: Techradar
Dario Amodei, CEO Anthropic, trong một bản ghi nhớ nội bộ được The Information trích dẫn, cáo buộc thông điệp của OpenAI là "mendacious" (dối trá) và nhiều tuyên bố về "lớp an toàn" chỉ mang tính biểu diễn. Amodei mô tả một số cam kết của OpenAI là "safety theater" — tức là tạo cảm giác an toàn mà không thực sự đảm bảo được hạn chế rủi ro.
Trước đó, Anthropic đã rút khỏi một thỏa thuận với cơ quan tình báo Mỹ vì lo ngại về việc sử dụng AI cho giám sát quy mô lớn, đặc biệt liên quan tới công dân trong nước, và vũ khí hoàn toàn tự động. Sau động thái này, quan chức chính phủ và Tổng thống Mỹ công bố rằng bot Claude của Anthropic sẽ không còn được dùng trong các cơ quan chính phủ.
Ngay lập tức, OpenAI và CEO Sam Altman công bố một thỏa thuận riêng với quân đội Mỹ, khẳng định có "nhiều hàng rào bảo vệ" hơn so với thỏa thuận từng đề nghị với Anthropic. Thông tin này đã khiến phản ứng của người dùng gia tăng: số lượng gỡ cài đặt ChatGPT tăng mạnh trong khi Claude của Anthropic vọt lên thứ hạng trên App Store.
Trong bản ghi nhớ, Amodei chỉ ra rằng OpenAI dường như lo nhiều về việc làm hài lòng nhân viên hơn là thực sự bảo đảm cách dùng AI an toàn, và đặt câu hỏi về điều khoản "mọi sử dụng hợp pháp" trong hợp đồng với Lầu Năm Góc — một khái niệm có thể rất mơ hồ khi liên quan đến giám sát trong nước. Ông cũng nhấn mạnh rằng hệ thống AI có thể bị lợi dụng hoặc đánh lừa dễ dàng, đơn giản bằng cách cung cấp sai thông tin về bản chất dữ liệu mà chúng xử lý.
Sam Altman đã thừa nhận rằng thông báo ban đầu của OpenAI về thỏa thuận với quân đội được công bố một cách "vội vàng" và "cẩu thả". Trong khi đó, Financial Times đưa tin Anthropic có thể đang trở lại đàm phán với chính phủ Mỹ, dù chưa rõ các điều khoản mới sẽ như thế nào.
Diễn biến cho thấy quan hệ giữa các công ty AI và chính phủ Mỹ vẫn đang thay đổi liên tục, và tranh luận về an toàn, đạo đức cùng phạm vi sử dụng quân sự của AI tiếp tục là tâm điểm tranh luận.
Nguồn: Techradar
Bài viết liên quan
