Nvidia và liên minh gồm 27 công ty công nghệ đã thành lập Liên minh AI bảo mật mở để thúc đẩy các công cụ an ninh mạng phòng thủ nguồn mở. Nhóm tìm cách bảo vệ các doanh nghiệp khỏi các sự cố trong tương lai, tương tự như cuộc tấn công lừa đảo gần đây vào Ôm Mặt, nơi các mô hình thương mại khép kín không hỗ trợ được việc bảo vệ công ty.
Ra mắt Liên minh AI bảo mật mở
Trong một động thái chiến lược nhằm định hình lại an ninh mạng trong thời đại trí tuệ nhân tạo, Nvidia đã dẫn đầu việc thành lập Liên minh AI bảo mật mở. Liên minh này tập hợp 27 tổ chức công nghệ có ảnh hưởng, bao gồm các công ty lớn như Microsoft, Dell, SpaceX, The Linux Foundation và IBM. Liên minh được cấu trúc để tận dụng các khuôn khổ nguồn mở hiện có, xây dựng trực tiếp dựa trên những nỗ lực nền tảng của sáng kiến Akrites của Quỹ Linux và cộng đồng OpenSSF. Mục tiêu chính của liên minh là thiết lập các phương pháp hợp tác, hiệu quả hơn để phát hiện và khắc phục các lỗ hổng phần mềm. Bằng cách tổng hợp các nguồn lực và kiến thức chuyên môn, nhóm nhằm mục đích cung cấp cho các tổ chức các công cụ phòng thủ cần thiết để điều hướng các mối đe dọa kỹ thuật số ngày càng phức tạp, nơi các biện pháp bảo mật nguồn đóng, truyền thống có thể tỏ ra không đủ hoặc quá hạn chế trong các nỗ lực ứng phó quan trọng.
Sự cố ôm mặt và những hạn chế của người mẫu
Sự hình thành của liên minh này được thúc đẩy trực tiếp bởi một sự cố bảo mật quan trọng liên quan đến công ty khởi nghiệp Hugging Face, công ty phải đối mặt với một cuộc tấn công mạng lừa đảo. Khi Ôm Mặt cố gắng sử dụng các mô hình AI biên giới nguồn đóng, thương mại hàng đầu để phát hiện và đẩy lùi hoạt động trái phép, họ phát hiện ra rằng các biện pháp bảo vệ an toàn của mô hình khiến chúng không hiệu quả. Vì các hệ thống này không thể phân biệt giữa kẻ tấn công và người bảo vệ nên các yêu cầu phân tích pháp y của nền tảng liên tục bị từ chối. Điều này buộc nhóm kỹ thuật phải chuyển sang các mô hình trọng lượng mở, tự lưu trữ, cụ thể là hệ thống GLM 5.2. Bằng cách chạy giải pháp thay thế mở này trên cơ sở hạ tầng của riêng mình, Hugging Face đã phân tích thành công hơn 17.000 hành động riêng biệt và ngăn chặn hành vi xâm nhập. Trải nghiệm này nêu bật điều mà các thành viên liên minh mô tả là một sự thật thực tế: khi những người bảo vệ thiếu khả năng kiểm tra và điều chỉnh phần mềm AI theo cách riêng của họ, khả năng ứng phó của họ trong các trường hợp khẩn cấp có tính rủi ro cao bị cản trở nghiêm trọng.
Đóng góp và mục tiêu hợp tác
Các thành viên sáng lập của liên minh đã cam kết đóng góp tài sản chuyên biệt để củng cố hệ sinh thái. Nvidia đang cung cấp các mô hình mở, trọng lượng toàn diện, bộ dữ liệu và khai thác tác nhân mới được thiết kế để đẩy nhanh việc tạo ra các công cụ an ninh mạng tiên tiến. Hewlett Packard Enterprise (HPE) được giao nhiệm vụ phát triển các tiêu chuẩn để tạo điều kiện thuận lợi cho việc xác minh mật mã của các tác nhân và dịch vụ AI, đảm bảo độ tin cậy và trách nhiệm giải trình cao hơn trong các hệ thống tự động. Hơn nữa, Hugging Face đang đóng góp Safetensors, một định dạng an toàn được thiết kế đặc biệt để lưu trữ trọng lượng mô hình AI. Liên minh đang tích cực kêu gọi các chính phủ coi cơ sở hạ tầng AI mở như một tài sản phòng thủ quốc gia hơn là một trách nhiệm pháp lý. Họ lập luận rằng việc áp đặt các hạn chế chung đối với các mô hình biên giới có trọng lượng mở sẽ phản tác dụng, hạn chế hiệu quả khả năng phòng thủ trong khi tập trung quyền lực đáng kể vào một nhóm nhỏ các nhà cung cấp AI độc quyền, những người có thể không phục vụ nhu cầu bảo mật rộng hơn của ngành.
Căng thẳng quy định và mô hình AI của Trung Quốc
Sáng kiến này được đưa ra trong bối cảnh cuộc tranh luận ngày càng gay gắt ở Washington về vai trò của các mô hình AI do Trung Quốc phát triển. Hiện tại, chính quyền Trump và nhiều nhà lập pháp khác nhau đang xem xét các lệnh cấm hoặc hạn chế nghiêm ngặt đối với các mẫu xe này, vốn thường có trọng lượng mở và rẻ hơn so với các mẫu đồng hồ của Mỹ. Trong khi các nhà phê bình bày tỏ lo ngại về hành vi trộm cắp tài sản trí tuệ và các cuộc tấn công 'chưng cất'—trong đó các mô hình được sử dụng để trích xuất kiến thức nhạy cảm từ các hệ thống phức tạp hơn—các thành viên của liên minh mới lo ngại rằng các biện pháp như vậy có thể cản trở sự đổi mới trong nước. Một lá thư gần đây được ký bởi Nvidia, Microsoft, Meta và những người khác cảnh báo rằng những hạn chế quá sớm đối với các hệ thống có trọng lượng mở có nguy cơ thúc đẩy sự phát triển ở nước ngoài. Các chuyên gia như Chris McGuire từ Hội đồng Quan hệ Đối ngoại lưu ý rằng cuộc tranh luận đang chuyển sang trọng tâm an ninh quốc gia, tập trung vào việc ngăn chặn hành vi trộm cắp tài sản trí tuệ của Trung Quốc thay vì cuộc chiến ý thức hệ cố hữu giữa các hệ thống mở và đóng. Tuy nhiên, liên minh vẫn lo ngại rằng hậu quả pháp lý có thể vô tình gây tổn hại cho cộng đồng nguồn mở toàn cầu.
⚖ The Balanced View
Supporting view
Những người ủng hộ, bao gồm Nvidia và Microsoft, cho rằng các mô hình mở là tài sản phòng thủ thiết yếu vì chúng cho phép các tổ chức kiểm tra, sửa đổi và lưu trữ hệ thống cục bộ để ứng phó với các mối đe dọa mà không bị chặn bởi các rào chắn bảo vệ của bên thứ ba.
Concerns & criticism
Các nhà hoạch định chính sách và chuyên gia an ninh quốc gia bày tỏ lo ngại về sự gia tăng của các mô hình nguồn mở do Trung Quốc xây dựng, lo ngại chúng có thể được sử dụng để đánh cắp tài sản trí tuệ hoặc cung cấp phương tiện cho các tác nhân nước ngoài khai thác thông tin tình báo từ các công nghệ tiên tiến của Hoa Kỳ.
→What's next
Liên minh AI An toàn Mở dự định phối hợp với các chính phủ để thúc đẩy đầu tư vào cơ sở hạ tầng AI mở được chia sẻ. Đồng thời, nhóm sẽ tiếp tục vận động các nhà hoạch định chính sách ngăn chặn luật pháp có thể hạn chế sự sẵn có và phát triển của các mô hình biên giới có trọng lượng mở.