Sau cuộc tấn công mạng vào Ôm mặt tiết lộ những hạn chế trong các mô hình AI bị hạn chế, một liên minh gồm những gã khổng lồ công nghệ đã thành lập Liên minh AI bảo mật mở để quảng bá các công cụ trọng lượng mở cho phòng thủ mạng. Đồng thời, Microsoft đã tiết lộ mô hình AI tiết kiệm chi phí của riêng mình được thiết kế để xác định và khắc phục các lỗ hổng an ninh mạng.
Sự trỗi dậy của các mối đe dọa AI tác nhân
Một nghiên cứu gần đây của CDW với sự tham gia của 951 người ra quyết định về CNTT nêu bật sự thay đổi hướng tới các mối đe dọa mạng do AI điều khiển mà nhiều tổ chức hiện không được trang bị đầy đủ để quản lý. Theo báo cáo, 43% công ty đã xử lý các âm mưu lừa đảo được tăng cường bởi AI, trong khi 37% đã phải đối mặt với phần mềm độc hại được tăng cường bởi AI. Như các chuyên gia bảo mật thường lưu ý, việc vi phạm ngày càng được coi là điều không thể tránh khỏi hơn là khả năng xảy ra. Bản chất của những mối đe dọa này đang thay đổi nhanh chóng; Thay vì các nỗ lực deepfake riêng biệt, điều mà chỉ 8% số người được hỏi coi là rủi ro hàng đầu, các tác nhân độc hại đang triển khai các hệ thống tự động, có tác nhân có thể phát hiện và khai thác các lỗ hổng trên quy mô lớn. Đáp lại, khoảng 41% công ty đang tìm cách triển khai các hệ thống phát hiện mối đe dọa dựa trên AI để chống lại làn sóng khai thác tự động, tốc độ cao mới này.
Sự cố ôm mặt và người mẫu hở hang
Lỗ hổng của các chiến lược phòng thủ hiện tại gần đây đã được nhấn mạnh khi công ty khởi nghiệp AI Ôm Mặt bị tấn công bởi các mô hình tác nhân. Trong quá trình xảy ra vụ việc, công ty phát hiện ra rằng các mô hình AI biên giới tiêu chuẩn của Hoa Kỳ không hiệu quả vì các rào chắn an toàn của chúng đã ngăn cản chúng xác định và ngăn chặn kẻ xâm lược. Do đó, Ôm Mặt phải dựa vào một mô hình công khai, tự lưu trữ của Trung Quốc để tiến hành phân tích pháp y. Sự kiện này đóng vai trò là chất xúc tác cho việc hình thành Liên minh AI an toàn mở, do Nvidia đứng đầu. Liên minh lập luận rằng để những người bảo vệ an ninh mạng hành động với tốc độ cần thiết, họ phải có khả năng kiểm tra, điều chỉnh và vận hành các hệ thống AI tiên tiến trên cơ sở hạ tầng của chính họ, thay vì dựa vào các nền tảng độc quyền, đóng cửa.
Sự thúc đẩy về chủ quyền và an ninh
Việc thành lập Liên minh AI an toàn mở trùng hợp với cuộc tranh luận địa chính trị ngày càng gia tăng liên quan đến các mô hình AI của Trung Quốc. Trong khi những gã khổng lồ công nghệ như Microsoft, Meta và Nvidia đang ủng hộ hệ sinh thái nguồn mở thì một số nhà hoạch định chính sách và cơ quan quản lý lại lo ngại về “sự chắt lọc”, một quá trình trong đó các mô hình Trung Quốc trích xuất kiến thức độc quyền từ các hệ thống tiên tiến của Hoa Kỳ. Bộ trưởng Tài chính Hoa Kỳ Scott Bessent đã bóng gió về các biện pháp trừng phạt tiềm năng đối với các công ty liên quan đến các hoạt động như vậy. Các nhà lãnh đạo ngành hiện đang đi trên dây, thúc giục Washington tránh những hạn chế quá sớm có thể cản trở sự đổi mới. Họ lập luận rằng cộng đồng nguồn mở cung cấp sự minh bạch cần thiết cho vấn đề bảo mật, trong khi việc đóng cửa nghiêm ngặt các mô hình này sẽ buộc các công ty phải dựa vào cơ sở hạ tầng mà họ không thể kiểm soát hoặc kiểm toán hoàn toàn trong cuộc khủng hoảng an ninh trực tiếp.
Sáng kiến an ninh mạng mới của Microsoft
Trong quá trình phát triển song song, Microsoft đã giới thiệu một mô hình trí tuệ nhân tạo mới, MAI-Cyber-1-Flash, được thiết kế đặc biệt để phát hiện các lỗ hổng an ninh mạng. Mô hình này thể hiện nỗ lực chiến lược nhằm khôi phục hoạt động kinh doanh bảo mật của Microsoft dưới sự điều hành của Hayete Gallot. Theo Microsoft, khi kết hợp với GPT-5.4 của OpenAI, mô hình này vượt trội hơn các giải pháp cạnh tranh từ Anthropic và Google trên điểm chuẩn CyberGym. Ngoài mô hình này, Microsoft đang triển khai 'Project Perception', một bộ tác nhân AI được thiết kế để khám phá và khắc phục các điểm yếu của hệ thống, với bản xem trước công khai dự kiến vào ngày 3 tháng 8. Giám đốc điều hành Mustafa Suleyman nhấn mạnh đến hiệu quả chi phí của công cụ này, lưu ý rằng nó mang lại hiệu suất cao với chi phí chỉ bằng một nửa so với các tùy chọn hiện có, có khả năng cho phép các công ty bố trí nhân viên tốt hơn cho các trung tâm điều hành bảo mật (SOC) của họ bằng cách hạ thấp rào cản kỹ thuật để gia nhập.
⚖ The Balanced View
Supporting view
Những người ủng hộ các mô hình trọng lượng mở, bao gồm Nvidia và Microsoft, cho rằng chúng rất cần thiết cho việc phòng thủ vì chúng cho phép các công ty kiểm tra và tự lưu trữ hệ thống mà không có sự can thiệp của các lan can cứng nhắc cản trở thời gian phản hồi trong một cuộc tấn công tích cực.
Concerns & criticism
Có mối lo ngại đáng kể từ các quan chức chính phủ và các nhà phân tích chính sách về khả năng các công ty Trung Quốc sử dụng các mô hình mở để 'chưng cất' - đánh cắp IP từ các mô hình tiên phong của Hoa Kỳ - dẫn đến các biện pháp trừng phạt hoặc lệnh cấm tiềm tàng do chính phủ áp đặt đối với các giao dịch cụ thể liên quan đến AI.
→What's next
Liên minh AI An toàn Mở dự kiến sẽ bắt đầu nghiên cứu việc tiết lộ và khắc phục các lỗ hổng bằng cách sử dụng các công nghệ mở. Trong khi đó, ngành sẽ theo dõi chặt chẽ xem liệu chính phủ Hoa Kỳ có thực hiện các hạn chế chính thức đối với việc sử dụng hoặc lưu trữ các mô hình AI do Trung Quốc phát triển hay không.