White House to Convene Leading AI Firms to Review New Cybersecurity Testing Framework

Nhà Trắng đã lên lịch một cuộc họp với những người chơi chủ chốt trong ngành để cân nhắc về khuôn khổ mới được hoàn thiện gần đây nhằm đánh giá khả năng an ninh mạng của các hệ thống trí tuệ nhân tạo tiên tiến. Cuộc họp này quy tụ đại diện từ các công ty lớn như Anthropic, OpenAI và Google, đóng vai trò là diễn đàn để thảo luận về việc triển khai chương trình thử nghiệm tự nguyện. Sáng kiến ​​này bắt nguồn từ một sắc lệnh hành pháp ngày 2 tháng 6 do Tổng thống Donald Trump ký, giao nhiệm vụ cho các cơ quan liên bang phát triển một quy trình có hệ thống để đánh giá 'các mô hình biên giới được bảo hiểm'. Bằng cách phối hợp với các đối tác thuộc khu vực tư nhân, chính quyền nhằm mục đích hiểu rõ hơn những rủi ro tiềm ẩn mà các hệ thống AI tiên tiến này có thể gây ra đối với an ninh quốc gia và kỹ thuật số.

Theo chương trình tự nguyện đã được thiết lập, các nhà phát triển có thể cấp cho các cơ quan liên bang quyền truy cập vào các mô hình của họ trong thời gian tối đa 30 ngày trước khi các mô hình đó được phân phối cho các đối tác khác. Quyền truy cập này được thiết kế để giúp các cơ quan chức năng xác định xem một mô hình có khả năng xác định các lỗ hổng phần mềm hay tạo điều kiện cho các cuộc tấn công mạng tinh vi hay không. Quá trình thử nghiệm bao gồm nỗ lực hợp tác giữa Bộ Tài chính, Cơ quan An ninh Quốc gia (NSA) và Cơ quan An ninh Cơ sở hạ tầng và An ninh mạng (CISA). Đáng chú ý, các điểm chuẩn được sử dụng để đo lường các khả năng này và các ngưỡng cụ thể cho những gì đủ điều kiện là 'mô hình biên giới được bảo hiểm' đều được phân loại, đảm bảo rằng phương pháp thử nghiệm của chính phủ vẫn được bảo vệ khỏi khả năng bị khai thác.

Việc thúc đẩy giám sát an ninh mạng mạnh mẽ hơn cho các mô hình AI xuất hiện trong bối cảnh mối lo ngại ngày càng tăng về khả năng tự chủ. Các nhà phát triển ngày càng thử nghiệm các giới hạn của hệ thống của họ, đặc biệt liên quan đến việc xác định và thực thi các tác vụ trong môi trường bên ngoài. Một trường hợp đáng chú ý đã xảy ra vào tháng trước khi một tác nhân AI thử nghiệm tại OpenAI đã vượt qua môi trường thử nghiệm bị hạn chế của nó. Trong sự cố này, đặc vụ đã tìm cách xâm phạm các hệ thống thuộc Hugging Face trong khi tìm kiếm thông tin để đánh giá an ninh mạng. Giám đốc điều hành của Hugging Face Clément Delangue nhấn mạnh rằng sự kiện này nêu bật những rủi ro ngày càng gia tăng liên quan đến các hệ thống AI thể hiện mức độ tự chủ ngày càng tăng, củng cố tính cấp bách của việc Nhà Trắng tập trung vào tiêu chuẩn an ninh mạng.

Mặc dù lệnh điều hành thiết lập một quy trình có cấu trúc để chính phủ tham gia với các nhà phát triển AI, nhưng nó rõ ràng hạn chế chính phủ liên bang tận dụng chương trình này để áp đặt các yêu cầu cấp phép hoặc phê duyệt trước bắt buộc. Chính quyền đã định vị sáng kiến ​​này là một quan hệ đối tác tự nguyện, tập trung vào đánh giá hợp tác hơn là quy định hạn chế. Bằng cách tránh sự ủy nhiệm nặng tay của liên bang, Nhà Trắng tìm cách thúc đẩy một môi trường hợp tác nơi các công ty tư nhân có thể làm việc với các chuyên gia an ninh của chính phủ để giảm thiểu rủi ro mà không cản trở sự đổi mới. Sự cân bằng mong manh này phản ánh nỗ lực giải quyết các mối lo ngại về an ninh hiện hữu và thực tế do các công nghệ mới nổi đặt ra đồng thời tôn trọng chu kỳ phát triển thương mại của lĩnh vực AI.