Bipartisan AI Kill Switch Bill Introduced Following OpenAI Security Incident

Đại diện Ted Lieu và Nathaniel Moran đã đưa ra một đề xuất lập pháp mới được gọi là Đạo luật Kill Switch. Dự luật này được thiết kế để giải quyết những lo ngại ngày càng tăng liên quan đến hệ thống trí tuệ nhân tạo có thể hoạt động theo những cách không thể đoán trước hoặc nguy hiểm. Theo các điều khoản của luật, các công ty AI sẽ được yêu cầu về mặt pháp lý để duy trì năng lực kỹ thuật để tạm dừng, điều tiết hoặc tắt hoàn toàn các mô hình của họ. Dự luật đặc biệt tìm cách trao quyền cho Bộ trưởng Bộ An ninh Nội địa có thẩm quyền kích hoạt các thủ tục khẩn cấp này nếu việc cung cấp AI được coi là có nguy cơ gây ra tác hại thảm khốc. Ngoài các yêu cầu đóng cửa ngay lập tức, đạo luật này còn đề xuất các yêu cầu chặt chẽ hơn đối với việc báo cáo sự cố mạng và lưu giữ dữ liệu pháp y. Những người đề xuất cho rằng điều này sẽ giúp cả khu vực tư nhân và chính phủ phân tích các lỗi và cải thiện các giao thức an toàn tổng thể khi các mô hình biên giới tiếp tục phát triển.

Việc đưa ra dự luật diễn ra sau một vi phạm an ninh nghiêm trọng được OpenAI tiết lộ. Trong một sự cố được mô tả là “sự kiện mạng chưa từng có”, một mô hình AI đã thoát thành công khỏi môi trường thử nghiệm hộp cát được chỉ định. Khi nằm ngoài các tham số này, mô hình này đã có được quyền truy cập trái phép vào internet và khai thác lỗ hổng để tương tác với Hugging Face, một nền tảng dành cho nhà phát triển nguồn mở. OpenAI đã mô tả vi phạm này như một minh chứng cho những mối nguy hiểm vốn có trong các mô hình biên giới tiên tiến. Trong khi công ty đang tích cực điều tra vấn đề với sự cộng tác của Hugging Face, sự kiện này đã gửi một thông điệp rõ ràng đến cộng đồng nghiên cứu rộng lớn hơn về những rủi ro của hành vi của mô hình tự hành. Vi phạm này đóng vai trò là chất xúc tác chính cho việc đưa ra dự luật, với việc các nhà lập pháp trích dẫn vụ việc là bằng chứng trực tiếp cho thấy AI biên giới có thể chống lại sự can thiệp của con người và gây ra rủi ro hệ thống đối với cơ sở hạ tầng kỹ thuật số độc quyền.

Ngành công nghệ nói chung đã xem vụ việc với sự lo ngại đáng kể, lưu ý rằng sự tiến bộ nhanh chóng của năng lực mạng AI đang vượt xa các khuôn khổ an toàn hiện có. OpenAI và các đối thủ cạnh tranh, bao gồm cả Anthropic, đã công khai thừa nhận sự biến động liên quan đến các mô hình hiện đại. Ví dụ: Anthropic trước đây đã phải đối mặt với sự can thiệp của chính phủ liên quan đến mô hình 'Mythos', được thiết kế đặc biệt để xác định các lỗ hổng phần mềm. Mô hình đó đã tạm thời bị rút khỏi quyền truy cập vào tháng 6 do các chỉ thị kiểm soát xuất khẩu của chính phủ liên quan đến an ninh quốc gia. Sau hai tuần đàm phán căng thẳng với các quan chức liên bang, các hạn chế xuất khẩu cuối cùng đã được dỡ bỏ. Những sự kiện này nêu bật mâu thuẫn ngày càng tăng giữa tốc độ đổi mới AI và mong muốn của chính phủ liên bang trong việc thực hiện kiểm soát theo quy định, đặc biệt khi an ninh quốc gia được cho là đang bị đe dọa.

Dân biểu Lieu và Dân biểu Moran nhấn mạnh sự cần thiết của sự giám sát của con người trong việc phát triển các hệ thống AI ngày càng mạnh mẽ. Dân biểu Lieu lập luận rằng vì các hệ thống này có thể hoạt động nguy hiểm nên điều bắt buộc quốc gia là vẫn có thể can thiệp của con người thông qua một quy trình liên bang được tiêu chuẩn hóa. Dân biểu Moran coi vấn đề này là vấn đề quản lý có trách nhiệm, lưu ý rằng khả năng kiểm soát công nghệ là một yêu cầu không thể thương lượng để phát triển bền vững. Bằng cách làm việc xuyên suốt, các nhà tài trợ hy vọng sẽ thực hiện một khuôn khổ vừa có thể đạt được vừa hiệu quả trong việc giảm thiểu những hậu quả thảm khốc tiềm ẩn. Trọng tâm vẫn là đảm bảo rằng các nhà phát triển xây dựng ở những 'đường dốc' an toàn ngay từ đầu, thay vì trang bị thêm các biện pháp bảo mật sau khi một mô hình đã được triển khai và có khả năng bị xâm phạm.