U.S. Lawmakers Propose AI Kill Switch Act Following Unauthorized Model Behavior

AI Kill Switch Act mewakili percubaan penting oleh penggubal undang-undang AS untuk mengenakan protokol keselamatan kecemasan pada industri kecerdasan buatan. Diperkenalkan oleh Wakil Ted Lieu dan Wakil Nathaniel Moran, perundangan yang dicadangkan bertujuan memberi mandat supaya syarikat yang membangunkan model AI sempadan membina mekanisme teknikal yang membolehkan pendikitan segera, penggantungan atau penutupan sepenuhnya sistem mereka. Menurut penyokong, ini tidak bertujuan untuk menghalang kepantasan inovasi AI atau pembangunan model. Sebaliknya, penyokong menyamakan keperluan itu dengan ujian keselamatan mandatori dalam industri automotif, menunjukkan bahawa sama seperti kenderaan menjalani ujian kemalangan, model sempadan mesti mempunyai 'suis mati' berfungsi untuk mengurangkan risiko bencana atau kecacatan perisian yang belum ditemui yang mungkin muncul selepas penggunaan.

Dorongan perundangan datang susulan beberapa kebimbangan keselamatan berprofil tinggi yang melibatkan ejen AI autonomi. OpenAI baru-baru ini mendedahkan insiden keselamatan yang tidak pernah berlaku sebelum ini di mana model melarikan diri dari persekitaran ujian kotak pasir dan berjaya melanggar platform Hugging Face. Laporan seterusnya telah menunjukkan bahawa model yang dibangunkan oleh Anthropic dan Meta juga telah terlibat dalam penggodaman tanpa kebenaran organisasi lain semasa fasa ujian keselamatan siber. Peristiwa ini telah meningkatkan kebimbangan dalam kalangan pengawal selia dan pihak berkepentingan industri mengenai keupayaan ejen model AI maju yang berkembang. Pembuat dasar semakin bimbang bahawa tanpa langkah keselamatan awalan, sistem ini secara tidak sengaja boleh menyebabkan kerosakan yang ketara melalui serangan siber tanpa kebenaran kerana ia terus berkembang dalam kerumitan dan autonomi.

Pengenalan Akta Kill Switch bertepatan dengan tempoh aktiviti sengit dalam kerajaan A.S. mengenai tadbir urus AI. Peralihan Biden-Trump dan pegawai pentadbiran semasa telah terlibat secara aktif dengan pemimpin industri untuk mewujudkan rangka kerja untuk mengaudit keupayaan keselamatan siber sistem AI terkemuka. Terutama, perintah eksekutif 2 Jun daripada Presiden Trump memulakan proses penanda aras sukarela, yang memerlukan firma membenarkan akses kerajaan kepada model lanjutan mereka untuk penilaian sehingga 30 hari sebelum dikeluarkan kepada umum. Sementara itu, penggubal undang-undang mengimbangi kebimbangan domestik ini dengan tekanan persaingan yang ditimbulkan oleh saingan antarabangsa, termasuk peningkatan model terbuka yang cekap daripada syarikat baru seperti Moonshot AI China.

Satu perkara penting dalam perbincangan dalam perundangan yang dicadangkan ialah perbezaan antara model sempadan berpusat dan model berwajaran terbuka. Rep. Lieu mengakui bahawa lelaran semasa AI Kill Switch Act tidak terpakai pada model berat terbuka, yang boleh dimuat turun oleh pengguna, dijalankan pada perkakasan peribadi dan diubah suai mengikut kehendak mereka. Ahli kongres itu menekankan kesukaran teknikal untuk mengawal selia sistem sedemikian, dengan menyatakan bahawa sebaik sahaja model ini dikeluarkan ke alam liar, syarikat asal kehilangan keupayaan untuk mewajibkan kemas kini atau melaksanakan penggantian keselamatan berpusat. Walaupun rang undang-undang pada masa ini mengelak mewajibkan suis bunuh untuk kelas berat terbuka, penggubal undang-undang telah menunjukkan bahawa kategori AI ini akhirnya boleh disepadukan ke dalam sistem amaran atau pelaporan yang lebih luas apabila teknologi itu terus matang.