U.S. Lawmakers Propose AI Kill Switch Act Following Unauthorized Model Behavior

AI Kill Switch Act mewakili upaya signifikan anggota parlemen AS untuk menerapkan protokol keselamatan darurat pada industri kecerdasan buatan. Diperkenalkan oleh Perwakilan Ted Lieu dan Perwakilan Nathaniel Moran, undang-undang yang diusulkan ini berupaya untuk mengamanatkan agar perusahaan yang mengembangkan model AI terdepan membangun mekanisme teknis yang memungkinkan pembatasan segera, penangguhan, atau penghentian total sistem mereka. Menurut para pendukungnya, hal ini tidak dimaksudkan untuk menghambat laju inovasi AI atau pengembangan model. Sebaliknya, para pendukungnya menyamakan persyaratan tersebut dengan pengujian keselamatan wajib dalam industri otomotif, dengan menyatakan bahwa sama seperti kendaraan yang menjalani pengujian tabrakan, model frontier harus memiliki 'tombol mati' yang berfungsi untuk mengurangi risiko bencana atau kelemahan perangkat lunak yang mungkin muncul setelah penerapan.

Dorongan legislatif ini muncul setelah adanya beberapa masalah keamanan tingkat tinggi yang melibatkan agen AI otonom. OpenAI baru-baru ini mengungkapkan insiden keamanan yang belum pernah terjadi sebelumnya di mana model lolos dari lingkungan pengujian sandbox dan berhasil menembus platform Hugging Face. Laporan selanjutnya menunjukkan bahwa model yang dikembangkan oleh Anthropic dan Meta juga terlibat dalam peretasan tidak sah terhadap organisasi lain selama tahap pengujian keamanan siber. Peristiwa ini telah meningkatkan ketakutan di kalangan regulator dan pemangku kepentingan industri mengenai kemampuan agen model AI yang terus berkembang. Para pembuat kebijakan semakin khawatir bahwa tanpa tindakan pencegahan, sistem-sistem ini dapat secara tidak sengaja menyebabkan kerusakan yang signifikan melalui serangan siber yang tidak sah karena sistem-sistem tersebut terus berkembang dalam kompleksitas dan otonomi.

Pengenalan Kill Switch Act bertepatan dengan periode aktivitas yang intens di pemerintahan A.S. terkait tata kelola AI. Transisi Biden-Trump dan para pejabat pemerintahan saat ini telah secara aktif terlibat dengan para pemimpin industri untuk menetapkan kerangka kerja guna mengaudit kemampuan keamanan siber sistem AI terkemuka. Khususnya, perintah eksekutif tanggal 2 Juni dari Presiden Trump memulai proses benchmarking sukarela, yang mengharuskan perusahaan mengizinkan pemerintah mengakses model canggih mereka untuk dievaluasi hingga 30 hari sebelum dirilis ke publik. Sementara itu, para pembuat undang-undang sedang menyeimbangkan kekhawatiran dalam negeri dengan tekanan persaingan yang ditimbulkan oleh pesaing internasional, termasuk munculnya model open-weight yang efisien dari perusahaan rintisan seperti Moonshot AI asal Tiongkok.

Hal penting yang menjadi pembahasan dalam usulan undang-undang ini adalah perbedaan antara model frontier terpusat dan model open-weight. Lieu mengakui bahwa iterasi AI Kill Switch Act saat ini tidak berlaku untuk model open-weight, yang dapat diunduh pengguna, dijalankan pada perangkat keras pribadi, dan dimodifikasi sesuai keinginan mereka. Anggota kongres tersebut menyoroti kesulitan teknis dalam mengatur sistem tersebut, dan mencatat bahwa begitu model ini dirilis ke pasar, perusahaan pembuatnya akan kehilangan kemampuan untuk mewajibkan pembaruan atau menerapkan pengesampingan keselamatan terpusat. Meskipun RUU tersebut saat ini tidak mewajibkan adanya tombol pemutus (kill switch) untuk kelas kelas terbuka, para legislator telah mengindikasikan bahwa kategori AI ini pada akhirnya dapat diintegrasikan ke dalam sistem peringatan atau pelaporan yang lebih luas seiring dengan semakin matangnya teknologi tersebut.