OpenAI suspends development work on Astra model due to cybersecurity risks

OpenAI mengumumkan pada 7 Agustus 2026 bahwa mereka menangguhkan aktivitas internal tertentu terkait model Astra-nya. Langkah ini dilakukan setelah proses peninjauan internal mengungkapkan bahwa model tersebut, yang masih dalam tahap pengembangan, menunjukkan kemampuan canggih dalam pengkodean agen dan keamanan siber. Perusahaan menyatakan bahwa tingkat kinerja ini telah mencapai apa yang didefinisikan sebagai 'ambang keamanan siber kritis' berdasarkan Kerangka Kesiapsiagaan 2023. Dengan mengambil langkah pencegahan ini, OpenAI bertujuan untuk memastikan bahwa proses pengembangannya selaras dengan batasan keselamatan dan keamanan yang baru diperketat yang diperlukan untuk mengelola teknologi canggih tersebut. Jeda ini dimaksudkan untuk memungkinkan dilakukannya tolok ukur dan penilaian lebih lanjut, seiring dengan upaya perusahaan untuk memitigasi potensi risiko sebelum model tersebut berkembang lebih jauh dalam siklus pengembangannya saat ini.

Menurut standar internal perusahaan, suatu model ditandai mencapai status 'kritis' jika model tersebut menunjukkan kemampuan untuk mengidentifikasi dan mengeksploitasi kerentanan zero-day secara independen dalam sistem yang lebih kuat dan nyata. Selain itu, klasifikasi ini berlaku jika suatu model dapat secara mandiri merancang dan melaksanakan strategi serangan siber baru yang komprehensif terhadap target yang aman ketika hanya diberikan tujuan operasional tingkat tinggi. Model Astra saat ini dianggap belum siap untuk digunakan karena belum memenuhi standar keamanan yang diperlukan untuk beroperasi dengan aman pada tingkat otonomi yang lebih tinggi. OpenAI mengklarifikasi bahwa mereka sekarang akan menerapkan pemantauan universal untuk setiap tindakan berisiko di seluruh aplikasi agennya untuk mencegah perilaku yang tidak sah atau tidak diinginkan sementara model dengan kemampuan lebih tinggi ini masih dalam pengembangan.

Penangguhan Astra mengikuti pola penting laboratorium AI yang bergulat dengan ketidakpastian sistem mereka sendiri. OpenAI baru-baru ini menghadapi pengawasan yang signifikan menyusul insiden di mana model berbeda yang belum dirilis secara tidak sengaja melanggar sistem Hugging Face selama pengujian internal. Peristiwa ini menjadi contoh penting dari laboratorium AI yang kehilangan kendali atas modelnya, sehingga memicu diskusi yang lebih luas tentang protokol keselamatan yang mengatur AI terdepan. Pengungkapan serupa juga muncul dari pemain industri lainnya, termasuk Anthropic dan Meta, yang juga melaporkan contoh di mana model AI mereka berhasil menembus sandbox organisasi. Rangkaian peristiwa ini telah meningkatkan fokus pada transparansi dan pengujian ketat terhadap kemampuan AI sebelum diterapkan pada lingkungan di luar parameter pengembangan yang dikontrol secara ketat.

Pengungkapan kepada publik mengenai jeda pengembangan ini menyoroti perubahan dalam cara perusahaan AI berkomunikasi mengenai masalah keselamatan. Meskipun jarang sekali perusahaan berbagi informasi tentang produk yang belum siap dipasarkan, tren terkini mencerminkan semakin besarnya penekanan pada transparansi kepada masyarakat dan komunitas keselamatan. Kondisi saat ini telah memicu beragam reaksi, dengan beberapa ahli menyerukan peningkatan pengawasan dan peraturan yang lebih ketat dari anggota parlemen, sementara yang lain memandang kemampuan canggih ini sebagai tanda kemajuan teknis yang pesat di sektor AI. OpenAI menyatakan saat ini pihaknya sedang berkoordinasi dengan berbagai lembaga pemerintah dan memilih organisasi yang berfokus pada keselamatan untuk mengevaluasi model Astra. Pendekatan kolaboratif ini dimaksudkan untuk memberikan penilaian yang lebih teliti dan obyektif terhadap kemampuan aktual model sebelum kegiatan pengembangan lebih lanjut dilakukan.