Snapchat memperbarui algoritme Spotlight-nya untuk menurunkan prioritas video yang seluruhnya dihasilkan oleh kecerdasan buatan, dengan tujuan agar umpan publiknya tetap fokus pada konten buatan manusia. Meskipun perusahaan membatasi konten otomatis, perusahaan akan terus mengizinkan penggunaan alat AI untuk peningkatan kreatif dan efek augmented reality.
Pergeseran Kebijakan dalam Sorotan
Snapchat secara resmi telah mengumumkan poros dalam cara mereka menangani AI generatif dalam bagian Spotlight, yang merupakan pusat platform untuk penemuan video berdurasi pendek. Berdasarkan pedoman baru ini, algoritme rekomendasi perusahaan akan secara aktif menyembunyikan video yang seluruhnya dibuat menggunakan alat AI. Meskipun pembuat konten mengungkapkan penggunaan kecerdasan buatan dengan benar, klip tersebut tidak akan lagi dipromosikan di feed publik. Snap menekankan bahwa tujuan utamanya adalah memastikan Spotlight tetap menjadi tujuan kreativitas autentik dan berpusat pada manusia. Dengan tidak memprioritaskan materi yang berasal dari luar ekosistem kreatif Snapchat, perusahaan berharap dapat mengekang pengaruh media yang berulang dan berkualitas rendah yang semakin lazim di lanskap digital. Perubahan ini mewakili tindakan defensif yang signifikan terhadap pesatnya perkembangan konten otomatis, yang diidentifikasi Snap sebagai potensi ancaman terhadap kualitas dan keandalan alat penemuan yang dihadapi pengguna.
Membedakan Peningkatan dari Otomatisasi
Meskipun ada pembatasan baru, Snap telah mengklarifikasi bahwa mereka tidak meluncurkan larangan menyeluruh terhadap teknologi AI. Platform ini tetap berkomitmen untuk menyediakan alat kreatif yang memanfaatkan AI kepada pengguna, khususnya untuk efek augmented reality dan pengeditan gambar yang canggih. Selama alat ini digunakan untuk menambah atau menyempurnakan kreasi buatan manusia, video yang dihasilkan tetap memenuhi syarat untuk disertakan dalam Spotlight. Snapchat bermaksud untuk mempertahankan batasan yang jelas: konten yang menggunakan alat AI bawaan perusahaan akan terus diberi label air yang jelas, sementara konten yang dianggap 'sepenuhnya dihasilkan oleh AI'—sering dikategorikan sebagai 'ceroboh AI'—akan kehilangan kelayakannya untuk direkomendasikan. Dengan menerapkan kebijakan ini, Snap bertujuan untuk melindungi ekosistemnya dari masuknya klip-klip yang diproduksi secara massal dan tidak memerlukan banyak biaya, sambil tetap memupuk ruang bagi inovasi teknologi dan ekspresi artistik digital.
Tindakan Keras di Seluruh Industri
Pergeseran kebijakan terbaru Snapchat ini sejalan dengan tren industri yang lebih luas di antara platform digital besar yang berupaya menjaga integritas feed di tengah lonjakan keluaran AI generatif. Perusahaan teknologi lain juga menghadapi tantangan serupa pada saat yang sama. Misalnya, LinkedIn telah berupaya mengatasi aktivitas otomatis dengan memperkenalkan alat pelaporan bagi pengguna untuk menandai konten yang dihasilkan AI dan telah melaporkan pemblokiran miliaran upaya komentar otomatis dalam beberapa bulan terakhir. Sementara itu, Substack telah meluncurkan fitur deteksi untuk membantu pembaca mengidentifikasi esai yang ditulis oleh AI, dengan alasan kekhawatiran bahwa hingga 40% teks media sosial kini mungkin dibuat secara artifisial. YouTube juga telah mengintensifkan upaya moderasinya, dengan mengkategorikan dan membatasi monetisasi video generik, berulang, atau berbasis template yang sangat bergantung pada otomatisasi AI. Langkah-langkah industri ini menunjukkan pengakuan kolektif bahwa konten AI tanpa filter dapat mengurangi nilai platform dan membahayakan kepercayaan pengguna dalam jangka panjang.
Pencarian Keaslian
Dorongan untuk memitigasi 'kerusakan AI' didorong oleh bukti anekdot mengenai ketidakpuasan pengguna dan penelitian empiris mengenai bagaimana khalayak berinteraksi dengan media buatan. Menurut laporan industri, pengguna menjadi semakin skeptis terhadap konten online seiring dengan meningkatnya volume materi yang dihasilkan AI. 'Perlombaan menuju titik terbawah' ini, seperti dijelaskan oleh CEO Substack Chris Best, menciptakan lingkungan di mana kontribusi manusia yang sah ditenggelamkan oleh media yang berfrekuensi tinggi, ramah algoritma, namun pada dasarnya palsu. Dengan mengambil tindakan, platform memberi sinyal bahwa sistem rekomendasi algoritmik harus memprioritaskan hubungan antarmanusia agar tetap relevan. Ada ketakutan yang umum bahwa jika media sosial terus dipenuhi dengan konten sintetis, persepsi keseluruhan mengenai keaslian digital akan runtuh, sehingga menyulitkan pengguna untuk membedakan antara upaya kreatif asli dan pengumpulan konten otomatis yang dirancang terutama untuk ekstraksi pendapatan atau eksploitasi algoritmik.
⚖ The Balanced View
Supporting view
Para pendukungnya, termasuk platform seperti Snap dan LinkedIn, berpendapat bahwa memfilter 'kesalahan AI' sangat penting untuk memprioritaskan kreativitas berkualitas tinggi yang berpusat pada manusia dan mencegah terkikisnya kepercayaan terhadap feed online.
Concerns & criticism
Terdapat kekhawatiran bahwa proliferasi konten yang dihasilkan oleh AI secara berlebihan akan menciptakan 'perlombaan menuju titik terbawah' (race to the bottom), di mana platform yang tidak membatasi risiko material tersebut akan kewalahan dengan konten berkualitas rendah, berulang, dan menipu.
→What's next
Operator platform diharapkan untuk terus menyempurnakan mekanisme deteksi mereka agar dapat membedakan dengan lebih baik antara konten bermanfaat yang dibantu AI dan media yang diproduksi secara massal dan berulang. Perkembangan di masa depan mungkin melibatkan standar industri yang lebih terperinci untuk menandai air dan memberi label pada aset yang dihasilkan AI di seluruh ekosistem sosial.