Snapchat Adjusts Spotlight Algorithm to Filter Out Fully AI-Generated Videos

Snapchat ha ufficialmente dichiarato un perno nel modo in cui gestisce l'intelligenza artificiale generativa all'interno della sua sezione Spotlight, l'hub centrale della piattaforma per la scoperta di video in formato breve. Secondo le nuove linee guida, l’algoritmo di raccomandazione dell’azienda eliminerà attivamente i video creati interamente da strumenti di intelligenza artificiale. Anche se i creatori rivelassero correttamente l’uso dell’intelligenza artificiale, queste clip non verranno più promosse nei feed pubblici. Snap ha sottolineato che il suo obiettivo principale è garantire che Spotlight rimanga una destinazione per una creatività autentica e incentrata sull'uomo. Declassando il materiale che ha origine al di fuori dell’ecosistema creativo di Snapchat, l’azienda spera di frenare l’influenza dei media ripetitivi e di bassa qualità che sono diventati sempre più diffusi nel panorama digitale. Questo cambiamento rappresenta una misura difensiva significativa contro la rapida proliferazione di contenuti automatizzati, che Snap identifica come una potenziale minaccia alla qualità e all’affidabilità dei suoi strumenti di rilevamento rivolti agli utenti.

Nonostante le nuove restrizioni, Snap ha chiarito che non lancerà un divieto generale contro la tecnologia AI. La piattaforma continua a impegnarsi a fornire agli utenti strumenti creativi che utilizzano l’intelligenza artificiale, in particolare per effetti di realtà aumentata e sofisticato editing di immagini. Finché questi strumenti vengono utilizzati per migliorare o perfezionare una creazione creata dall'uomo, i video risultanti rimangono idonei per l'inclusione in Spotlight. Snapchat intende mantenere confini chiari: i contenuti che utilizzano gli strumenti di intelligenza artificiale integrati dell'azienda continueranno a essere chiaramente etichettati con filigrane, mentre i contenuti ritenuti "interamente generati dall'intelligenza artificiale" - spesso caratterizzati come "slop AI" - perderanno la loro idoneità alla raccomandazione. Tracciando questa linea, Snap mira a proteggere il proprio ecosistema dall’afflusso di clip prodotte in serie a basso sforzo, pur promuovendo uno spazio per l’innovazione tecnologica e l’espressione artistica digitale.

L’ultimo cambiamento politico di Snapchat si allinea con una tendenza più ampia del settore tra le principali piattaforme digitali che tentano di mantenere l’integrità dei feed in mezzo a un’impennata dell’output dell’intelligenza artificiale generativa. Altre aziende tecnologiche stanno affrontando sfide simili. Ad esempio, LinkedIn si è mosso per affrontare l’attività automatizzata introducendo strumenti di reporting che consentono agli utenti di segnalare i contenuti generati dall’intelligenza artificiale e ha segnalato di aver bloccato miliardi di tentativi di commento automatizzati negli ultimi mesi. Nel frattempo, Substack ha implementato funzionalità di rilevamento per aiutare i lettori a identificare i saggi scritti dall’intelligenza artificiale, citando il timore che fino al 40% del testo sui social media possa ora essere generato artificialmente. YouTube ha inoltre intensificato i suoi sforzi di moderazione, classificando e limitando la monetizzazione di video generici, ripetitivi o basati su modelli che fanno molto affidamento sull'automazione dell'intelligenza artificiale. Queste misure a livello di settore suggeriscono un riconoscimento collettivo del fatto che i contenuti IA non filtrati possono diminuire il valore della piattaforma e compromettere la fiducia degli utenti nel lungo periodo.

La spinta per mitigare lo “slop dell’intelligenza artificiale” è guidata sia da prove aneddotiche di insoddisfazione degli utenti sia da ricerche empiriche su come il pubblico interagisce con i media artificiali. Secondo i rapporti del settore, gli utenti stanno diventando sempre più scettici nei confronti dei contenuti online man mano che cresce il volume del materiale generato dall’intelligenza artificiale. Questa “corsa al ribasso”, come descritta dal CEO di Substack Chris Best, crea un ambiente in cui i legittimi contributi umani vengono soffocati da media ad alta frequenza, algoritmicamente compatibili, ma intrinsecamente falsi. Agendo, le piattaforme segnalano che i sistemi di raccomandazione algoritmica devono dare priorità alla connessione umana per rimanere rilevanti. Vi è il timore prevalente che se i feed dei social media continuano a saturarsi di contenuti sintetici, la percezione generale dell’autenticità digitale crollerà, rendendo difficile per gli utenti distinguere tra sforzi creativi autentici e coltivazione automatizzata di contenuti progettati principalmente per l’estrazione di entrate o lo sfruttamento algoritmico.