Snapchat met à jour son algorithme Spotlight pour déprioriser les vidéos entièrement produites par l'intelligence artificielle, dans le but de maintenir son flux public axé sur le contenu créé par l'homme. Même si l’entreprise restreint le contenu automatisé, elle continuera à autoriser l’utilisation d’outils d’IA pour des améliorations créatives et des effets de réalité augmentée.
Un changement de politique sous les projecteurs
Snapchat a officiellement déclaré un tournant dans la manière dont il gère l'IA générative au sein de sa section Spotlight, la plaque tournante centrale de la plateforme pour la découverte de vidéos courtes. Selon les nouvelles directives, l'algorithme de recommandation de l'entreprise supprimera activement les vidéos entièrement créées par des outils d'IA. Même si les créateurs divulguent correctement l’utilisation de l’intelligence artificielle, ces clips ne seront plus promus dans les flux publics. Snap a souligné que son objectif principal est de garantir que Spotlight reste une destination de créativité authentique et centrée sur l'humain. En dépriorisant le matériel provenant de l’extérieur de l’écosystème créatif de Snapchat, la société espère réduire l’influence des médias répétitifs et de mauvaise qualité qui sont de plus en plus répandus dans le paysage numérique. Ce changement représente une mesure défensive importante contre la prolifération rapide du contenu automatisé, que Snap identifie comme une menace potentielle pour la qualité et la fiabilité de ses outils de découverte destinés aux utilisateurs.
Différencier l’amélioration de l’automatisation
Malgré les nouvelles restrictions, Snap a précisé qu'il ne lancerait pas d'interdiction générale de la technologie de l'IA. La plateforme reste déterminée à fournir aux utilisateurs des outils créatifs utilisant l’IA, notamment pour les effets de réalité augmentée et l’édition d’images sophistiquée. Tant que ces outils sont utilisés pour augmenter ou affiner une création humaine, les vidéos résultantes restent éligibles pour être incluses dans Spotlight. Snapchat a l'intention de maintenir des limites claires : le contenu qui utilise les outils d'IA intégrés de l'entreprise continuera à être clairement étiqueté avec des filigranes, tandis que le contenu considéré comme « entièrement généré par l'IA » – souvent qualifié de « slop d'IA » – perdra son éligibilité à la recommandation. En traçant cette ligne, Snap vise à protéger son écosystème de l’afflux de clips produits en masse sans effort tout en favorisant un espace pour l’innovation technologique et l’expression artistique numérique.
Répression à l’échelle de l’industrie
Le dernier changement de politique de Snapchat s’aligne sur une tendance plus large du secteur parmi les principales plateformes numériques qui tentent de maintenir l’intégrité des flux dans un contexte d’augmentation de la production d’IA générative. D’autres entreprises technologiques sont confrontées simultanément à des défis similaires. Par exemple, LinkedIn a décidé de lutter contre les activités automatisées en introduisant des outils de reporting permettant aux utilisateurs de signaler le contenu généré par l'IA et a signalé avoir bloqué des milliards de tentatives de commentaires automatisées au cours des derniers mois. Pendant ce temps, Substack a déployé des fonctionnalités de détection pour aider les lecteurs à identifier les essais rédigés par l'IA, citant des inquiétudes selon lesquelles jusqu'à 40 % du texte des réseaux sociaux pourrait désormais être généré artificiellement. YouTube a également intensifié ses efforts de modération, en catégorisant et en limitant la monétisation des vidéos génériques, répétitives ou basées sur des modèles qui s'appuient fortement sur l'automatisation de l'IA. Ces mesures à l’échelle de l’industrie suggèrent une reconnaissance collective du fait que le contenu non filtré de l’IA peut diminuer la valeur de la plateforme et compromettre la confiance des utilisateurs à long terme.
La recherche de l'authenticité
La volonté d'atténuer le « slop de l'IA » est motivée à la fois par des preuves anecdotiques d'insatisfaction des utilisateurs et par des recherches empiriques sur la manière dont le public interagit avec les médias artificiels. Selon les rapports de l’industrie, les utilisateurs deviennent de plus en plus sceptiques à l’égard du contenu en ligne à mesure que le volume de matériel généré par l’IA augmente. Cette « course vers le bas », telle que décrite par Chris Best, PDG de Substack, crée un environnement dans lequel les contributions humaines légitimes sont noyées par des médias à haute fréquence, algorithmiques, mais intrinsèquement faux. En agissant, les plateformes signalent que les systèmes de recommandation algorithmiques doivent donner la priorité à la connexion humaine pour rester pertinents. Il existe une crainte dominante que si les flux des médias sociaux continuent à saturer de contenu synthétique, la perception globale de l’authenticité numérique s’effondrera, rendant difficile pour les utilisateurs de faire la distinction entre les véritables efforts créatifs et l’exploitation automatisée de contenu conçue principalement pour l’extraction de revenus ou l’exploitation algorithmique.
⚖ The Balanced View
Supporting view
Les partisans, y compris des plateformes comme Snap et LinkedIn, soutiennent que filtrer les « slops de l'IA » est essentiel pour donner la priorité à une créativité de haute qualité centrée sur l'humain et empêcher l'érosion de la confiance dans les flux en ligne.
Concerns & criticism
On craint que la prolifération excessive de contenus générés par l'IA ne crée un « nivellement par le bas », dans lequel les plateformes qui ne limitent pas ces contenus risquent d'être submergées par des contenus de mauvaise qualité, répétitifs et trompeurs.
→What's next
Les opérateurs de plateformes devraient continuer à affiner leurs mécanismes de détection pour mieux distinguer les contenus utiles assistés par l’IA des médias répétitifs produits en masse. Les développements futurs pourraient impliquer des normes industrielles plus granulaires pour le filigrane et l’étiquetage des actifs générés par l’IA dans les écosystèmes sociaux.