Snapchat Adjusts Spotlight Algorithm to Filter Out Fully AI-Generated Videos

Snapchat ได้ประกาศจุดสำคัญอย่างเป็นทางการในการจัดการ AI เจนเนอเรชั่นภายในส่วน Spotlight ซึ่งเป็นศูนย์กลางของแพลตฟอร์มสำหรับการค้นพบวิดีโอแบบสั้น ภายใต้หลักเกณฑ์ใหม่ อัลกอริธึมการแนะนำของบริษัทจะระงับวิดีโอที่สร้างขึ้นโดยเครื่องมือ AI ทั้งหมด แม้ว่าผู้สร้างจะเปิดเผยการใช้ปัญญาประดิษฐ์อย่างเหมาะสม แต่คลิปเหล่านี้จะไม่ได้รับการโปรโมตในฟีดสาธารณะอีกต่อไป Snap เน้นย้ำว่าเป้าหมายหลักคือเพื่อให้แน่ใจว่า Spotlight ยังคงเป็นจุดหมายปลายทางสำหรับความคิดสร้างสรรค์ที่แท้จริงและมีมนุษย์เป็นศูนย์กลาง ด้วยการลดลำดับความสำคัญของเนื้อหาที่มีต้นกำเนิดนอกระบบนิเวศที่สร้างสรรค์ของ Snapchat บริษัทหวังที่จะควบคุมอิทธิพลของสื่อที่ซ้ำซ้อนและมีคุณภาพต่ำซึ่งแพร่หลายมากขึ้นทั่วภูมิทัศน์ดิจิทัล การเปลี่ยนแปลงนี้แสดงถึงมาตรการป้องกันที่สำคัญต่อการแพร่กระจายอย่างรวดเร็วของเนื้อหาอัตโนมัติ ซึ่ง Snap ระบุว่าอาจเป็นภัยคุกคามต่อคุณภาพและความน่าเชื่อถือของเครื่องมือค้นหาที่ผู้ใช้เผชิญหน้ากัน

แม้จะมีข้อจำกัดใหม่ Snap ก็ได้ชี้แจงว่าไม่ได้ออกคำสั่งห้ามเทคโนโลยี AI แบบครอบคลุม แพลตฟอร์มดังกล่าวยังคงมุ่งมั่นที่จะมอบเครื่องมือสร้างสรรค์ที่ใช้ AI แก่ผู้ใช้ โดยเฉพาะอย่างยิ่งสำหรับเอฟเฟกต์ความเป็นจริงเสริมและการแก้ไขภาพที่ซับซ้อน ตราบใดที่เครื่องมือเหล่านี้ถูกใช้เพื่อเพิ่มหรือปรับแต่งผลงานสร้างสรรค์ที่มนุษย์สร้างขึ้น วิดีโอที่ได้จะยังคงมีสิทธิ์รวมไว้ใน Spotlight Snapchat มุ่งมั่นที่จะรักษาขอบเขตที่ชัดเจน: เนื้อหาที่ใช้เครื่องมือ AI ในตัวของบริษัทจะยังคงมีลายน้ำกำกับไว้อย่างชัดเจน ในขณะที่เนื้อหาที่ถือว่า 'สร้างโดย AI ทั้งหมด' ซึ่งมักมีลักษณะเป็น 'AI slop' จะสูญเสียสิทธิ์ในการแนะนำ ด้วยการวาดเส้นนี้ Snap มุ่งหวังที่จะปกป้องระบบนิเวศของตนจากการไหลเข้าของคลิปที่ผลิตจำนวนมากโดยใช้ความพยายามต่ำ ในขณะที่ยังคงส่งเสริมพื้นที่สำหรับนวัตกรรมทางเทคโนโลยีและการแสดงออกทางศิลปะดิจิทัล

การเปลี่ยนแปลงนโยบายล่าสุดของ Snapchat สอดคล้องกับแนวโน้มของอุตสาหกรรมในวงกว้างในหมู่แพลตฟอร์มดิจิทัลหลักๆ ที่พยายามรักษาความสมบูรณ์ของฟีด ท่ามกลางเอาต์พุต AI ที่สร้างเพิ่มขึ้นอย่างรวดเร็ว บริษัทเทคโนโลยีอื่นๆ ต่างก็เผชิญกับความท้าทายที่คล้ายกันไปพร้อมๆ กัน ตัวอย่างเช่น LinkedIn ได้ย้ายไปจัดการกับกิจกรรมอัตโนมัติโดยแนะนำเครื่องมือการรายงานสำหรับผู้ใช้เพื่อตั้งค่าสถานะเนื้อหาที่สร้างโดย AI และได้รายงานการบล็อกความพยายามแสดงความคิดเห็นอัตโนมัตินับพันล้านครั้งในช่วงไม่กี่เดือนที่ผ่านมา ในขณะเดียวกัน Substack ได้เปิดตัวฟีเจอร์การตรวจจับเพื่อช่วยให้ผู้อ่านระบุเรียงความที่เขียนโดย AI โดยอ้างถึงข้อกังวลว่าข้อความโซเชียลมีเดียมากถึง 40% อาจถูกสร้างขึ้นโดยไม่ตั้งใจ YouTube ได้เพิ่มความเข้มข้นของความพยายามในการกลั่นกรอง โดยจัดหมวดหมู่และจำกัดการสร้างรายได้จากวิดีโอทั่วไป ซ้ำๆ หรือตามเทมเพลตที่ต้องอาศัยระบบอัตโนมัติของ AI อย่างมาก มาตรการทั่วทั้งอุตสาหกรรมเหล่านี้ชี้ให้เห็นถึงการรับรู้โดยรวมว่าเนื้อหา AI ที่ไม่มีการกรองอาจลดมูลค่าแพลตฟอร์มและลดความไว้วางใจของผู้ใช้ในระยะยาว

การผลักดันเพื่อลด 'AI slop' นั้นได้รับแรงผลักดันจากหลักฐานที่แสดงถึงความไม่พอใจของผู้ใช้ และการวิจัยเชิงประจักษ์เกี่ยวกับวิธีที่ผู้ชมโต้ตอบกับสื่อปลอม ตามรายงานของอุตสาหกรรม ผู้ใช้เริ่มสงสัยเนื้อหาออนไลน์มากขึ้น เนื่องจากปริมาณเนื้อหาที่สร้างโดย AI เพิ่มมากขึ้น 'การแข่งขันไปสู่จุดต่ำสุด' ตามที่อธิบายโดย Chris Best ซีอีโอของ Substack สร้างสภาพแวดล้อมที่การมีส่วนร่วมของมนุษย์ที่ถูกกฎหมายถูกกลบไปด้วยความถี่สูง เป็นมิตรกับอัลกอริทึม แต่เป็นสื่อปลอมโดยเนื้อแท้ การดำเนินการดังกล่าว แพลตฟอร์มต่างๆ กำลังส่งสัญญาณว่าระบบการแนะนำอัลกอริทึมจะต้องจัดลำดับความสำคัญของการเชื่อมต่อของมนุษย์เพื่อให้มีความเกี่ยวข้อง มีความกลัวอยู่ทั่วไปว่าหากฟีดโซเชียลมีเดียยังคงเต็มไปด้วยเนื้อหาสังเคราะห์ การรับรู้โดยรวมเกี่ยวกับความถูกต้องทางดิจิทัลจะพังทลายลง ทำให้ยากสำหรับผู้ใช้ในการแยกแยะระหว่างความพยายามสร้างสรรค์ที่แท้จริงกับการสร้างเนื้อหาอัตโนมัติที่ออกแบบมาเพื่อการแยกรายได้หรือการแสวงหาผลประโยชน์จากอัลกอริทึมเป็นหลัก