Snapchat Adjusts Spotlight Algorithm to Filter Out Fully AI-Generated Videos

Snapchat đã chính thức tuyên bố xoay quanh cách xử lý AI tổng hợp trong phần Spotlight, trung tâm trung tâm của nền tảng để khám phá video dạng ngắn. Theo hướng dẫn mới, thuật toán đề xuất của công ty sẽ tích cực ngăn chặn các video được tạo hoàn toàn bằng công cụ AI. Ngay cả khi người sáng tạo tiết lộ chính xác việc sử dụng trí tuệ nhân tạo, những clip này sẽ không còn được quảng cáo trên các nguồn cấp dữ liệu công khai nữa. Snap nhấn mạnh rằng mục tiêu chính của họ là đảm bảo rằng Spotlight vẫn là điểm đến cho sự sáng tạo đích thực, lấy con người làm trung tâm. Bằng cách loại bỏ mức độ ưu tiên của những nội dung có nguồn gốc bên ngoài hệ sinh thái sáng tạo của Snapchat, công ty hy vọng sẽ hạn chế ảnh hưởng của các phương tiện truyền thông lặp đi lặp lại và chất lượng thấp đang ngày càng trở nên phổ biến trong bối cảnh kỹ thuật số. Thay đổi này thể hiện một biện pháp phòng thủ quan trọng chống lại sự gia tăng nhanh chóng của nội dung tự động mà Snap xác định là mối đe dọa tiềm tàng đối với chất lượng và độ tin cậy của các công cụ khám phá hướng tới người dùng.

Bất chấp những hạn chế mới, Snap đã làm rõ rằng họ sẽ không đưa ra lệnh cấm chung đối với công nghệ AI. Nền tảng này vẫn cam kết cung cấp cho người dùng các công cụ sáng tạo sử dụng AI, đặc biệt là cho các hiệu ứng thực tế tăng cường và chỉnh sửa hình ảnh phức tạp. Miễn là những công cụ này được sử dụng để tăng cường hoặc tinh chỉnh tác phẩm do con người tạo ra thì các video thu được vẫn đủ điều kiện để đưa vào Spotlight. Snapchat dự định duy trì các ranh giới rõ ràng: nội dung sử dụng các công cụ AI tích hợp của công ty sẽ tiếp tục được gắn nhãn rõ ràng bằng hình mờ, trong khi nội dung được coi là 'hoàn toàn do AI tạo ra'—thường được mô tả là 'AI trượt'—sẽ mất tư cách để được đề xuất. Bằng cách vạch ra ranh giới này, Snap nhằm mục đích bảo vệ hệ sinh thái của mình khỏi làn sóng các clip được sản xuất hàng loạt, tốn ít công sức, đồng thời vẫn thúc đẩy không gian đổi mới công nghệ và thể hiện nghệ thuật kỹ thuật số.

Sự thay đổi chính sách mới nhất của Snapchat phù hợp với xu hướng ngành rộng hơn trong số các nền tảng kỹ thuật số lớn đang cố gắng duy trì tính toàn vẹn của nguồn cấp dữ liệu trong bối cảnh sản lượng AI tổng hợp tăng đột biến. Các công ty công nghệ khác đang đồng thời giải quyết những thách thức tương tự. Ví dụ: LinkedIn đã chuyển sang giải quyết hoạt động tự động bằng cách giới thiệu các công cụ báo cáo để người dùng gắn cờ nội dung do AI tạo và đã báo cáo việc chặn hàng tỷ nỗ lực nhận xét tự động trong những tháng gần đây. Trong khi đó, Substack đã triển khai các tính năng phát hiện để giúp người đọc xác định các bài luận do AI viết, với lý do lo ngại rằng có tới 40% văn bản trên mạng xã hội hiện có thể được tạo ra một cách giả tạo. YouTube cũng đã tăng cường nỗ lực kiểm duyệt, phân loại và hạn chế kiếm tiền từ các video chung chung, lặp đi lặp lại hoặc dựa trên mẫu phụ thuộc nhiều vào tự động hóa AI. Các biện pháp toàn ngành này gợi ý sự thừa nhận chung rằng nội dung AI không được lọc có thể làm giảm giá trị nền tảng và làm tổn hại đến niềm tin của người dùng về lâu dài.

Nỗ lực giảm thiểu 'sự trượt dốc của AI' được thúc đẩy bởi cả bằng chứng giai thoại về sự không hài lòng của người dùng và nghiên cứu thực nghiệm về cách khán giả tương tác với phương tiện nhân tạo. Theo báo cáo của ngành, người dùng ngày càng trở nên hoài nghi về nội dung trực tuyến khi khối lượng tài liệu do AI tạo ra ngày càng tăng. 'Cuộc đua xuống đáy' này, như được mô tả bởi Giám đốc điều hành Substack Chris Best, tạo ra một môi trường nơi những đóng góp hợp pháp của con người bị át đi bởi các phương tiện truyền thông tần số cao, thân thiện với thuật toán nhưng vốn dĩ là giả mạo. Bằng cách hành động, các nền tảng đang báo hiệu rằng các hệ thống đề xuất bằng thuật toán phải ưu tiên kết nối con người để luôn phù hợp. Người ta lo ngại rằng nếu nguồn cấp dữ liệu trên mạng xã hội tiếp tục bão hòa với nội dung tổng hợp, nhận thức chung về tính xác thực kỹ thuật số sẽ sụp đổ, khiến người dùng khó phân biệt giữa nỗ lực sáng tạo thực sự và việc canh tác nội dung tự động được thiết kế chủ yếu để khai thác doanh thu hoặc khai thác thuật toán.