Snapchat aktualizuje swój algorytm Spotlight, aby obniżyć priorytet filmów w całości wyprodukowanych przez sztuczną inteligencję, starając się, aby jego kanał publiczny skupiał się na treściach tworzonych przez ludzi. Chociaż firma ogranicza zautomatyzowane treści, nadal będzie umożliwiać korzystanie z narzędzi AI do kreatywnych ulepszeń i efektów rzeczywistości rozszerzonej.
Zmiana polityki w centrum uwagi
Snapchat oficjalnie ogłosił zwrot w sposobie obsługi generatywnej sztucznej inteligencji w swojej sekcji Spotlight, centralnym centrum platformy do odkrywania krótkich filmów. Zgodnie z nowymi wytycznymi algorytm rekomendacji firmy będzie aktywnie blokował filmy, które są tworzone w całości za pomocą narzędzi AI. Nawet jeśli twórcy prawidłowo ujawnią wykorzystanie sztucznej inteligencji, klipy te nie będą już promowane w kanałach publicznych. Snap podkreślił, że jego głównym celem jest zapewnienie, że Spotlight pozostanie miejscem autentycznej kreatywności skupionej na człowieku. Pozbawiając priorytet materiałów pochodzących spoza kreatywnego ekosystemu Snapchata, firma ma nadzieję ograniczyć wpływ powtarzalnych mediów o niskiej jakości, które stają się coraz bardziej powszechne w cyfrowym krajobrazie. Ta zmiana stanowi istotny środek ochronny przeciwko szybkiemu rozprzestrzenianiu się zautomatyzowanych treści, które Snap identyfikuje jako potencjalne zagrożenie dla jakości i niezawodności swoich narzędzi do wyszukiwania dostępnych dla użytkowników.
Odróżnianie ulepszeń od automatyzacji
Pomimo nowych ograniczeń Snap wyjaśnił, że nie wprowadza całkowitego zakazu technologii sztucznej inteligencji. Platforma nadal stara się zapewniać użytkownikom kreatywne narzędzia wykorzystujące sztuczną inteligencję, szczególnie w przypadku efektów rzeczywistości rozszerzonej i zaawansowanej edycji obrazów. Tak długo, jak narzędzia te będą wykorzystywane do ulepszania lub udoskonalania dzieła stworzonego przez człowieka, powstałe w ten sposób filmy wideo będą nadal kwalifikować się do umieszczenia w Spotlight. Snapchat zamierza zachować jasne granice: treści wykorzystujące wbudowane w firmę narzędzia sztucznej inteligencji będą nadal wyraźnie oznaczone znakami wodnymi, natomiast treści uznane za „wygenerowane w całości przez sztuczną inteligencję” – często określane jako „slop AI” – stracą możliwość rekomendacji. Wytyczając tę linię, Snap ma na celu ochronę swojego ekosystemu przed napływem niewymagających wysiłku, masowo produkowanych klipów, jednocześnie tworząc przestrzeń dla innowacji technologicznych i cyfrowej ekspresji artystycznej.
Rozprawa w całej branży
Najnowsza zmiana polityki Snapchata wpisuje się w szerszy trend branżowy wśród głównych platform cyfrowych, które starają się zachować integralność danych w obliczu gwałtownego wzrostu wydajności generatywnej sztucznej inteligencji. Inne firmy technologiczne jednocześnie mierzą się z podobnymi wyzwaniami. Na przykład LinkedIn zaczął zająć się zautomatyzowaną aktywnością, wprowadzając narzędzia do raportowania dla użytkowników w celu oznaczania treści generowanych przez sztuczną inteligencję i zgłosił blokowanie miliardów prób automatycznego komentowania w ostatnich miesiącach. Tymczasem Substack wdrożył funkcje wykrywania, aby pomóc czytelnikom zidentyfikować eseje autorstwa AI, powołując się na obawy, że obecnie nawet 40% tekstów w mediach społecznościowych może być sztucznie generowane. YouTube zintensyfikował także działania moderacyjne, kategoryzując i ograniczając monetyzację filmów ogólnych, powtarzalnych lub opartych na szablonach, które w dużym stopniu opierają się na automatyzacji sztucznej inteligencji. Te ogólnobranżowe środki sugerują zbiorowe uznanie, że niefiltrowana zawartość sztucznej inteligencji może w dłuższej perspektywie zmniejszyć wartość platformy i zagrozić zaufaniu użytkowników.
W poszukiwaniu autentyczności
Dążenie do ograniczenia „spadków AI” wynika zarówno z niepotwierdzonych dowodów na niezadowolenie użytkowników, jak i z badań empirycznych dotyczących interakcji odbiorców ze sztucznymi mediami. Według raportów branżowych użytkownicy stają się coraz bardziej sceptyczni wobec treści online w miarę wzrostu ilości materiałów generowanych przez sztuczną inteligencję. Ten „wyścig w dół”, jak opisał dyrektor generalny Substack, Chris Best, tworzy środowisko, w którym uzasadniony wkład ludzi jest zagłuszany przez media o wysokiej częstotliwości, przyjazne algorytmom, ale z natury fałszywe. Podejmując działania, platformy sygnalizują, że algorytmiczne systemy rekomendacji muszą priorytetowo traktować kontakt międzyludzki, aby zachować aktualność. Istnieje powszechna obawa, że jeśli kanały mediów społecznościowych w dalszym ciągu będą nasycane treściami syntetycznymi, załamie się ogólne postrzeganie autentyczności cyfrowej, co utrudni użytkownikom rozróżnienie pomiędzy prawdziwymi przedsięwzięciami twórczymi a zautomatyzowanym hodowlą treści, mającą przede wszystkim na celu pozyskiwanie przychodów lub wykorzystywanie algorytmów.
⚖ The Balanced View
Supporting view
Zwolennicy, w tym platformy takie jak Snap i LinkedIn, argumentują, że filtrowanie „błędów AI” jest niezbędne, aby nadać priorytet wysokiej jakości kreatywności skupionej na człowieku i zapobiec erozji zaufania do kanałów internetowych.
Concerns & criticism
Istnieje obawa, że nadmierne rozprzestrzenianie się treści generowanych przez sztuczną inteligencję powoduje „wyścig w dół”, w wyniku którego platformy, które nie ograniczają takich materiałów, ryzykują, że zostaną przytłoczone treściami niskiej jakości, powtarzalnymi i zwodniczymi.
→What's next
Oczekuje się, że operatorzy platform będą w dalszym ciągu udoskonalać swoje mechanizmy wykrywania, aby lepiej odróżniać pomocne treści wspomagane sztuczną inteligencją od powtarzalnych, masowo produkowanych mediów. Przyszły rozwój może obejmować bardziej szczegółowe standardy branżowe dotyczące znaków wodnych i etykietowania zasobów generowanych przez sztuczną inteligencję w ekosystemach społecznych.