TikTok informuje o 62% skoku w fałszywych profilach tworzonych w aplikacji

TikTok opublikował najnowszy przegląd odpowiedzi dotyczących egzekwowania Wytycznych dla społeczności, w którym przedstawiono wszystkie filmy i konta, które zostały usunięte lub w przypadku których podjęto inne działania w drugim kwartale tego roku.

I jak to się mówi – „Mo Użytkownicy, Mo” problemy”.

Okej, to nie jest prawdziwe powiedzenie, ale równie dobrze może tak być, biorąc pod uwagę rosnącą ilość działań podejmowanych przez zespół TikTok na całym świecie.

Po pierwsze, w sprawie usuwania filmów – TikTok usunął ponad 113 milionów klipów wideo między kwietniem a czerwcem tego roku z powodu naruszeń zasad i innych problemów – 11% wzrost w porównaniu z poprzednim kwartałem, choć pozostaje to w dużej mierze zgodne z trwającym trendem.

Jak widać na tym wykresie, liczba usuniętych filmów przez TikTok stale wzrastała w czasie – co ma sens, biorąc pod uwagę ciągły wzrost aplikacji. Wskazuje to jednak również na ciągłe nadużycia i na to, jak zakres wyzwań w tym zakresie rośnie, celowo lub nie, w miarę jak ludzie coraz częściej sięgają po aplikację.

Ale TikTok również się poprawia, szczególnie pod względem proaktywnego usuwania i pozbycia się materiałów naruszających zasady, zanim ktokolwiek je zobaczy:

„Proaktywne usuwanie filmów poprawiło się z 83,6% w I kwartale do 89,1% w II kwartale; usuwanie filmów przy zerowych wyświetleniach poprawiło się z 60,8% w pierwszym kwartale do 74,7% w drugim kwartale; a usuwanie wideo w czasie poniżej 24 godzin poprawiło się z 71,9% do 83,9%. ”

Dlatego TikTok robi więcej, aby chronić użytkowników przed potencjalnie szkodliwą ekspozycją w aplikacji, chociaż nadal może mieć sposób na kontrolowanie dezinformacji.

Według niedawnego badania przeprowadzonego przez NewsGuard, nawet 1 na 5 wyników wyszukiwania w aplikacji zawiera nieprawdziwe informacje, w tym wyszukiwania od „wybory 2022” do „szczepionki mRNA”. Co jest interesującym przeciwieństwem własnych danych TikTok, które sugerowałyby, w izolacji, że TikTok staje się znacznie lepszy na tym froncie.

Chociaż oczywiście dezinformacja to tylko jeden z problemów, które mogą spowodować usunięcie treści w aplikacji, a TikTok zapewnia również przegląd najczęstszych przyczyn usuwania treści z powodu naruszeń zasad.

Przypuszczam, że dezinformacja wchodzi w zakres „uczciwości i autentyczności”, co stanowi tylko ułamek całkowitego działania egzekucyjnego, przy czym „drobne bezpieczeństwo”, „nielegalna działalność” i „nagość” są głównymi przyczynami usunięcia.

Drobne bezpieczeństwo jest krytycznym problemem dla aplikacji, zwłaszcza biorąc pod uwagę jej młodszą bazę użytkowników, a także obawę, że TikTok zachęca do bardziej ryzykownych treści , zwłaszcza od młodych dziewcząt, w ramach przynęty, aby ludzie przewijali swój kanał „Dla Ciebie”.

Zagłębiając się konkretnie w ten element, można zauważyć, że w ramach Minor Safety, „Nagość i aktywność seksualna z udziałem nieletnich” jest zdecydowanie największym powodem usunięcia.

To znowu pozostaje kluczowym obszarem zainteresowania TikTok i wyraźnie, w oparciu o te liczby, pracuje nad rozwiązaniem tego elementu. Ale z drugiej strony dużym problemem pozostaje również to, że użytkownicy chcą w ogóle publikować tego typu materiały w aplikacji, co również pod pewnymi względami wzmacnia argument, że algorytmy TikTok zachęcają do takiej aktywności.

Jeśli chodzi o usuwanie kont, fałszywe konta pozostają największym czynnikiem, z ponad 33 milionami fałszywych profili usuniętych w tym okresie, co stanowi wzrost o 62% w porównaniu z poprzednim kwartałem.

Ponownie, ma to sens w związku ze wzrostem użycia TikTok. W miarę jak coraz więcej osób się zarejestruje, powstanie więcej fałszywych profili, aby zwiększyć liczbę ludzi, wzmocnić wątpliwe trendy lub „zaangażować się” w inną nielegalną działalność.

I zdecydowanie, platformy społecznościowe są obecnie postrzegane jako kluczowe kanały do ​​wzmacniania ruchów i wywierania wpływu na opinię polityczną, a Meta poinformowała wczoraj, że nadal wykrywa manipulacje na dużą skalę, wspierane przez państwo, wymierzone w ludzi w różnych regionach.

Fakt, że tworzonych jest tak wiele fałszywych kont TikTok – lub przynajmniej próbowano je utworzyć – wskazuje również na rosnącą wartość branży influencerów i na to, jak prawdopodobnie wzrośnie rynek fałszywych obserwujących w aplikacji. Podaż i popyt sprawią, że ten trend będzie kontynuowany w górę, dlatego TikTok musi zachować czujność w tym aspekcie – w przeciwnym razie jego wpływowcy ryzykują utratę wiarygodności i wartości dla marek.

Którą też się rozwija. Oprócz tych notatek z danymi TikTok twierdzi, że stale rozwija swoje systemy i nadal inwestuje w flagowanie oparte na technologii na różnych frontach, a także moderację i weryfikację faktów.

„Mamy kilkunastu partnerów weryfikujących fakty na całym świecie, którzy sprawdzają treści w ponad 30 językach. Wszyscy nasi partnerzy weryfikujący fakty są akredytowani przez Międzynarodową Sieć Weryfikującą Fakty jako zweryfikowani sygnatariusze kodeksu zasad Międzynarodowej Sieci Weryfikacyjnej ”.

TikTok twierdzi również, że wdrożono nowy, proaktywny program sprawdzania faktów, który umożliwia sprawdzającym fakty oznaczanie nowych i ewoluujących twierdzeń, które widzą w Internecie.

„To pozwala nam szukać tych roszczeń na naszej platformie i usuwać naruszenia. Od rozpoczęcia tego programu w zeszłym kwartale zidentyfikowaliśmy 33 nowe roszczenia dotyczące dezinformacji, co spowodowało usunięcie 58 000 filmów z platformy ”.

TikTok ostatnio rozszerzył również opcję głosowania w dół dla komentarzy, która nie ma na celu sygnalizowania, jak użytkownicy mogą myśleć o tym komentarzu jako takim, ale raczej do oznaczania potencjalnie dotyczących odpowiedzi dla zespołu moderatorów TikTok.

Ogólnie rzecz biorąc, dane pokazują, że TikTok rozwija swoje systemy zgodnie z szerszym wzrostem, ale liczby podkreślają również znaczenie utrzymania presji na te elementy i zapewnienia, że ​​będzie na bieżąco z najnowszymi technikami i podejściami oszustów używają do oszukiwania swoich systemów.

Oprócz tego istnieją również inne obawy związane z algorytmicznym wzmocnieniem w aplikacji oraz tym, w jaki sposób rząd chiński ma wpływ na TikTok. Kwestie te pozostają w szerszym zakresie dla ekspertów ds. cyberbezpieczeństwa i polityki zagranicznej i nadal mogą stać się znacznie większym problemem dla platformy – ale pod względem wyraźnych naruszeń i nadużyć, w odniesieniu do Wytycznych dla społeczności TikTok, jasne jest, że platforma nadal działa wyciąć, aby wyprzedzić pojawiające się zagrożenia.

Możesz przeczytać pełny raport TikTok dotyczący egzekwowania wytycznych dla społeczności za II kwartał tutaj.