[PL] Pro-rosyjska dezinformacja na Twitterze

W ostatnim czasie analizowałem sieć polskojęzycznych kont na Twitterze nastawionych pro-rosyjsko/anty-ukraińsko. W tym artykule chciałem się podzielić swoimi spostrzeżeniami na temat zaobserwowanych wzorców i wyzwań jakie są związane z wykrywaniem dezinformacji.

Narzędzia i metody

Analizę przeprowadzaliśmy w małej grupie – między innymi z Markiem Czumą z RDF i Piotrkiem Czaińskim – dzięki chłopaki za wspólne polowanie na trolle ;). Wykorzystalismy przede wszystkim:

• Narzędzie wspierające analityków w wykrywaniu dezinformacji, które rozwijam od dłuższego czasu i planuję opublikować na licencji Open Source. Jest zbudowane w oparciu o technologie Big Data i metody Sztucznej Inteligencji. Jeśli jesteś analitykiem, który zajmuje się obszarem dezinformacji i jesteś zaitneresowany/a dostępem, daj znać (jan@datahunters.ai). Narzędzie to pozwala m.in. na monitorowanie treści na Twitterze (kolejne serwisy na roadmapie), wyłapywanie anomalii, oznaczanie podejrzanych kont/wpisów, badanie aktywności poszczególnych użytkowników i eksport wybranego podzbioru danych do Graphistry.

• Graphistry – do interaktywnej analizy grafowej.

• Podstawowe metody OSINTowe, głównie z obszaru SOCMINT.

Nie obyło się oczywiście również bez ręcznego sprawdzania wielu różnych wpisów i kont. Na długo przed agresją Rosji monitorowałem pewne frazy i użytkowników i na przełomie lutego/marca zaobserwowałem interesujący wpis, który dalej poprowadził mnie do ciekawej społeczności.

Zaobserwowane wzorce

Podczas analizy zauważyliśmy kilka interesujących wzorców, które później widoczne były przy okazji obserwowania innych narracji. Oczywiście do jednoznacznego stwierdzenia, że jest to wzorzec stosowany obecnie na szeroką skalę, konieczne byłoby przeprowadzenie znacznie bardziej pogłębionego badania obejmującego więcej kampanii/wątków dezinformacyjnych. Pomimo to, uznałem, że dla osób, które zajmują się tym tematem nasze spostrzeżenia mogą być pomocne. Obszar dezinformacji jest bardzo dynamiczny i wymiana obserwacji “na bieżąco” pomiędzy osobami/organizacjami może zwiększyć skuteczność w wojnie informacyjnej.

Zawężanie przekazu do wąskich grup

Zauwążyliśmy tendencję do budowania narracji w ramach społeczności lokalnych lub skupionych dookola pewnych tematów. Wychodząc w pewnych momentach poza Twittera i analizując konta na Facebooku powiązane tematycznie z tymi na Twitterze można było dostrzec podobną zależność. Oczywiście zwykle kampanie dezinformacyjne mają za zadanie celować w okreslone grupy, ale w tym wypadku można było odnieść wrażenie, że przekaz ma nie wychodzić poza tą społeczność.

Niewielkie wykorzystanie hashtagów

Dosyć często w kampaniach dezinformacyjnych stosowane są hashtagi do zwiększenia zasięgów. Ostatnio bardzo rzadko natrafiałem na wpisy, które z jednej strony wyraźnie miały na celu podgrzewanie emocji anty-ukraińskich, a z drugiej strony mialy hashtagi. Pojawiały się oczywiście, szczególnie na początku takie hashtagi jak #upaina, #upadlina, czy #banderowcy, ale raczej nie zaobserwowałem na Twitterze zmasowanych akcji z hashtagami. Takie podejście jest spójne z koncepcją budowania narracji w konkretnych społecznościach. Pozwala na unikanie wykrycia przez systemy, które monitorują popularne wątki z wykorzystaniem właśnie hashtagów. Tylko w jaki sposób w takim razie budowane sa zasięgi? Jak się okazuje niekoniecznie potrzebne są specjalne starania w tym temacie.

Wykorzystanie wcześniej zbudowanych społeczności

Zdecydowana większość badanych kont, które miały istotny wpływ na rozprzestrzenanie informacji w danej społeczności nie powstała kilka miesięcy temu. Są to już dosyć dobrze ustabilizowane konta (mają kilka do nawet kilkunastu lat). Mają dosyć dużą popularność bo od kilku do kilkudziesięciu tydzięcy “followersów”, ale nie bardzo dużą, dzięki czemu publikowane przez nich wpisy trafiają bezpośrednio do określonych grup docelowych i nie wychodzą poza.

Wykorzystanie lokalnych “autorytetów”

Dwie kampanie, które analizowaliśmy rozpoczęły się od publikacji screena z wpisu na Facebooku. Wpisy były publikowane przez firmy/osoby popularne w swoich społecznościach lokalnych (miały 8k-10k polubień profilu).

Posty od których rozpoczęły się kampanie nie były wprost agresywnie nastawione do Ukraińców. Jeden z nich w zasadzie nie był w ogóle, tylko treści zamieszczone w nim zostały wykorzystane do rozkręcenia negatywnej narracji. Drugi dotyczył tego, że autor bardzo angażuje się w pomoc, a okazało się, że został oszukany. Nie udało nam się stwierdzić, czy wpisy zostały tylko wykorzystane w negatywnym celu, czy autorzy również brali udział w całej kampanii.

“Kulturalne” trolle

Niewiele było kont, które wykazywały się bardzo agresywnym trollingiem. Raczej w większości przypadków autorzy wpisów dbają o budowanie wizerunku inteligentnych, spostrzegawczych i myślących nieszablonowo osób. Być może wynika to ze specyfiki Twittera, podobno jest to serwis używany przez inteligentne osoby 😉

Zmiana wątków z anty-COVID na anty-ukraina

Wzorzec omawiany już dosyć szeroko w społecznościach zajmujących się wykrywaniem dezinformacji, ale warto wspomnieć. Przy okazji rozpoczęcia agresji rosyjskiej nastapiła ciekawa zmiana. Nagle konta, które były dotychczas aktywne w obszarze krytykowania szczepionek, restrykcji związanych z COVIDem, itp. zaczęły budować narrację anty-ukraińską. Po potwierdzeniu, że dane konta są faktycznie zaangażowane aktywnie w dezinformacje nie na zasadzie “pożytecznych idiotów” można było stwierdzić, które z nich były rosyjskimi narzędziami mającymi na celu polaryzację Polaków w trakcie pandemii.

Z drugiej strony, w pewnym momencie zwrot był tak oczywisty, że zaczęły się u mnie pojawiać wątpliwości, czy nie jest to zamierzona akcja mająca na celu odwrócenie uwagi od bardziej subtelnych działań.

Zgłaszanie kont

Finalnie zrobiliśmy krótką listę kont, które uznaliśmy, że z wysokim stopniem prawdopodobieństwa aktywnie i świadomie biorą udział w kampaniach dezinformacyjnych. Co więcej – są istotnymi kontami w konkretnej społeczności. Cały proces od zbierania danych przez analizę i podsumowanie wniosków spisalismy oraz udostępniliśmy dwóm zespołom:

• NASK – na adres: informacje@nask.pl
• EUvsDisinfo (East StratCom Force Task) – przez formularz na stronie https://euvsdisinfo.eu

Twitter niestety nie posiada (lub nie udało nam się znaleźć) miejsca, w którym można szerzej opisać sieć kont, które realizują kampanie dezinfomacyjne. Zgłaszać można jedynie poszczególne konta co z naszej perspektywy jest mniej efektywne bo w niektórych przypadkach dopiero ukazanie szerszej perspektywy daje uzasadnienie do zablokowania danego użytkownika.

Wnioski

Poniżej kilka wniosków z naszej analizy:

• Działania dezinformacyjne są bardziej wyrafinowane niż np. kilka lat temu. Prymitywne wpisy, których blokadę łatwo uzasadnić są rzadsze niż kiedyś.
• Rosjanie od dawna budowali profile, które z czasem zyskiwały popularność i zaufanie w określonych społecznościach podatnych na pewne przekazy.
• Dzięki zbudowanemu zaufaniu w konkretnych grupach narracje mogą być kierowane w bardziej precyzyjny sposób i bez konieczności starania się o zasięgi
• “Oczywista oczywistość”, ale zawsze warto dodać – skrajne środowiska są bardziej podatne na działania mające na celu “doklajanie” do głównych tez przekazów dezinformacyjnych.
• Trudniej jest wyłapywać momenty/wpisy rozpoczynające kampanie dezinformacyjne. Często są to po prostu zdjęcia/screeny wyjęte z kontekstu. Tutaj jest wyzwanie w obszarze metod SI, które pozwolą na identyfikację takich treści w sposób automatyczny.
• Zidentyfikowane przez nas konta były bardzo blisko znanych polityków, niektóre treści były przez nich udostępniane.

Jeśli spojrzymy na całość z góry można śmiało stwierdzić, że cała operacja była przygotowywana starannie od dawna.

Masz pytanie? Chcesz się podzielić swoimi spostrzeżeniami? Daj znać w komentarzach lub po prostu do mnie napisz: jan@datahunters.ai.