Charakteristika obsahu súvisiaceho s terorizmom
Obsah súvisiaci s terorizmom predstavuje materiály, ktoré propagujú, ospravedlňujú alebo operacionalizujú násilie s cieľom zastrašovania civilného obyvateľstva či nátlaku na politické rozhodnutia. V online prostredí je jeho šírenie obzvlášť problematické: internet znižuje náklady na distribúciu, umožňuje cielené oslovenie zraniteľných skupín a vytvára ekosystém, v ktorom sa škodlivé naratívy reprodukujú a radikalizujú. Z hľadiska etiky ide o formu neetického chovania na internete, ktorá narúša bezpečnosť, demokraciu a ľudskú dôstojnosť.
Terminológia a rámce
- Teroristická propaganda: komunikácia vytvárajúca pozitívny obraz násilia a jeho páchateľov.
- Radikalizačný obsah: materiály posúvajúce používateľa od nespokojnosti k akceptácii legitimizovaného násilia.
- Operacionalizačný obsah: texty a videá poskytujúce návody alebo logistickú podporu (patrí medzi najrizikovejšie, platformy ho typicky bezodkladne odstraňujú).
- Apologetika a ospravedlňovanie: bagatelizácia či glorifikácia útokov, mártyrstvo, dehumanizácia obetí.
- Kontra-naratív: obsah, ktorý odbúrava mýty, prezentuje fakty, podporuje odklon od násilia a posilňuje odolnosť publika.
Ekosystém šírenia: kanály a dynamika
- Veľké platformy: vysoký dosah, ale aj robustné zásady a automatizovaná moderácia; migrácia obsahu po zásahoch.
- Nízkoprahové a decentralizované siete: slabšia moderácia, rýchle reuploady, krátke životné cykly účtov.
- Uzavreté skupiny a súkromné kanály: vrstvenie dôvery, kódovaný jazyk, kontrola prístupu.
- Obsahové „mosty“: memy, humor a symboly, ktoré znižujú kognitívnu obranu a normalizujú extrémne naratívy.
Motivácie šíriteľov a cieľové skupiny
- Rekrutácia a mobilizácia: získanie sympatizantov, logistická podpora, získavanie zdrojov.
- Psychologický dopad: strach, polarizácia, narušenie spoločenského súdržia.
- Legitimizácia: vytváranie ideologického rámca, ktorý ospravedlňuje násilie.
- Propaganda trvalosti: archivácia a replikácia materiálov, aby pretrvali zásahy moderácie.
Etické a právne hľadiská (všeobecne a v EÚ/SR)
Šírenie obsahu podporujúceho terorizmus je v rozpore s princípmi ľudských práv a právne záväznými normami. Ochrana slobody prejavu má limity tam, kde komunikácia podnecuje násilie, podporuje trestnú činnosť a ohrozuje bezpečnosť. V európskom prostredí sa uplatňujú zásady zákonnosti, proporcionality a nevyhnutnosti: platformy musia konať primerane, transparentne a s dôrazom na due process (možnosť odvolania sa, kontextové posúdenie).
Riziká a dopady na jednotlivcov a spoločnosť
- Radikalizácia jednotlivcov: posun od pasívnej sympatizácie k aktívnej podpore.
- Polarizácia a nenávisť: dehumanizácia „iných“, oslabenie verejného diskurzu.
- Bezpečnostné riziká: zvyšovanie pravdepodobnosti copycat správania, logistická podpora násilia.
- Reviktimizácia: zdieľanie násilných záznamov a identifikovateľných údajov obetí.
Princípy zodpovednej moderácie
- Jasné zásady: explicitné zákazy propagácie, návodov a ospravedlňovania teroristických činov.
- Viacvrstvové posudzovanie: kombinácia automatizovaných nástrojov, ľudských recenzentov a kontextu.
- Transparentnosť: oznamovanie zásahov, štatistiky odstránení, mechanizmy odvolania.
- Minimalizácia chýb: redukcia falošných pozitív/negatív, auditovanie datasetov a modelov.
- Kontrolované výnimky: dovolenie novinárskych, akademických a vzdelávacích kontextov pri prísnej kuratele a minimalizácii škody.
Detekcia a hodnotenie rizika (vysoká úroveň)
- Signály obsahu: textové, vizuálne a zvukové indikátory, symboly, slogany a ich kontextové použitie.
- Signály správania: koordinované reuploady, novovytvorené účty, zdieľanie cez „mostové“ kanály.
- Kontextualizácia: rozlíšenie medzi propagandou a reportovaním (novinárstvo, výskum, odsudzujúce správy).
- Hodnotenie škody: pravdepodobnosť mobilizácie k násiliu, šírka publika, zraniteľnosť cieľovej skupiny.
Mitigačné zásahy a ich proporcionalita
- Odstránenie a blokovanie: okamžité odstránenie operacionalizačných a glorifikačných materiálov.
- Obmedzenie šírenia: zníženie dosahu, demonetizácia, zákaz odporúčaní, vekové obmedzenia.
- Kontrola reuploadov: hashovanie, rozpoznávanie podobnosti, kolaboratívne databázy signatúr.
- Posilnenie kontranaratívov: presmerovanie na zdroje prevencie, helplines, osvetové kampane.
- Due process: informovanie autora o zásahu a zabezpečenie mechanizmu odvolania pri nejasných prípadoch.
Prevencia a odolnosť komunity
- Digitálna gramotnosť: rozpoznávanie manipulatívnych techník, symbolov a emocionálnych spúšťačov.
- Etiketa a zodpovedné zdieľanie: nešíriť sporné videá a odkazy, aj keď sú „spravodajsky zaujímavé“.
- Mechanizmy hlásenia: aktívne používanie nahlasovacích nástrojov a poskytovanie kontextu pre moderátorov.
- Podpora zraniteľných skupín: komunitné siete, ktoré ponúkajú alternatívne identity a zmysluplné začlenenie.
Špecifiká práce médií, akademikov a pedagógov
Médiá a výskumníci zohrávajú kritickú úlohu v informovaní verejnosti bez reprodukcie propagandy. Etické postupy zahŕňajú minimalizáciu explicitných vizuálov, nepoužívanie glorifikačného jazyka, dôslednú anonymizáciu obetí a kontextualizáciu faktov. Vo vzdelávaní je dôležité učivo zamerané na kritické myslenie a prevenciu radikalizácie, s dôrazom na bezpečnosť a psychickú pohodu študentov.
Riziká chýb moderácie a ako im predchádzať
- Prehnané zásahy: odstránenie legitímneho spravodajstva alebo kritik; potreba kontextových výnimiek.
- Nedostatočné zásahy: nebezpečné okná šírenia pri nových trendoch a kódovaných symboloch.
- Jazyková a kultúrna bias: slabšia detekcia v menších jazykoch, potreba lokálnej expertízy.
- Reuploadové slučky: nutnosť prepojiť automatizované signály s ľudským dohľadom a koordináciou naprieč platformami.
Governance, audit a zodpovednosť platforiem
- Jasné politiky a procesy: definície, kategorizácia závažnosti, SLA pre zásahy.
- Auditovateľnosť: logovanie rozhodnutí, sledovanie chýb a periodické nezávislé audity.
- Ochrana práv používateľov: vysvetlenia zásahov, možnosť odvolania, ochrana whistleblowerov.
- Spolupráca s expertmi: konzultácie s výskumníkmi násilia, psychológmi a organizáciami občianskej spoločnosti.
Meranie účinnosti opatrení
- MTTR a MTTA: priemerný čas do rozpoznania a odstránenia šíreného obsahu.
- Reupload rate: miera opätovných nahraní po zásahoch a čas do opätovného výskytu.
- Downstream harm: pokles viditeľnosti glorifikujúcich materiálov v odporúčaniach a vyhľadávaniach.
- Falošné pozitíva/negatíva: rovnováha medzi ochranou bezpečnosti a právami používateľov.
Checklist pre platformy a komunity
- Aktualizované zásady s príkladmi a kontextovými výnimkami.
- Školenie moderátorov na kódované jazyky, symboly a lokálne kontexty.
- Automatizované nástroje s ľudským dohľadom a možnosťou rýchlej eskalácie.
- Mechanizmy hlásenia prístupné a viditeľné pre používateľov, vrátane spätných väzieb.
- Program kontranaratívov a spolupráca s dôveryhodnými partnermi.
Checklist pre jednotlivcov
- Neposúvať, nezdieľať a nearchivovať materiály glorifikujúce násilie.
- Nahlásiť sporný obsah s čo najväčším kontextom (odkazy, čas, popis).
- Chrániť mentálne zdravie: vyhýbať sa traumatickým záberom a vyhľadať podporu pri expozícii násilným materiálom.
- Rozlišovať medzi informovaním a propagandou; dôverovať overeným zdrojom.
Budúce výzvy a smerovanie
- Adaptívne naratívy: rýchle menenie symbolov a kódov, ktoré obchádzajú detekciu.
- Multimodálne formáty: kombinácia textu, obrazu a zvuku vyžaduje pokročilé a kontextovo citlivé nástroje.
- Zodpovedná AI: potreba vysvetliteľnosti a auditov, aby detekčné systémy neboli diskriminačné ani zneužiteľné.
- Medziplatformová spolupráca: výmena signatúr a rýchla reakcia pri krízových udalostiach.
Obsah súvisiaci s terorizmom a jeho šírenie predstavujú vážne etické, spoločenské a bezpečnostné riziko. Efektívna odpoveď vyžaduje kombináciu jasných pravidiel, kontextovej moderácie, spolupráce s odborníkmi, posilňovania odolnosti komunity a aktívnej prevencie. Cieľom nie je umlčať legitímnu diskusiu či novinárske spravodajstvo, ale zabrániť glorifikácii násilia, operacionalizácii útokov a škodám, ktoré tieto materiály spôsobujú jednotlivcom i spoločnosti.
