Bezhlavý a dětinský

Pokud by dnes žil Perseus, bájná postava z řecké mytologie, měl by jistě na Facebooku tolik přátel jako třeba Cristiano Ronaldo nebo Coca-Cola Zero, z nichž každý má za sebou více než 100 milionů fanoušků. Jako profilový obrázek by si pak tento polobůh mohl dát klasickou sochu sebe samého. Facebook by totiž pravděpodobně neviděl nic špatného na tom, že drží v levé ruce uříznutou hlavu Medusy, tedy alespoň pokud by nějaký MeeToo senzitivní algoritmus nezaznamenal to, že jde o ženskou hlavu. Tato sociální síť by se však přece jen mohla potýkat s malým problémem: starodávná superstar se oddává nudismu.

Ve skutečnosti je totiž otázkou, zda by bronzová socha Persea, kterou lze spatřit ve Florencii, prošla cenzurou Facebooku. Má problém s nahotou. A tato pubertální upjatost se nezastaví ani u velkého umění. David od Michelangela? Měl by si na sebe něco vzít. Odhalená prsa v Delacroixově „Svoboda vede lid na barikády“? Prosím zakrýt. Facebook, nebo lépe umělá inteligence (AI), která za ním stojí, za obscénní věci interpretuje nahotu velmi kreativní cestou. Jako příklad lze použít i „Monument“, instalaci syrsko-německého umělce Manafa Halbouniho. V podstatě se toto umělecké dílo skládá ze tří vertikálně umístěných autobusů, které dočasně dominovaly městské scenerii nejprve v Drážďanech a později v Berlíně. Sociální síť ale dala palec dolů - nikoliv na základě něčeho jako vkus, ale „pro zobrazení nahoty“. Když se uživatel zeptal, co má obrázek tří rozbitých autobusů společného s nahotou, odpověď zněla: „Zkontrolovali jsme fotografii znovu a opět potvrdili, že nesplňuje naše komunitní standardy."

Podobný problém měla i socha Neptuna v italské Boloni. Socha totiž porušila pravidla tím, že „v nadměrné míře ukazovala lidské tělo a zbytečně se soustředila na některé jeho části“. „Použití obrázků či videí nahých těl nebo hlubokých výstřihů není povoleno, i když jsou použity z uměleckých nebo vzdělávacích důvodů,“ zdůvodňuje krok zástupce sociální sítě.

Antisemitismus a sexismus jsou naprosto v pořádku

Mnohá z řady absurdních rozhodnutí rady pro cenzuru Facebooku naleznete na webové stránce „Facebook-Sperre - Wall of Shame“. Tu spravuje Joachim Steinhöfel, advokát z Hamburku, který se často s Facebookem střetává u soudu. Měli bychom si uvědomit, že zřejmá náhodnost udělovaných zákazů by mohla vyvolat pouhé zakroucení hlavou nebo schovívavý úsměv, pokud by nešlo o rozhodnutí, která přesahují hranice zdravého rozumu a jsou často drzá, bezohledná a krutá. Na Facebooku bylo například zveřejněno několik snímků ohavných teroristických činů, které nevyděsily jen uživatele slabé na srdce. Obzvláště hrůzný snímek byl navíc vybrán jako profilový obrázek a v žádném případě nesloužil k informačním účelům. Uživatel, který tento nesmyslný počin nahlásil Facebooku, se dočkal odpovědi, že profil neporušil standardy komunity.

Pravidla, podle kterých Facebook něco přikáže odstranit a něco ne, jsou stejně pochopitelná, jako když aplikujete pravidla házené na profesionální fotbal. Poměrně velkou šanci na to, zůstat na Facebooku, mají antisemitské vtípky, sexistické urážky, nebo dokonce vyhrožování smrtí. Dokonce i sexuální zneužívání dětí, video se zastřelením psa, pečivo se svastikou apod. nemusí patřit do kategorie zakázaných příspěvků.

Raději se dívejte jinam a nezapojujte se

Aby se ti, kteří nahlašují nějaký přestupek, nemuseli příliš rmoutit z toho, že s nahlášením neuspěli, Facebook nabízí textovou útěchu postavenou na pedagogicko-terapeutickém slovním pokladu: „Názory od uživatelů Facebooku nám pomáhají přepracovávat naše produkty, vylepšovat naše zásady a opravovat technické problémy. Děkujeme vám, že jste si udělali čas a sdíleli jste s námi své myšlenky a návrhy.“ „Ačkoli nemůžeme procházet a odpovídat na všechny odeslané formuláře, používáme názory, jako jsou ty vaše, k vylepšení prostředí na Facebooku pro všechny uživatele.“ „Vaše názory nám pomáhají zjistit, co můžeme udělat, aby vaše zkušenosti s Facebookem byly v budoucnu lepší.“ „Myšlenky a názory, které sdílíte, nám pomáhají zajistit, aby Facebook zůstal bezpečným a příjemným místem pro každého.“ „Udělali jste správnou věc, že jste to ohlásili.“

Facebook také radí, abyste si příspěvky nevhodného typu zablokovali, a jde na to opět citlivě. Vybídne vás, abyste si odebrali osobu z vašeho uživatelského prostředí, protože vám to pomůže zastavit zobrazování takovéhoto obsahu. Po překladu do běžné řeči to pak znamená, že vám Facebook doporučuje dívat se raději jinam, neohlížet se a pokračovat v klidu dál.

Stejně absurdní, jako je ponechání některých závadných příspěvků, je zablokování některých účtů ze strany Facebooku. Dokonce i tato rozhodnutí jsou totiž předvídatelná asi jako počasí. Pochopit, proč se Facebooku znelíbil obraz Selský tanec, na kterém jsou překvapivě tanečníci a který namaloval před 500 lety holandský mistr Pieter Bruegel starší, lze opravdu dost těžko. A přesto dostal na 30 dní zákaz. Nakonec zásah právníka Steinhöfela vedl k tomu, že cenzura byla ze strany Facebooku stažena, a to bez komentáře.

Zákaz na 24 hodin dostala například i redakce zpravodajského webu Echo24.cz. Na Facebooku zveřejnila článek s titulkem „Ministr Pelikán žádá za vtipy o sexuálních menšinách kriminál“. Problém patrně nebyl v článku, ale ve fotografii, na které byla vítězka Eurovize z roku 2014 Conchita Wurst s tanečnicemi kabaretu, které byly do půli těla nahé. Takové obrázky povolené nejsou: „Omezujeme také některé obrázky ženského poprsí, pokud jsou viditelné bradavky, ale fotky kojících žen nebo žen předvádějících hruď zjizvenou po mastektomii vždycky povolujeme.“ Ban od Facebooku dostal v loňském roce i marketér Horák kvůli vtípku o burkinách. „Dostal jsem ban za úvahu o burkinách. Člověk vlastně ani neví, jestli to bylo nahlášené od zastánců burkin, nebo jejich odpůrců, ale v každém případě mě zablokovali na třicet dnů,“ uvedl pro Echo24. Facebook totiž blokuje příspěvky, které někdo označí za urážející nebo obtěžující, a jak situaci vyhodnotí, už je na něm.

Smazaný příspěvek a ban na 24 hodin si vysloužil na Facebooku i Reflex před první přímou prezidentskou volbou. J. X. Doležal tehdy zveřejnil článek, že v každém případě bude volit Zemana, protože je lidový. A jako fotografii k článku použil svůj (holý) zadek, na kterém bylo fixem napsáno Volým Myloše! Někdy se ale uživatelé ani nedozvědí, proč byl jejich příspěvek smazán a na nějakou dobu jim byl přístup odepřen. Facebook jim jen napíše, že to bylo z bezpečnostních důvodů, že další informace poskytnout nemůže a rozhodnutí je konečné. Podle právníka Joachima Steinhöfela je to absurdní a autoritářské. Jedná se podle něj o manipulaci s uživateli, s nimiž má Facebook smluvní vztah.

Německý právník Joachim Steinhöfel však nekritizuje jen Facebook, ale i kontroverzní německý zákon označovaný jako NetzDG, který u našich sousedů prosadil v roce 2017 Heiko Maas, bývalý ministr spravedlnosti a současný ministr zahraničních věcí. Jde o tzv. zákon proti „hejtům“ a na jeho základě hrozí sociálním sítím pokuta, pokud nebudou do 24 hodin (v komplikovanějších případech do jednoho týdne po oznámení třetími stranami) mazat nenávistné komentáře či pomluvy. V platnost vstoupil začátkem tohoto roku a sociální sítě, jako právě Facebook nebo Twitter, v obavách před pokutami raději začaly mazat.

Avšak Facebook, nejvíce postižený tímto zákonem, nepoužívá armádu tisíců právníků, a tak je pro něj nejbezpečnějším a nejjednodušším řešením tzv. overblocking: raději toho smaže víc, než aby to bylo málo. Vyhne se tak sankcím až do výše 50 milionů eur. Podle Steinhöfelova právního názoru však nelze ukládat pokuty za dodržování zákona.

Na žádost německé redakce Chipu zaslal Steinhöfel svůj právní názor. „K zákonu ke zlepšení prosazování práva v sociálních sítích (NetzDG) uvádím: Nikdo nesmí souhlasit s tím, že jeho legitimní tvrzení je ze sociální sítě odstraněno. Odpovídající jednoznačná ustanovení, která by milionům Němců usnadnila přístup k jejich právům, nebyla do zákona ze strany ministra spravedlnosti zahrnuta. Proto potřebujete buď jednoznačnou judikaturu, které se snad ze strany federálního soudu brzy dočkáme, nebo jasný právní základ. Je absurdní regulovat masové vymazávání, a nikoli ochranu legitimního svobodného projevu!“

Kdo upozorní na pornografii, je sám označen za jejího šiřitele

Na stránkách právníka Steinhöfela jsou nashromážděny desítky případů odstranění příspěvků z bizardních důvodů. Patří mezi ně i případ, kdy uživatelka nahlásila účet, který ve svém profilovém snímku zobrazoval hardcore porno scénu. Ovšem Facebook vyhodnotil tento účet jako vyhovující pravidlům. Uživatelka tedy tuto stránku zveřejnila na svém Facebooku - a to s fatálními důsledky. Její příspěvek byl smazán a ona sama přišla o přístup na Facebook. Důvod: pornografie. Aby znovu získala přístup na svůj účet, musela potvrdit, že už nikdy nebude publikovat porno.
V jiném případě získal Steinhöfel předběžné opatření, které Facebooku zakázalo vymazání politického komentáře a zablokování uživatele. Advokát argumentoval tím, že jeho klient má s platformou smlouvu jako uživatel Facebooku. Může použít jeho údaje, ale na oplátku mu musí umožnit zveřejnění legálního obsahu. A Facebook musí tuto smlouvu dodržovat. Strategie to byla úspěšná: příspěvek, který nebyl obzvláště vtipný, ale každopádně nebyl odporující právu, musel být obnoven a zablokování zrušeno. Toto rozhodnutí bylo výhrou pro svobodu projevu a prohrou pro Maasův zákon NetzDG a snahu outsorcovat úkoly státních orgánů vymáhat právo na komerční společnosti.

Chip se Steinhöfela také zeptal, zda se všechny osoby postižené protiprávním vymazáním vždy obracejí na soud. „V principu se judikatura může použít pouze v případě, kdy se uživatel obrátí na soud. Ale musí být ochotný za to utratit nějaké peníze. Nižší nebo žádné náklady mají ti, kteří jsou proti takovýmto případům pojištěni a pokud advokát pracuje za stanovené poplatky. Náklady obou stran činí několik tisíc eur za každou agendu. Dobré na tom je, že pokud vyhrajete, zaplatí protivník.“

Ochrana svobody projevu a umělá inteligence Facebooku

Facebook, který je kvůli skandálu s Cambridge Analytica a americkými prezidentskými volbami pod velkým tlakem, na průlomové soudní rozhodnutí zareagoval poměrně vstřícně. Po několik týdnů jedna dobrá zpráva střídala druhou. Počet zaměstnanců v evropských střediscích pro moderování obsahu v Berlíně a Essenu by se totiž měl zvýšit asi o 500, na zhruba 2 000 zaměstnanců. A do konce roku by také mělo dojít ke změně procedury rozhodování. „Víme, že musíme dělat víc. Proto v průběhu roku umožníme více lidem vznést námitky proti našim rozhodnutím. Ti, kteří protestují proti smazání, budou mít nárok na,kontrolu od našeho týmu (vždy jednou osobou)‘. To obvykle proběhne do 24 hodin," řekla Monika Bickertová, vedoucí oddělení globální politiky Facebooku. To naznačuje, že druhé přezkoumání neprovádí přímo pracovníci, a odhaluje klíčový problém chyb při mazání statusů a uživatelů: hranice svobody projevu posuzují na Facebooku převážně algoritmy.

Avšak skutečnost, že člověk z masa a kostí bude v budoucnu přinejmenším v druhé instanci na Facebooku rozhodovat, nemusí ještě nutně znamenat zlepšení situace. Otázku, zda je vyjádření na Faebooku přípustné, kterou často řeší soudy, státní zástupci a zkušení právníci dlouhé měsíce, by měli pracovníci Facebooku vyřešit nejpozději do 24 hodin. A rozhodnutí mají provést zaměstnanci externích středisek pro moderování obsahu, jejichž často jedinou požadovanou kvalifikací je zvládnutí příslušného jazyka. To je možná až příliš ambiciózní plán.
Společnost Facebook školí své soukromé rychlosoudce v tzv. zásadách komunity (Community Standards). Ty jsou již dlouho veřejně a oficiálně známé, na rozdíl od vnitřních směrnic, podle kterých mají zaměstnanci příspěvky posuzovat. Facebook zveřejnil tyto směrnice v rámci ofenzivy Glasnosť. Už s ohledem na absurdity zdokumentované v tomto článku je však otázkou, zda jsou s nimi umělá inteligence a lidští kolegové seznámeni.

Mimochodem, v pasáži o zásadách komunity se můžete dočíst, že účelem těchto zásad je vytvořit bezpečné prostředí, kde si lidé navzájem věří. A také že „Autentičnost je základním kamenem naší komunity“. Pokud tyto zásady bere Facebook trochu vážně, velká část z dvou miliard profilů se brzy rozplyne v jedovatém oblaku.

Foto popis| Co Facebooku nevadí
Foto popis| Svastika? Žádný problém Kvůli svastice s nápisem „Sieg Heil“ nebo urážkám cizinců není podle AI Facebooku nutné status mazat.
Foto popis| Antisemitismus a popírání holocaustu Facebooku zjevně nevadí příspěvky namířené proti Židům.
Foto popis| Některé příklady paradoxní cenzury Facebooku v tomto článku pochází z webové stránky „Facebook-Sperre - Wall of Shame“ advokáta Joachima Steinhöfela (na obrázku).
Foto popis| Co Facebooku vadí
Foto popis| Jistota je jistota Umění je nebezpečné, tedy alespoň podle algoritmů Facebooku. Vymazal totiž Bruegelův obraz Selský tanec, jeden z nejznámějších a nejneškodnějších obrazů na světě. Po námitce byl naštěstí odblokován.
Foto popis| „Dostal jsem ban za úvahu o burkinách. Člověk vlastně ani neví, jestli to bylo nahlášené od zastánců burkin, nebo jejich odpůrců, ale v každém případě mě zablokovali na třicet dnů,“ uvedl marketér Horák na reakci Facebooku. Neprošel ani obrázek herce Maryšky, na kterém je žena v burkinách s „odkrytým“ poprsím.
Foto popis| Norského spisovatele detektivek Toma Egelanda Facebook zablokoval proto, že sdílel známou fotografii z války ve Vietnamu. Na fotce cenzorům vadí, že je „napalmová dívenka“ nahá.
Foto popis| Prudérnost Facebooku Facebook chce chránit své uživatele před holými fakty. Proto byl nejspíše z Facebooku odstraněn obličej se „zajímavým“ výrazem nebo umělecké dílo v Berlíně. Nikdo přece nemůže popřít, že tvář i autobus jsou nahé.
Foto popis| Co Facebooku vadí
Foto popis| Nevhodný obrázek? Facebook zablokoval stránky ECHO24.cz a Týdeníku Echo kvůli článku o svobodě slova s titulkem „Ministr Pelikán žádá za vtipy o sexuálních menšinách kriminál“. Doprovázela ho totiž fotografie agentury Reuters s vítězkou pěvecké soutěže Eurovize z roku 2014 Conchitou Wurst.
Foto popis| Podle Facebooku pornografie. Přitom jde o Venuši z Willendorfu, kterou vystavuje Přírodovědné muzeum ve Vídni a zatím si na ni nikdo nestěžoval.
Foto popis| Z profilu texaského deníku The Liberty County Vindicator vymazal Facebook příspěvek, který obsahoval výňatek z americké Deklarace nezávislosti. Došlo k tomu kvůli části, která označuje americké Indiány jako „kruté indiánské divochy“. Sociální síť se za chybu omluvila a příspěvek znovu zveřejnila.
Foto popis| Mezi zásadami komunity je i věta „Účelem našich zásad týkajících se autentičnosti je vytvořit bezpečné prostředí, kde si lidé navzájem věří“. Zdá se ale, že důvěra uživatelů je po skandálech Facebooku otřesena.

O autorovi| ROMAN LEIPOLD, PAVEL TROUSIL, autor@chip.cz