Jak se maže obsah? Googlu ani Facebooku to nejde

Pohleďme pravdě do očí – tohle prostě nikdo neumí pořádně řešit. Neustále slýcháme vzletná prohlášení o automatizovaných algoritmech, jenže to je vše hudba budoucnosti. Přítomnost vypadá mnohem primitivněji, a jestli to pořádně nezvládají ani takoví technologičtí giganti jako Facebook a Google, tak kdo by potom měl?

Modré armády

Na Facebooku je mazání a blokování nevhodného obsahu velkým tématem už několik let. Minulý rok se opět dostalo do centra pozornosti kvůli rozmachu fake news a tenhle trend zatím moc neustává. Jak to Facebook řeší? Před pár lety se holedbal, že má hned čtyři týmy řešící různé prohřešky. Tým pro urážlivý obsah se zabýval sexem a spamem, bezpečnostní tým mazal násilný obsah a výhrůžky, tým proti nenávisti a obtěžování řešil, ehm, projevy nenávisti a obtěžování a konečně přístupový tým se zajímal o hacknuté a falešné účty. Pokud dokonce nějaký obsah odpovídal povaze trestného činu, nebál se Facebook kontaktovat i příslušné orgány. To všechno zní moc hezky a v roce 2012, kdy fake news a pochybný obsah nebyly zdaleka tak časté jako dnes, ani nebylo do očí bijící, že to vše stále dělají lidé. Jenže doba se mění.

Nedávno byl zveřejněn interní manuál pro zaměstnance, jak nakládat s potenciálně škodlivým obsahem. A mnoho lidí z něj nadšeno nebylo, jelikož vyvolával víc otázek, než poskytoval odpovědí. Tak například příspěvky, v nichž se Trumpovi vyhrožuje smrtí, jsou zakázány, ale násilné výhrůžky vůči obyčejným lidem budou tolerovány. Proč? Prezidenti jsou prý ve větším ohrožení, a tak je potřeba je důsledněji chránit.

A největší problémy jsou s živým streamováním, které se už několikrát stalo médiem pro vysílání (sebe)vražedných činů. Facebook tvrdí, že má automatismy, které zabrání odvysílání obsahu s tématikou dětské pornografie či terorismu, důkazy pro to ovšem chybí. Algoritmy jednoduše nefungují, a tak dokud pár lidí neoznačí daný obsah jako nevhodný, nic se neděje a dít nebude. Jak sám tvrdí, Facebook se snaží zachovat svobodu slova…

Z deště pod okap

O podivných praktikách Facebooku jsme psali už několikrát, ovšem možná bude novinkou, že dost podobně to funguje i u jeho souseda – Googlu. Ten má také týmy na kontrolu obsahu, jelikož skutečně pochybné materiály by se neměly dostat ani do veřejně a velmi jednoduše přístupného vyhledávání na Googlu. Facebook má (alespoň oficiálně prezentovaný) věkový limit 13 let, ovšem vyhledávač může a umí použít i malé dítě. Je tudíž vhodné, aby nemělo snadný přístup k věcem, ze kterých by se protočily panenky i dospělým…

Lucas Peterson měl právě takovou práci. Jeho vzpomínky na úlohu „uklízeče internetu“ moc růžové nejsou, jak si dokážete představit. Cíleně hledal divný až odporný obsah a rozhodoval se, zdali tento má být zařazen do vyhledávání, či nikoli. To samozřejmě obnáší neustálé narážení na porno, což může být celkem fajn, ale taky na dost divné porno nebo nechutnosti s mrtvým medvědem, na což Lucas vysloveně vzpomínal a co asi zas tak fajn už nebylo.

Všechno, co Lucas a jemu podobní dělají, pak zaznamenávají i algoritmy, které by se tak měly učit nežádoucí obsah poznávat sami. Jenže vzhledem k tomu, že o tohle se Google pokouší už skoro deset let, velké pokroky se v téhle oblasti vážně nedějí. A to vůbec nemluvíme o tom, o jak psychologicky náročnou až devastující práci se pro všechny tyto zájemce jedná…

Autor: Rimsy

MOHLO BY VÁS TAKÉ ZAJÍMAT:

Lži na Facebooku – kdo námi manipuluje?

Google Překladač si vyvinul vlastní jazyk! Je den zúčtování zase o krok blíž?

Další galerie