imagazin arrow2-left arrow2-right arrow2-top arrow-up arrow-down arrow-left arrow-right cart close dossiers education fb instagram menu notification oander rss rss-footer search service shuffle speech-bubble star store stores tests twitter youtube

Moderátorům Facebooku umělá inteligence nepomůže


Život moderátora na Facebooku je extrémně stresující. Jak se ukázalo ze zprávy. Přestože by se to hodilo, ani umělá inteligence by pravděpodobně nedokázala situaci vyřešit.

Mnoho z vás jistě narazilo na příběh moderátorů Facebooku, který se objevil na The Verge. Jestliže ne, rozhodně se na originální článek podívejte, ale pro jistotu jej krátce shrnu:

Přestože se zdá být Facebook jako vysněné pracoviště (skvělý plat, pauzy, vanilkové frappé k snídani), platí to jen pro některé zaměstnance. Méně zajímavé pracovní úkony se pak přenechávají interním firmám, kterých nenajdete nic z raw-veganského kešu sýru.

Mezi takové úkoly patří i moderování, které má na starosti mimo jiné společnost Cognizant. Zaměstnanci jsou zde vystaveni velkému tlaku, jejich pracovní rozvrh je velmi přísný, tempo nesnesitelné. Mají nárok na 9 minut “wellness času”, který má asi odbourávat stres, ale ve skutečnosti ho musí využít na čekání v řadě na toaletu. Ano, stovky zaměstnanců mají k dispozici pouze 3 toalety.

Je přitom nesporné, že jde o psychicky velmi náročnou práci. Zaměstnanci vyhodnocují stovky videí, fotek a textů, z čehož jen jedno by bylo dost pro normálního člověka. Dostanou se k nim záběry poprav, mučení i nechutný obsah pro dospělé. Ve srovnání s tím je čtení pár urážlivých řádků v podstatě volnočasová aktivita. To vše dělají za přibližně 28 tisíc dolarů ročně (průměrný zaměstnanec Facebooku vydělá ročně kolem 240 000 dolarů).

Samozřejmě, dalo se předpokládat, že moderování je náročné, ale až nyní vycházejí najevo podrobnosti. Není náhoda, že americký kongres v této záležitosti kontaktoval přibližně před rokem Zuckerberga. Tehdy bylo odpovědí, tak i dnes, že věc vyšetří a budou následovat další a přísnější inspekce, protože duševní zdraví zaměstnanců je neskonale důležité. Další odpověď byla, že brzy bude zaměstnancům usnadňovat práci umělá inteligence. To zní sice skvěle, je tu ale jeden problém.

Je to lež.

Mnoho odborníků se shodne na tom, umělá inteligence bude v nejbližší době sloužit Zuckerbergovi a jeho lidem jen jako zástěrka. Jak je to možné, když jsou algoritmy takové vyspělé, že dokáží generovat věrohodné lidské portréty? Abychom našli odpověď, podívejme se na to, jak algoritmy vlastně fungují.

V současnosti umělá inteligence, která se využívá k moderování, buď analyzuje daný obsah pomocí procesování vizuálního signálu nebo srovnáním s předem danou databází. První metoda pracuje s kategoriemi jako nahota, zbraně, drogy atd. Druhá vyžaduje databázi, proto se hodí zejména pro filtrování obsahu chráněného autorskými právy nebo na základě slov na tzv. blacklistu.

Algoritmus tedy určí, zda je na obrázku nějaký citlivý obsah, který by se měl filtrovat a pokud ano, přepošle ho moderátorem na posouzení. Tento systém funguje velmi efektivně a v dohledné době se dostaneme do bodu, kdy posouzení člověkem nebude téměř vůbec nutné.

Problém není v takovém obsahu. Nahotu, zbraně, zakázané autoritativní symboly dokáže počítač snadno rozeznat. Co však situace, které těžko rozliší i člověk? Co s kategoriemi, které souvisejí s politikou? Co s falešnými zprávami, ironií, sarkasmem? Ty je velmi obtížné definovat a téměř nemožné přeložit do strojového jazyka.

Problém je, že očekáváme, že umělá inteligence pochopí naši kulturu.

Jak by mohl stroj vědět, že odhalená prsa kojící matky jsou jiným druhem nahoty? Jak by algoritmus věděl, že věta “pokud soused nepřestane vrtat, vyskočím z okna” nepopisuje sebevražedný úmysl?

via GIPHY

Výše uvedené příklady ukazují, že umělá inteligence by musela celkově chápat naši kulturu. Ta se přitom neustále mění, vyvíjí a není univerzální. Nebo by měla alespoň chápat kontext. Samozřejmě, je možné se vývojem k tomuto cíli alespoň přibližně. Nezáleží však na tom, zda budeme mít stále lepší algoritmy. Podle expertů nebudou moci nahradit lidských moderátorů ještě poměrně dlouho. Pokud vůbec někdy.

Do té doby budou muset tuto náročnou práci dělat lidé – chránit lidstvo před škodlivým obsahem v práci na plný úvazek ….

Zdroj: The Verge 12

iMac Pro
Apple Inc. (AAPL)

Tohle už jste četli?

Nový systém se zaměřuje především na dvě oblasti: na uživatelský zážitek a na výkon. Z pohledu výkonu staví na novém frameworku Metal, který Apple již dříve přinesl na iOS. Metal kombinuje schopnosti technologií OpenGl a OpenCL do jednoho prvku.