Тајни документи: Изгледа да Фацебоок ставља функције, профит изнад сигурности корисника

Фацебоок, тринаестогодишњи бехемот са 1,23 милијарде активних корисника, остварује приход од преко 8 милијарди долара по кварталу - од тога 3 милијарде нето прихода (нпр. Профит).

Али са толико много корисника, чини се да је Фацебоок сигурност корисника преусмерио у секундарну бригу. До почетка ове године, Фацебоок је запошљавао само 4.500 људи да би прегледало садржај. Што звучи као много људи док не схватите да тих 1,23 милијарде активних корисника дели милијарде сваког дана, са милионима жалби корисника на Фацебоок садржаје који се подносе сваки дан.

Да ли Фацебоок има озбиљан проблем са безбедношћу корисника? Управо објављено старатељ преглед тајних интерних докумената сугерише да је његов проблем ван контроле.

Фацебоок је признао да има некакав проблем када се раније ове године сложио да удвостручи своје особље за преглед - на 7.500 - усред навода да компанија једноставно не ради (или можда не брине?) Када се потенцијално штетни садржај тргује преко њене платформе . Не удвостручујете своје модераторско особље ако је све откачено.

Сада, Тхе (УК) Гуардиан објавио је запањујуће детаље Фацебоок-ових смерница за модерирање садржаја, искоришћених из више од 100 тајних, интерних приручника за обуку и документацију. Мало је узнемирујуће што све ове важне ствари нису ни у једном приручнику који се даје Фацебоок-овим модераторима када их ангажују.Уместо тога, чини се да је то делимичан приступ политици, што резултира неусаглашеним информацијама, неуједначеном умереношћу и врло мало поузданости у томе како његове политике модерирања заправо функционишу у стварном свету.

„Фацебоок не може да задржи контролу над својим садржајем“, рекао је један извор. „Превише је нарастао, пребрзо.“

Каже се да многи модератори имају забринутост због недоследности и необичне природе неких политика. Они који имају сексуални садржај, на пример, кажу да су најсложенији и збуњујући.

У чланцима се наводи само један мали пример колико Фацебоок Фацебоок модерира, „Један документ каже да Фацебоок недељно прегледа више од 6,5 милиона извештаја који се односе на потенцијално лажне рачуне - познате као ФНРП (лажни, а не стварна особа)“. И то само за лажне рачуне. Замислите колико је још милиона извештаја за стварни садржај.

Карактеристике пре размишљања

Пре него што се размисли о томе како би људи могли да користе (и злоупотребљавају) нову функцију, чини се да Фацебоок фаворизује избацивање ствари и откривање како да то модерира као накнадну промишљеност. Погледајте Фацебоок Ливе, услугу стримовања видео записа која омогућава људима да снимају све што се тренутно догађа у њиховом животу. За шта су мислили да ће их људи на крају искористити?

„Истовремено, Фацебоок-ова функција стриминга уживо коришћена је за емитовање убистава и самоубистава, с тим што компанија очигледно није могла превентивно да искључи стримове.“ Дух! Већина компанија би вероватно помислила, пре него што покрене овако нешто, „Хеј, потребан нам је начин да одмах пријавимо тако проблематичне видео записе и да их прекинемо.“ Изгледа да није Фацебоок.

Ово показује постојано недостатак размишљања о проблемима и њихово проактивно решавање пре него што се појаве. Или погрешно на страни: „Хеј, хајде да се бацимо на ово и да видимо какву ће негодовање изазвати пре него што нешто предузмемо.“ (Све у име „слободе говора“, наравно, занемарујући чињеницу да је Фацебоок глобална платформа.) 1

Где сам поново ставио ту смерницу за модерацију?

Заштита ваше заједнице започиње запошљавањем довољно модератора који ће им посао учинити угодним и не преоптерећујућим. Јасно је да Фацебоок то није успео док је уживао у рекордном расту корисника, приходима и добити. Али то такође укључује и оснаживање руководства за умереност у заједници које осигурава да је све што им је потребно за обављање посла све на једном месту. Фацебоок, тек сада, очигледно дубље размишља о потреби за бољим алатима, према речима њиховог портпарола: „Поред улагања у већи број људи, градимо и боље алате како бисмо заштитили своју заједницу“, рекла је за Тхе Гуардиан. „Поједноставићемо пријаву проблема, брже ће наши рецензенти утврдити који постови крше наше стандарде и лакше ће контактирати полицију ако некоме треба помоћ.“

А можда их све ставити у један приручник? Дакле, модератори знају где треба тражити и да ли све смернице буду доследне?

Видео снимци о самоповређивању сасвим су у реду у свету Фацебоок-а, јер је особа „у невољи“. Исто тако и окрутност према животињама (можда зато што је животиња у невољи?). „Освета за освету“ је такође у реду, ако модератор не може да потврди недостатак сагласности обе стране (што би, претпостављам, могло бити прилично тешко извршити благовремено).

„Неке фотографије несексуалног физичког злостављања и малтретирања деце не морају се брисати или„ поступати “уколико нема садистичког или слављеничког елемента.“ Све док не држите садизам и прославе изван својих насилних слика и видео записа, изгледа да ће им Фацебоок то дозволити.

Према документима, „Видео записи насилне смрти су узнемирујући, али могу помоћи у стварању свести. За видео снимке сматрамо да малолетницима треба заштита, а одраслима избор. Означавамо као „узнемирујуће“ видео записе насилне смрти људи “. Није јасно где самоубилачки садржај - попут видео снимака уживо или претњи - спада у Фацебоок-ове политике модерирања, али изгледа да је дозвољен.

Фацебоок треба да да приоритет сигурности корисника

Неки су тражили да се Фацебоок строже регулише, јер је он чувар целог овог садржаја (слично као што је телевизијска кућа чувар садржаја на својој мрежи):

Извештај британских посланика објављен 1. маја каже да су „највеће и најбогатије компаније на друштвеним мрежама срамотно далеко од предузимања довољних акција за борбу против илегалног или опасног садржаја, за примену одговарајућих стандарда заједнице или за заштиту својих корисника“.

Погрешка на страни „слободе говора“ може изгледати као добра идеја, посебно за америчку компанију. Али друштвене мреже су првенствено мрежне заједнице - нису баш попут новина. Фацебоок-ова примарна сврха је повезивање људи једни с другима. Из тога следи да би њихове смернице више одражавале ову разноликост и дизајниране за безбедност те заједнице, уместо некакве мантре о објављивању вести или испразне идеологије.

Желели бисмо да Фацебоок буде транспарентнији у погледу начина на који свакодневно модерира милионе људи и делова садржаја. Проливање већег светла на ове проблеме помаже у указивању на проблеме и даје Фацебоок-у прилику да побољша безбедност своје заједнице. Желели бисмо да видимо да Фацебоок улаже много више од свог прихода како би осигурао да има довољно особља да одржи своју платформу на сигурном. За све кориснике.

За даље информације

Фусноте:

1. Ох, и имајте на уму да ако на Фацебооку имате још 100.000 следбеника, то их у њиховим очима чини „јавном личношћу“ - а не подлеже приватности или другим заштитама обичних људи. [↩]