Тролололо (кръгла маса)

След като се включих в тўитър дискусия между Еленко и Антони Тренчев (депутат от РБ/ДБГ), вторият ме покани на кръгла маса (press release | статия в Offnews), на която с представителите на партии, медии, адвокати да обсъдим проблема с троловете.

Първо е нужно да дефинираме какво решаваме. Има три вида тролове – партийни, корпоративни и „безплатни“. На партийните и корпоративните се плаща, за да хвалят някоя партия/компания, или да плюят по конукренцията, а другите не са платени, но нападат и обиждат останалите или размиват дискусията за собствено удоволствие.

Съответно проблемните аспекти, които бяха изтъкнати (от Добрата Фея) са два – единият е наказателен, когато се извършват престъпления свързани с реч на омразата, подтикване към насилие, например; а другият, може би по-безобиден, е този на изкривяване и влошаване на дискусиите, подтикнат от партийни или корпоративни интереси.

За първия аспект всички бяха съгласни, че е нужно да има регулация и наказуемост – т.е. ако някой призовава към насилие над някаква общност или конкретен човек, то той да подлежи на наказателна отговорност.

По втория имаше достатъчно мнения, че не само не е работа на държавата да го регулира, а тя няма и техническата възможност и капацитет да прилага регулациите. А всъщност проблемът не е чак толкова мащабен, и се манифестира най-вече по избори.

Тъй като проблемът съществува заради технологията, която дава възможност един човек да пише с много анонимни профили, е логично решението също да бъде технологично. Това, което аз предложих, а и Владо Йончев от Offnews загатна, е споделена база данни и интелигентни филтри. Сходно на начина, по който работят спам филтрите, а именно – чрез машинно самообучение и анализ на текста.

Грубо казано, на база на IP-адресите (които могат да се сменят, разбира се), имената на профилите, часовете на публикуване и сходството в съдържанието, ще може да се определи кой е кампаниен трол (партиен или корпоративен) и кой не. Всеки нов коментар ще се праща към една централизирана, обща за много новинарски сайтове (и форуми) система, която ще го записва в базата си данни и ще връща в отговор вероятността това да е трол. Тогава коментарът може да бъде задържан за модерация, като модераторите да преценят дали коментарът ще навреди на дискусията или не.

Това няма да реши проблема на 100%, но би ограничило влиянието не троловете до ниво, до което може би няма да има смисъл да им се плаща. И да, те могат да станат по-умни в лъгането на системата, но това може би би повишило цената.

С едно такова решение отговорността остава изцяло в медиите, които да филтрират и модерират платените тролски коментари, и в по-общ план, да се саморегулират, за да не допускат изкривяване на реалността. Отговорността за наказуемите коментари, обаче, не може да е на медиите, стига те да предоставят на разследващите органи цялата информация за „трола“.

Дали обаче медиите биха се включили в една обща система за откриване на тролове? Коментарите и споровете под новините носят трафик – склонни ли са медиите да се лишат от този трафик, и знаят ли колко точно е той? Някои може би да.

Някой спомена, че в Русия ти искат лична карта, за да ти дадат Wi-Fi, което звучи доста Оруелски. Но скоро (надявам се) ще имаме закон за електронна идентификация, практическата реализация на който ще поддържа т.нар. anonymous credentials. И докато някои „западни“ сайтове решават проблема с многото фалшиви профили с изискване на Фейсбук регистрация (делегирайки връзката човек-профил на Фейсбук), то при достатъчно добра ползваемост на картата за електронна идентичност, тя може да бъде използвана за регистрация във форуми. И не, това няма да предполага следене. Защото гореспоменатите anonymous credentials позволяват идентификация без дигиталната самоличност да може да се свърже с физическата, но в същия момент гарантирайки, че един човек може да има само една дигитална. Все пак мисля, че проблемът изобщо не е толкова сериозен, че едно такова решение да е нужно. Но ако стане, то отново ще има технологично решение.

В заключение – нека не вадим тежкото оръжие „регулация“ за нещо, което не е твърде голям проблем, и което е решимо с технически средства. В същото време, обаче, е нужно ефективно прилагане на регулациите за реч на омразата, защото призоваването към насилие оставя не толкова безобиден отпечатък в общественото мнение.

Share Button

8 коментара

  1. Като човек, който се занимава с машинно самообучение, не бих се доверила на бот да решава кой да пише във форум и кой не.

    А това да се ограничава речта на омраза… разбирам идеята, но идва проблемът с „къде е границата“. И после проблемът със свободата на словото, все пак.

    Ще се фасилитира желанието на отговорните лица да накажат някой „отворко“, който им е неудобен по някакаъв начин. Ooops, we did it again. No?

  2. Всеки нов коментар ще се праща към една централизирана, обща за много новинарски сайтове (и форуми) система, която ще го записва в базата си данни и ще връща в отговор вероятността това да е трол

    mmm, tasty #SPOF #DDoS

    алтернативно тая централизирана система трябва да е затворена, което kind of я обезсмисля. такива технологични решения много рядко работят as intended.

  3. @Матева – затова то само ще задържа за модерация, а после модераторът ще преценя

    @lanz – сайтовете ще се връзват със системата след автентикация, т.е. не всеки ще може да я ползва; а ще има съответните rate-limiting опции, за да се спрат масирани атаки. И все пак, дори някой да я свали, тя не е single point of failure – коментарните системи просто ще спрат за известно време да я питат.

  4. ще има съответните rate-limiting опции, за да се спрат масирани атаки

    демек достатъчна е масирана атака от тролове към даден participating сайт, за да спре централната система да класифицира постовете и да остави модераторите на сайта да се оправят сами? не се ли губи така основната файда от нея?

  5. Може ли повече информация как ще се реализира anonymous credentials?

  6. Ще продължа да упорствам още малко.

    Как би бил създаден корпус от примерни данни? Често в разгорещени дискуции троловете провокират идиотско поведение и у други хора. Поне на мен лично ми се е случвало :)) Кой би бил анотиран като трол в този случай? И двамата?

    Кой има меродавно мнение да определи кой е истински и кой не? При някои хора е очевидно(стига ти просто правило за броя удивителни в поста). При други е доста неясно обаче. Така би се получил доста персонализиран подбор на право на коментар(без евентуално вето).

    Кой има моралното право да определи какво е „идиот“ и къде са границите? Аз мисля, че това е голям проблем и едни евентуални грешки са в сериозен противовес с правото на свободен изказ.

  7. @lanzz – поддържането на постоянна масирана атака е по-скъпо (заради технологичното know-how), отколкото троловете искат да плащат. Според мен

    @Angel Velikov – мисля, че ги има като част от http://eid.egov.bg/ (което е базирано на австрийската имплементация)

    @mmateva може дори да се започне без корпус и да се кара само на метаданни и similarity. И така да се изгради корпуса.

  8. Демек security through attacking not being worth it? Баш като си говорим за тролове и за българската политическа атмосфера? Добър план.

Вашият коментар

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *