„Демокрация“ не значи управление на мнозинството

0

Тъй като демократичната ни история е кратка, съществува едно неразбиране на понятието „демокрация“. Демокрацията се приравнява просто на провеждането на избори и управлението от страна на този или тези, които спечелят най-много гласове.

Всъщност, ако трябва да сме терминологично точни, това Е демокрация, но не такава, каквато има в развитите европейски държави и САЩ. Там има т.нар. „либерална демокрация“ (и думата „либерална“ не идва от това, че всички са либерали, разбира, се). Та, когато говорим за демокрация, в общия случай имаме предвид именно либералната демокрация на развития запад

Авторитарни лидери обичат да си играят с думата „демокрация“, защото най-често биват избирани с мнозинство от хората (дали поради липса на алтернатива, дали от страх, дали в резултат на пропаганда, е отделен въпрос). Както е добре известно, Хитлер е бил избран с избори. А последвалият националсоциалистически режим далеч не е демократичен. Един от успешните авторитарни лидери – Ли Куан Ю, основател и премиер на Сингапур в продължение на десетилетия – използва думите „югоизточноазиатска демокрация“, за да облече авторитаризма си в хубави думи. Но Сингапур е дълга и специфична тема.

Напоследък това неразбиране на демокрацията (либералната такава) води до например изказвания на телевизионен водещ, че „ако народът каже да ходим със зелени гащи, ще ходим със зелени гащи“. Или на премиер, че маломерните партии са кърлежи, или че като е „бил“ на избори, значи другият не е прав. Т.е. в пространството се носи допускането, че който има повече гласове е прав, и каквото каже мнозинството от хората, трябва да бъде закон. Това не е точно демокрация.

Демокрацията, към която се стремим, е такава, която защитава правата на всички. Такава, в която мнозинството определя посоката на развитие, но в която мнозинството не може в изблик на временно заблуждение да изкорени, да „счупи“ всичко. Затова има конституция, институции и основни правила, които да не могат да се променят само защото в даден момент повече от половината хора са били на едно обратното мнение. Например ако утре има референдум за връщане на член първи в конституцията (за ръководната роля на партията), референдумът ще е нищожен. Защото конституцията казва, че с референдум не може тя да се променя (в определени нейни части). Това привидно ограничава „волята на народа“, но на практика е много по-добър начин за защитаване на правата на същия този народ и за осигуряване на неговото развитие.

Когато говорим за мнозинство, трябва да имаме предвид и друго – в момента например представителството в българския парламент е леко изкривено – в по-малки райони са нужни по-малко гласове за избор на депутат. София „вкарва“ по-малко депутати, отколкото ако се гледаше само населението. В Европейския парламент е аналогично – България има повече депутати, отколкото бихме имали, ако се гледаше само броя на населението. Това е търсен ефект, за да няма централизация на властта – за да не се ръководи цялата държава от хора от София, Пловдив и Варна, а останалите „кучета ги яли“. За да не определят Германия, Франция и Великобритания сами бъдещето на Европа (те не че могат да се разберат, но това също е друго тема – сега без Великобритания е по-вероятно да има съгласие по повече въпроси).

В САЩ този подход води в някои случаи до президент избран с 2 милиона по-малко гласове, отколкото опонента му. Това обаче не е проблем на непропорционалното разпределение на гласовете между щатите (което се прави за да не доминират големите щати над малките), а е проблем на системата „победителят взема всичко“. Т.е. ако гласовете в избирателната колегия бяха пропорционални на спечелените гласове във всеки щат, при запазване на по-високата тежест на гласа в малките щати, нямаше да се стига до такива странности.

Та, демокрацията не е просто управление на мнозинството. И не трябва да бъде, защото това води до сътресения и проблеми за това мнозинство. Не, не казвам, че „хората не знаят какво искат“. Казвам, че институционализираните правила позволяват по-плавно привеждане на волята на мнозинството в действие. И защитават малцинствата (етнически, религиозни, и др.), които иначе биха били тъпкани.

Един пример е Кипър, където в резултат на репресивна политика на Гърция, турското малцинство се чувства застрашено и Турция напада, за да ги защити. Не казвам, че Турция е права, но в такива случаи прави няма. И успешното прилагане на либерална демокрация може да предотврати такива конфликти изцяло, вместо да се чудим после кой е прав и кой е агресор.

И не, това, че някой е получил повече гласове на избори, не значи, че е прав. И не значи, че мнението му има повече тежест от това на останалите. Значи единствено, че му е била дадена възможността да приведе мнението си в действие. И когато някой каже, че „такава е волята на народа“, трябва да се сетим, че уж в името на народа и уж по волята народа са били извършвани най-големите престъпления в историята.

А демокрацията е много повече от това да гласуваме. Тя е постоянното участие, пряко или косвено, в обществените процеси. „Гласувах им, да се оправят“ не е демокрация, а отбиване на номера.

Знам, че в няколко абзаца не успях да синтезирам какво е либералната демокрация и какво трябва да правим, за да я имаме. Но целта беше да кажа какво не е. А какво е – според Укипедия:

Либерална демокрация, назовавана също и като буржоазна демокрация, конституционална демокрация или западен тип демокрация, е либерална политическа идеология и форма на управление, която се осъществява според принципите на класическия либерализъм. Според принципите на либералната демокрация изборите трябва да са свободни и честни и политическият процес трябва да се развива в условия на конкуренция, политическият плурализъм обикновено се дефинира като присъствие на много и различни политически партии.

Share Button

За сигурността на електронното гласуване за Висш съдебен съвет

0

Предстоят избори за членове на Висш съдебен съвет – ръководният орган на съдебната система, с мандат от 5 години. Т.е. доста важен избор, макар оставащ под радарите ни, защото не гласуваме всички. Следователи избират следовател, прокурори избират прокурори, съдии – съдии, а има и парламентарна квота. Тази година за пръв път ще се случват две неща – първо, всеки магистрат ще има право на глас (досега е било чрез делегати), и второ – законът допуска дистанционно електронно гласуване.

Второто, очаквано, на мен ми е особено интересно. За съжаление Законът за електронното управление не се прилага за съдебната власт, т.е. изискването за отворен код не съществува за ВСС. Съответно мога да правя заключения единствено на публични документи по темата. А такива могат да бъдат намерени тук. Няколко неща правят впечатление:

  • Този документ хвърля малко светлина върху начина на реализация. По-конкретно:

    Системата за гласуване прибавя към натрупаните до момента гласове за посочените от гласуващия имена единица (+1), не записва имената, за които той е гласувал и не ги съобщава на Системата за управление на гласуването.

  • Друго „интересно“ допускане е, че компютрите не правят грешки (не правят, ако всичките инструкции към тях са правилни):

    В по-късен момент не може да се преброяват бюлетини и гласове, тъй като те не се записват, но работещи електронни системи не правят грешки при броенето.

  • Двама академици са единствените, които са правили преглед на системата. Единият говори единствено за архитектурата на системата (където проблеми най-вероятно наистина няма), а вторият признава, че не му е била показана пълната информация за системата. Становищата им обаче не представляват реален одит.
  • Съюзът на съдииите и Калин Калпакчиев (член на ВСС) са правили опит да поискат по-адекватен одит на системата, за съжаление без успех.

Тази информация наистина е оскъдна, т.е. първият проблем, който имаме е, че системата е „черна кутия“ – магистратите гласуват, а системата казва кой е избран. От горното обаче прозира един сравнително наивен подход към електронното гласуване – добавянето на „+1“ към кандидатите е много далеч от научните достижения по темата „електронно гласуване“. Допускането, че компютърът винаги брои правилно може и да убеди някой нетехнически човек, но в реалността компютърът брои каквото му кажеш да изброи. Например при добавяне на +1 има т.нар. race condition – двама гласоподаватели гласуват в едни и същи момент, и за двамата се взема текущата стойност в базата данни, увеличава се с единица, и се записва. Вторият обаче презаписва резултата на първия, съответни гласът се губи. Този проблем има сравнително тривиално решение, но няма как да знаем дали такова е било използвано. Друг технически детайл относно тайната на вота – да, не се пази кой как е гласувал, но ако уеб-сървърът пази логове за заявките, от там може да се извлече кой как е гласувал. Отново – решението е тривиално, но дали е било приложено – в момента сме на „вервайте ми“.

Но тези детайли са по-малкият проблем. По-големият е, че системен администратор или дори хакер може да влезе в системата преди да бъдат обявени резултатите и просто да ги смени. А резултатът е непроверим и ненаблюдаем. При такава реализация не може да има повторно преброяване, не може да има проверка дали гласовете са отчетени правилно, не може да има независими наблюдатели на системата.

В тази лекция от преди година в Народното събрание (по темата „дистанционно електронно гласуване на национални избори“) опитвам да обясня на разбираем език как би следвало да бъдат реализирани системите за дистанционно електронно гласуване. Например по метода на двойния плик (както в Естония), или чрез т.нар. сляп подпис. Важното е, че имаме „електронни бюлетини“, които не могат да бъдат подменяни (заради криптографията, която е приложена върху тях), и които могат да бъдат преброявани независимо след официалното обявяване на резултата. Тайната на вота е гарантирана отново чрез криптографски методи. По-детайлна техническа лекция можете да видите тук.

Но от наличните документи (включително от техническото задание, стр. 43) следва, че нито един от тези методи не е приложен. Реализирана е подобрена версия на система тип „анкета“.

Какво според мен трябва да се случи? Първо, да бъде отворен кодът. Вече сме изпратили искане по Закона за достъп до обществена информация до ВСС за предоставяне на кода (което най-вероятно няма да уважат). Трябва да бъде направен и сериозен одит. Но не „поканихме едни хора и те казаха, че е наред“, а истински такъв. Аз бих поканил например фирмата, правила естонската системата за електронно гласуване, или някоя друга с такъв опит. Защото електронното гласуване е нишова тема и малко хора са наясно в всички „сложнотии“ в процеса.

А всъщност има отворена, безплатна система, която отговаря на почти всички изисквания за честни и проверими онлайн избори – Хелиос. Многократно подлагане на прегледи (в научните среди), и препоръчителна за използване за почти всичко (освен национални избори, където темата със сигурността и атаки от враждебни страни е по-особена). Може би за пригодяване на тази система няма да има време (нужна е инсталация, превод, конфигуриране), така че по-скоро най-добре тези избори да са на хартия (казвам го с пълното съзнание, че това ще е едно голямо неудобство за магистратите – събирането на 2 хиляди души физически на едно място, за да гласуват, е организационно тежко).

В заключение е важно да отбележа, че не твърдя, че има злоумисъл в цялата история. Може никой да не крои планове да манипулира гласуването. Възможно е просто никой (и от възложителя, и от изпълнителя) да не е знаел как би следвало да изглежда една сигурна система за е-гласуване, съобразена с добрите практики и международните препоръки. Но при избори доверието е най-важно – доверието, че гласът ти има значение. А доверието в управлението на съдебната система вече е подкопано от примери като използването система за случайно разпределение на дела, която е позволявала „неслучайно разпределяне“ (напр. за дело по КТБ)

Поради това обявихме сериозните си съмненията си на пресконференция на Да, България, с призив към ВСС и към останалите политически субекти да обърнат сериозно внимание на въпроса (защото мнението на някакви си експерти може и често потъва в общия шум).

Аз лично се надявам всичко да е наред, магистратите да гласуват удобно от вкъщи, а резултатите да са реални и честни. Но също така съм длъжен да алармирам, че е възможно и обратното, а то би имало сериозен негативен ефект върху съдебната система, а оттам и върху цялата държава.

Share Button

Цацарстан

1

В държавата Цацарстан, бивша съветска република, но не от средна Азия, най-висшият орган на власт е главният прокурор. Най-цененият, най-защитаваният, най-обичаният. Прокурорът-слънце.

Главният прокурор, разбира се, не се избира – би било твърде голям риск за стабилността на Цацарстан. Него „си го избират“.

Главният прокурор се среща с който, когато и където си иска. Не е длъжен да дава обяснения за срещите. Главният прокурор може да мъмри издатели и бизнесмени защо подкрепят една или друга партия, и защо в изданията им се пише и говори срещу него. Също така получава информация директно от службите – често грешна или непълна, ама те горките служби толкова си могат – то и как иначе, като има основно библиотекари в тях.

В Цацарстан има президент. Президентът не иска да разваля спокойствието на Главния прокурор. Въпреки желанието на някакви си издатели. Кои са те, кой е Той? Президентът пази гърба на Главния прокурор. Защото така е по конституция.

В Цацарстан има и Народно събрание. То има право да притеснява Главния прокурор, но предпочита да не го прави – да си почива човекът, че има тежки държавни дела да решава. А и кой да ходи да се трепе да проявява инициативност, то Народното събрание е колективен орган. Напоследък повече колективен, отколкото орган.

В Цацарстан има и Висш съдебен съвет, но Главният прокурор там е боготворен от мнозинство от етични и принципни магистрати (и как няма да са такива, като по закон се изисква те да са принципни – ако не бяха, нямаше да са магистрати, все пак). Висшият съдебен съвет се грижи за благоденствието на Прокурора-слънце.

В Цацарстан скоро ще има и премиер. Той е много загрижен за Главния прокурор – притеснява se да не попадне в капан на зли сили. Така е – трябва да бъде подкрепян Главният прокурор. Иначе ще настане институционален хаос и току-виж някой, дето не трябва да бъде съден, вземе, че се окаже подсъдим.

Медиите в Цацарстан са особено интересни. Немалка част от тях са на душевния брат на Главния прокурор. Те яростно бранят обичания лидер от зловредни опозиционни елементи. Бранят го с журналистически материали, достойни за награда. Е, не Пулицър, но и Хюго е добро начало. Друга част от медиите са толкова притеснени какво ще им бъде спуснато, или от Кой съратник на Главния прокурор ще бъдат купени утре, че си мълчат и само плахо го споменават.

А Главният прокурор седи на своя трон, изграден от папки с производства срещу неизвестен извършител, и се любува на политическия и медийния пейзаж.

Навън група неизвестни извършители организират шествие в негова подкрепа. „Ще организират, я, ако искат да са министри“, помисля си Главният прокурор.

Главният прокурор има доживотен мандат, но на всеки 7 години си прави пластична операция, за да не омръзва на крепостните в Цацарстан.

Иначе в Цацарстан всичко си е наред. Слава на Главния прокурор.

* публикацията е художествена измислица. Внимание: може да съдържа следи от горчива реалност и ирония.

Share Button

Да разкараме понятието „постоянен адрес“

10

Всички имаме постоянен адрес. Това е задължително. Но какво всъщност е постоянният адрес?

Чл. 93. (В сила от 1.01.2000 г.) (1) (Изм. – ДВ, бр. 39 от 2011 г., в сила от 20.05.2011 г.) Постоянен адрес е адресът в населеното място, което лицето избира да бъде вписано в регистъра на населението.

Т.е. една условност – нещо, с което сме вписани в някакъв регистър. Той не е адресът, на който живеем, не е адресът, на който искаме да получаваме писма, не е нищо конкретно. Той е адрес, с който присъстваме в база данни.

В днешния по-динамичен свят, в който младите хора все повече живеят под наем, а доста са и извън страната, много хора реално не живеят на постоянния си адрес. От това следват много неща – че за някои административни услуги трябва да пътуваме, че сме в избирателните списъци само по постоянен адрес (а за гласуване по настоящ трябва да подаваме заявление), което от своя страна изкривява самите избирателни списъци. Наскоро общината по настоящ адрес изпрати писмо до мен на постоянния ми адрес. Сигурно така пише в някой закон. И очевидно е абсурдно.

Общо взето, за държавата, ние сме на постоянния си адрес:

(5) (Нова – ДВ, бр. 96 от 2004 г., отм. – ДВ, бр. 39 от 2011 г., в сила от 20.05.2011 г., нова – ДВ, бр. 42 от 2012 г.) Постоянният адрес на гражданите е адрес за кореспонденция с органите на държавната власт и органите на местното самоуправление.
(6) (Нова – ДВ, бр. 42 от 2012 г.) Постоянният адрес на гражданите служи за упражняване или ползване на права или услуги в случаите, определени в закон или друг нормативен акт.

Само че в реалността сме на настоящия си адрес. И съответно от постоянния няма никакъв смисъл. Някога е имал – когато е нямало технологична възможност за обмен на данни между общини и областни администрации. Но вече не е така.

Та, моето предложение постоянният адрес да отпадне като концепция. Да има само „настоящ адрес“, т.е. адресът, на който можем да бъдем намерени. Отново при раждане, настоящият адрес на детето става този на родителите му, отново сме длъжни да го обявим, и ако не го направим, подлежим на глоба. И ако не го направим, ще ни търсят на предходния ни настоящ адрес, напр. този на родителите ни.

А какво става, ако настоящият ни адрес в даден момент стане „чужбина“? За постоянния има изискване да „е винаги на територията на Република България“. Как държавата ще се свързва с нас? И къде ще бъдем в избирателните списъци?

Държавата е хубаво да се свързва с нас по електронен път (чрез електронно връчване на документи, заложено в Закона за електронното управление). Но ако не стигнем до тази електронизация, може да бъде въведен „адрес за кореспонденция“, който винаги да съвпада с настоящия, освен ако той не е в чужбина, в който случай можем да посочим друг. Също така историята на настоящите ни адреси трябва да се пази, както и адресите на семейството. Ако пък няма никой (починали хора, жилището на последните ни настоящи адреси е купено от друг и т.н.), тогава – еми няма. То в такива случаи и постоянният адрес не помага.

Някои администрации имат териториални дирекции и можем да си „говорим“ само с териториалната дирекция по постоянен адрес. Един пример е НАП. Които по принцип са по-напред с технологиите, но глупостта да не могат да те обслужат на произволно гише на НАП, защото се „водиш“ в друга област, е съвсем лесно технологично преодолима.

А в коя община ще можем да ползваме общински административни услуги, ако настоящият ни адрес е в чужбина? Ако общината не се явява просто фронт-офис на някоя национална услуга (както са всичките „услуги“ по гражданска регистрация, за които има централизирана база данни), то за малкото останали услуги – в общината на последния ни настоящ адрес в страната.

Смяна на настоящият адрес ще трябва да може да се извършва по електронен път. С въвеждането на електронната идентификация след 2018-та, и с надграждането на регистрите на ГРАО в същия период, включително например свързването им с имотния регистър, всеки гражданин ще може с няколко клика да си смени настоящия адрес. Някои общини и в момента поддържат такава възможност (напр. Столична), макар качеството на електронните услуги да е доста спорно и те да са бъгави (не могат да се прикачват големи документи). Ако сме под наем, е нужно съгласие на собствениците – то също може да бъде дадено онлайн (или с едно отиване на място – правил съм го, доста е лесно). При собствено жилище, проверката в имотния регистър и сега може да става автоматично в доста случаи.

Има и един граничен случай – българите, които нямат постоянен адрес – не са родени тук, нямат родители с постоянен адрес тук, но са български граждани. В момента законът предвижда следното:

(4) (Изм. – ДВ, бр. 39 от 2011 г., в сила от 20.05.2011 г.) Български граждани, живеещи в чужбина, които не са вписани в регистъра на населението и не могат да посочат постоянен адрес в Република България, се вписват служебно в регистъра на населението от район „Средец“ на гр. София.

Това, разбира се е комично, но произтича от концепцията, че всеки трябва да се води на определено място, с оглед контакт с администрацията и с оглед на избирателни права. Но на практика то не е необходимо. Вероятно при по-задълбочено изследване ще намерим няколко случая, в които не може да не се водиш някъде, защото … нещо си, но съм убеден, че те имат по-елегантни решения.

Добре, а личната ни карта, паспорта, шофьорската книжка? Те не трябва ли да имат адрес? И ще трябва ли да ги сменяме при всяка смяна на настоящия адрес? Не. Няма международно задължение личните документи да имат адрес, това произтича единствено от нашите закони. Личните карти на много европейски страни нямат адрес на тях. Паспортите – също. Още повече, че принципът на еднократното събиране на данни в рамките на ЕС напредва под натиска на Естония, та само по ЕГН държавни органи на други държави-членки ще могат да ни видят настоящия адрес, ако им трябва за нещо (напр – изпращане на глоби от камери за скорост).

Та, да премахнем този анахронизъм постоянния адрес. Законодателните изменения ще са много – в доста закони постоянният адрес се използва за нещо, и ще трябва да бъде заменен от „настоящ адрес“. Много системи, регистри и процеси са направени около постоянния адрес, но промяната към „настоящ“ няма да е толкова трудна – все пак и в момента можеш да си смениш постоянния адрес, т.е. процесът по прехвърляне вече съществува.

А какво ще спечелим, като направим това усилие? Опростяване на живота на гражданите – вече няма да се налага човек да пътува до родното си място, за да ползва административни услуги, избирателните списъци ще са по-актуални, кореспонденцията ще пристига по-често до правилния адресат, вместо да стои в някое шкафче, „докато се прибереш да си я вземеш“.

Предстои пренаписване на софтуера на регистрите на ГРАО, а от това ще произтекат и някои законови изменения. Би било добре да се използва момента и да се промени концепцията за гражданска регистрация, за да е по-адекватна на действителността.

Share Button

Ама ние нали казахме?

3

В последните години имаше няколко референдума. Със значително мнозинство и с висока активност бяха този за електронното гласуване и този за мажоритарната система.

Активността не стигна, за да бъдат обвързващи за Народното събрание, но при първия то прие решение да го признае, а при втория такова беше подготвено в края на миналия парламент. Тук е важно да се уточни характера на българските референдуми – те са консултативни, т.е. винаги е необходим акт на Народното събрание, с който решението да бъде превърнато в законодателно изменение. За разлика, например, от референдумите в Швейцария, където се гласува за законов текст, който след това директно влиза в съответния закон.

Народното събрание има право да не приеме точно това, което се е питало в референдума. Защото то може да не е достатъчно конкретно или дори да няма смисъл. Законът за прякото участие в чл. 9 определя какво се случва след като решението от референдума бъде обявено – народното събрание трябва да приеме акт, с който решението да бъде приведено в действие. Освен, че няма конкретика как точно решението се привежда в действие, няма срок за това.

Какво стана с референдума за електронното гласуване? Ако съдим по коментари из новинарски сайтове и фейсбук – нищо. И наистина така изглежда – гласувахме за електронно гласуване, а такова няма. „Пак се подиграха с народа“, „правят си каквото си искат“, „никога няма да го допуснат“ и т.н. Не точно.

Всъщност Народното събрание при изменения на Изборния кодекс, с които въведе електронното дистанционно гласуване:

§ 145. (1) При произвеждане на избори след 1 януари 2018 г. се създава възможност за експериментално дистанционно електронно гласуване. Експериментално дистанционно електронно гласуване се провежда на три последователно произведени избори, включително частични избори.

Текстът е доста по-подробен (продължава до 33-та алинея), в която се казва, че експериментите са до 2019-та, когато на евроизборите трябва да имаме „истинско“ електронно гласуване. Текстовете са резултат от работата на доста хора, в т.ч. инциативния комитет „Гласувай без граници“, експерти от Народното събрание, депутати от РБ (напр. Петър Славов), аз, а и вицепремиера Бъчварова. Част от процеса беше тази презентация, която направих в Народното събрание.

Да, преди евроизборите Народното събрание ще трябва пак да приеме изменения на кодекса, за да вкара разпоредбите в тялото на закона. И срок, и задължение има. И то разумен срок, който позволява нещата да се случат както трябва, а не „на юруш“.

В резултат на това решение, Министерски съвет прие изменение на пътната карта за е-управление, с което направи проектът за електронно гласуване приоритетен. Тогава в кабинета на вицепремиера подготвихме първа версия на проектно предложение, което след това Държавна агенция „Електронно управление“ (създадена пак с усилия на кабинета на Бъчварова) пое и която, заедно с ЦИК, всеки момент ще стартира проекта. Проектът се води „пилотен“, защото законодателството говори за тестове и експерименти, но идеята е същият проект да се използва после и при реалните гласувания (то иначе би било малоумно – правиш една система, тестваш я, и после правиш друга за реалното гласуване).

Само че нещата можеше и да не станат така. Можеше хората, които го „добутаха“ дотук, (и експерти, и политици) да ги няма. Може би някой ще каже „народът реши, те са длъжни да го направят“. Ама не работи така. Накрая като не го направят, или го направят „с краката си“, освен да седим и да мрънкаме, друго ще можем ли да направим? Не.

А медийният и гражданският интерес към темата е нулев. Никой не е питал какво става (ЦИК или ДАЕУ), почти никой не е писал какво става. Гласувахме и забравихме. Гласувахме, и после „еми те пак не го направиха“.

Референдумът за мажоритарното гласуване може да има такава съдба. Ако не е Слави, да „вика“ по темата от национален ефир, щяхме да сме го забравили и този референдум. Но викането далеч не е достатъчно. Нужни са доста неща, като анализ на възможните мажоритарни системи, обясняването на техните плюсове и минуси на народните представители (как например текстът на референдума не е еднозначен и може да значи няколко различни мажоритарни системи, дори такива, които не разчитат на едномандатни раойни). Да се разгледат хибридни системи. Ако все пак са мине на едномандатни райони (което би бетонирало големите партии), поне районирането да се направи по честни критерии, а не „за да вкараме ние повече депутати“. Но тези неща ще изпаднат от медийната картина и никой няма да си зададе тези въпроси. Накрая ще се събудим с някаква измислена система, на която ще берем гнилите плодове дълги години. Ако ги няма гражданските организации, експертите и малкото адекватни политици в процеса, той няма да се случи.

Защото демокрацията не е „ама ние нали казахме?“ Хубавите неща не стават с казване и с баене. Не съществува онова аморфно „те“, което да свърши работата, която очакваме да бъде свършена, че и да я свърши както трябва, ама ако може без да се занимаваме да го следим как я върши.

Не сме клиенти на институциите на демократичната система, а сме инвеститори в тях. И инвестираме не само пари (под формата на данъци), а и време и внимание, защото иначе това, което сме казали някога, някъде – няма да се случи.

Share Button

Предизборно благодаря

0

Утре е денят за размисъл. Предполагам вече сте изчели десетки публикации призоваващи към гласуване за Да, България. По всевъзможни причини, всяка от които, валидни – за съдебна реформа, за борба с корупцията, затова, че вътре сме нормални и читави хора, затова, че сме некорумпирани и сме експерти и т.н. и т.н.

Няма нужда да повтарям всички тези неща.

Няма нужда и да се повтарям в призива си да гласуваме по съвест, защото „няма да влезете“ е продукт на несъвършенствата на социологията при динамиката на новите проекти, а не на липсата на избиратели.

Няма нужда и да продължавам да се опитвам да убедя тези, които са намерили причина да не гласуват за Да, България – човек ако си търси причина, ще си я намери. Дали ще са фалшиви цитати на един учител, дали ще са спекулации за коалиционни партньори, дали ще е по сюжетите от двата тома на Пеевски, дали ще е „защото не се обединихте“, на което никой от рационалните отговори, не е достатъчен.

Няма нужда и да разбивам митовете за Сорос, Прокопиев, Америка за България – колкото и прозрачни да са даренията и разходите, пак ще има някой, който да каже „не гледай какво пише, няма как да не се финансират задкулисно“.

Няма нужда да казвам и че и Да, България не е перфектна и че в нея няма перфектни хора – че организацията имаше слаби места, че бяха допускани грешки, че някои от кандидатите имаха лоши дни. Че в бързането не успяхме да използваме целия капацитет на членовете и симпатизантите и че съветите и препоръките на някои от тях останаха неизпълнени, макар да бяха много добри.

Няма нужда, но не защото час преди деня за размисъл „вече е късно“, а защото лавината е тръгнала и няма спиране. Лавината на доверие и надежда.

Но моето усещане е, че има нужда от едно нещо – от благодарност за това доверие. Благодаря. Да виждаш цялото доверие и енергия, у хора, които познаваш и у хора, които не познаваш, носи едно странно чувство. Едновременно на благодарност и тежест. Когато името ти е било част от причините някой да даде своя глас и своето доверие за едно движение, отговорността за това движението да остане вярно на идеите си става лично твоя. И тя тежи. Не мога да си позволя да съм отговорен за едно поредно разочарование. Не мога и да обещая, че такова няма да има. Но ще опитам.

А дали Да, България е „новият спасител“ – едва ли, и дано не се възприема така. Защото спасители в сложната ни реалност няма. Има такива, които искат да подобрят света около себе си, и такива, които искат да се възползват от него. Има такива, които могат, и такива, които имат оправдания, защо не могат.

Без патос, без високопарност, без „ние сме най-великите“, пътят, истината, живота, единствените и неповторимите, искам да завърша с една история.

Американски кандидат за сенатор в деня преди изборите среща своята възрастна съседка и осъзнава, че тя може и да не гласува за него. „Но защо, познаваш ме от дете, винаги сме били в добри отношения, знаеш, че съм честен и работлив човек?“. На което дамата отговорила „а ти помоли ли ме?“

Аз избрах да не бъда кандидат, но това не ми пречи да помоля за гласа ви в неделя. #Да16

Share Button

ЕГН-то не е тайна

6

Тази седмица участвах в дискусия за защитата на личните данни в дигиталния свят (в рамките на Sofia Legal Hackers – инициатива, която събира на едно място юристи и IT специалисти). Дискусията беше два часа и имаше много аспекти, най-вече профилирането ни чрез технологични средства като бисквитки, правото да бъдем забравени от търсачките, юрисдикцията върху личните данни, когато сървърите се намират извън ЕС и др. Но обсъдихме и общият въпрос – какво са личните данни – според новия европейски регламент и според действащото законодателство.

Преди няколко седмици пък събирах на улицата подписи и ЕГН-та на хора (за регистрацията на Да, България). И някои хора бяха неуверени в това да дадат ЕГН-тата си. Това е само поредното наблюдение на феномен, който не е от вчера – ЕГН-то в България се счита за нещо, което трябва да се пази и да не се дава „току-така“.

Администратор на лични данни се става с едно заявление до КЗЛД, т.е. всеки може да стане. Въпросът е – ЕГН-то доколко е лична данна (лични данни, ако приемем, че няма дума „данна“)? ЕГН-то съдържа дата на раждане, пол и място на раждане, които са си лични данни. Според Закона за защита на личните данни:

Лични данни са всяка информация, отнасяща се до физическо лице, което е идентифицирано или може да бъде идентифицирано пряко или непряко чрез идентификационен номер или чрез един или повече специфични признаци

Само че никъде в закона не се казва, че личните данни са тайни. ЕГН-то не е тайна. Няма причина да бъде. Никой не може да ви нанесе вреда, като ви знае ЕГН-то. Личните данни, съдържащи се в ЕГН-то, са горе-долу видими когато човек ви срещне на улицата – вижда пола ви, приблизителната възраст. И доста други неща, като цвят на очите, коса, ръст и т.н. Това също са лични данни, които няма как да са тайни, освен ако не ходим с чаршафи по улиците.

„Ама някой ще изтегли кредит от мое име или ще си припише мой имот“. Не. За да извършите правно-значимо действие минимумът е да бъдете идентифициран – това става с показване на лична карта и сравняване на снимката от нея с човека, който я представа. След това трябва да положите подпис, с който да потвърдите волеизявлението си. Никой не може да отиде с ЕГН и да ви навреди. Ако можеше, отдавна да го е направил. Списъци с ЕГН-та (и други лични данни) доколкото ми е известно циркулират „в пространството“.

Факт е, че има институции, които ползват знанието на ЕГН-то като средство за идентификация при правене на електронни справки. Това е грешно и не бива да се прави, но е начин да се заобиколи липсата на електронна идентификация. Сега като има електронна идентификация, тези практики ще трябва да изчезнат.

Всъщност Естония е взела такова решение- там ЕГН-то (с почти същата структура като нашето) е публично и никой няма напъни да го крие. Не просто е публично, ами списък с ЕГН-тата им има в публичната директория на удостоверения за електронна идентичност (които са записани в личните им карти). Но за нашата електронна идентификация, тъй като тук битува мита за тайанта на ЕГН-то, се наложи да въвеждаме нов електронен идентификатор, като дори неговата публичност беше поставена под въпрос, поради което с технически „еквилибристики“ решихме да не го включваме в публичната директория (а само хеша на сертификата).

Комисията за защита на личните данни може би има малка вина за тази „параноя по пазене на ЕГН-то“. Например заради нейно решение, ЕГН-тата в Търговския регистър не са видими без регистрация, а когато отваряхме данните от Търговския регистър в машинно-четим формат, се наложи да анонимизирам ЕГН-тата. Въпреки, че дори специалният закон – този за Търговския регистър – казва, че данните са публични и това да е основната идея – като сключваш договор с друга фирма, да видиш дали този, който се представя за управител наистина е такъв.

Медиите също не помагат – говори се доста свободно за „кражба на самоличност“ и документни измами, които след детайлно разглеждане всъщност далеч не се базират на това, че някой е знаел чуждо ЕГН.

Та нека не си пазим ЕГН-то като очите – от никъде не следва, че то е тайно. Съдържа лични данни, но доста по-незначителни такива от многото лични данни, които се събират за нас например през онлайн активността ни. защитата на личното пространство е много повече от това да си крием ЕГН-то.

Share Button

Накъде с електронното управление?

3

Краткият отговор е „не знам“. Индикациите от служебния кабинет са сравнително положителни – нямат намерение да спират започнатото. Но това ще е така до април. След това…зависи.

Тъй като не съм писал по темата откакто не съм съветник (средата на декември), исках поне да напиша и тук докъде е стигнал процесът и как може да продължи.

През ноември на OpenFest разказах (на английски) какво е било свършено, след което публикувахме отчет в по-приятен вид от „30 страници doc файл“. Накратко:

  • Основното необходимото законодателство е прокарано – Закон за електронната идентификация, изменения в Закона за електронното управление (в т.ч. създаване на държавна агенция и изискване за отворен код), измененията в Закона за българските лични документи, с които се въвежда електронната лична карта (от 2018-та), изменения в Закона за достъп до обществена информация, с които се регламентират „отворените данни“, и изменения в Изборния кодекс, които да предполагат дистанционно електронно гласуване.
  • Подзаконовата нормативна уредба е прокарана – Правилника за прилагане на закона за електронната идентификация, в който се уреждат всички технически специфики на процеса (не питайте как го гледаха юристите този правилник), както и изцяло нова наредба към Закона за електронно управление, с която се въвеждат изисквания към всеки софтуер, който се прави оттук нататък – например да има уеб-услуги за интеграция с други системи, да пази одитна следа на всяко действие, и т.н. Включено е и шаблонно задание, което всички администрации трябва да ползват за софтуерните си проекти – в него са включени изисквания, които досега администрациите не винаги са се сещали да искат, но без които системите не са устойчиви (справка – ОПАК. Много малка част от проектите по тази програма са „живи“ днес)
  • Основните проекти са подготвени и предадени на Управляващия орган (който одобрява финансирането по оперативна програма) – това са проекти за надграждане на основни регистри и системи. Най-важните: национална схема за електронна идентификация (т.е. софтуерната инфраструктура за новите лични карти, но и за други носители на е-идентичност), нов регистър на ГРАО за населението, подобряване на Търговски и Имотния регистър (особено потребителския им интерфейс), създаване на базов регистър – т.е. „регистър като услуга“ – вместо всеки законово-възложен регистър да се прави или „от нулата“, или да се води на Ексел или хартия, да има една „облачна“ система, в която да могат да се конфигурират нови регистри (с всички изисквания за сигурност, отчетност и прозрачност към тях), пилотният проект за дистанционно електронно гласуване, и още няколко проекта.

Процесът е бавен – подготовката и одобрението на всички тези неща отне близо две години и то с активната политическа подкрепа на вицепремиера Бъчварова. Но „следващите“ ще имат добра основа и ако имат желание, ще може да имаме осезаемо е-управление (а не само нормативна и проектна рамка) до…2 години (1 до започването на издаването на новите лични карти и 1, за да навлязат и да има достатъчно услуги, които да са интегрирани с тях).

В момента Държавна агенция „Електронно управление“ бавно набира скорост и започва да върши това, за което беше създадена – да бъде експертният орган, който знае какво е „електронно управление“ и има капацитета да го „бута напред“, без значение кой е на власт. Разбира се, има значение кой е на власт – ако дойде някой следващ Орешарски и каже пак „Електронно управление няма да правим“, агенцията изведнъж ще олекне и никой няма да я слуша, въпреки, че има силни законови правомощия.

Какво следва да се направи оттук нататък, освен да се напишат проектите, да се внедрят и да заработят? В събота представих програмата на Да, България за е-управление, последната (но не по важност) част от програмата за „Добро управление“. Няколко акцента:

  • потвърждаване на въвеждането на електронната лична карта – това, че го пише в закона, далеч не значи, че изпълнителната власт ще го изпълни, ако няма натиск (и дори помощ) това да се случи. Личната карта няма да е единственото средство за е-идентификация, но ще е водещото.
  • трансформиране на удостоверителните услуги (над 60% от транзакциите) във вътрешни за администрацията – т.е. без повече разнасяне на удостоверения. Това има три аспекта – технологичен (който с новите регистри ще бъде възможен), нормативен (който засега на законово ниво е уреден) и организационен – да бъдат приведени вътрешните правила в съответствие със закона и администрацията да бъде обучена как да използва новите възможности. За това се изисква политическа воля, обаче.
  • Поддържането и засилването на Държавната агенция „Електронна управление“ като инструмент за правене на политика в сферата. Защото без да имаш хора, които реално да подготвят и изпълнят всичките проекти и нормативни промени, които да налагат санкции за неизпълнение и да следят за спазването на правилата, електронно управление не става.
  • Реализиране на секторни политики – е-данъци (подобряване и разширяване на услугите на НАП), е-полиция, е-здраве (така чаканите електронни направления и електронни рецепти), изцяло електронни обществени поръчки
  • Електронна антикорупция – използване на технологиите за превенция на корупцията – случайно разпределение на всички проверки от контролни органи (защото в момента проверки се правят често с цел натиск над определен малък или среден бизнес, или за да се вземе подкуп), както и случайно разпределение на всички вписвания в регистър – за да не зависи дали вписването ви ще мине от конкретен служител, с който имате контакт. Електронните обществени поръчки с типови задания освен, че ще улеснят процеса, ще направят „нагласените“ обществени поръчки доста по-трудни (не казвам невъзможни, защото все ще се намери някой „майстор“)
  • Отворени данни – в последните 2 години дръпнахме много, до водещите места в ЕС и дори в света (според OKFN), но останалите страни също се движат и ако спрем с отварянето на данни, бързо ще изостанем. Но тук целта не е някакви класации, а реално повече прозрачност (т.е. думата да спре да бъде клише) и по-качествени данни, които да се извеждат в реално време от самите информационни системи, без да разчитат служител да ги качи някъде ръчно.
  • Дистанционно електронно гласуване – през 2019-та Народното събрание ще трябва да потвърди този метод на гласуване (като го включи в тялото на кодекса), с оглед проведените тестове. През 2019-та трябва да има адекватни хора в парламента, които да вземат информирано решение.

В програмата са включи и общи послания относно единния цифров пазар – т.е. възможността български IT (стартиращи и не само) компании да се възползват от единен европейски пазар. Това звучи логично, но има доста пречки (правни и практически), по отстраняването които в момента работи Европейската комисия. В съгласие с коалиционните партньори сме включили и защитата на личната свобода – т.е. без „следене по интернет“, с право на криптиране и други дигитални права.

Както написах по-горе, основната правна рамка е прокарана, но в една бележка си водя всички допълнителни нормативни изменения, за да заработи едно или друго нещо – например Закона за счетоводството, с изискването си за поставяне на печат, в момента в известен смисъл спира възможността от автоматично подаване на годишен финансов отчет на едно място, в машинно-четим вид. Общо взето всеки закон трябва да бъде гледан с „компютърни очи“, за да се оправи хартиения му уклон.

Това, освен че е партийна програма, е и начина, по който виждам електронното управление в следващите 1-2-3 години. Не е „ракетна наука“, не звучи сложно, но в администрация от 120 хиляди души, е предизвикателство.

Share Button

Проблемите с машинното гласуване

8

Тези дни темата с машинното гласуване получи доста медийно отразяване. ЦИК реши да не спази закона и да сложи машини само в 500 секции, Петър Славов и Мартин Димитров сезираха ВАС, който каза, че ЦИК Трябва да спази закона. А законът казва, че трябва да има машини във всички около 12500 секции.

Електронното гласуване от дистанция винаги ми е било доста по-интересно от машинното, поради което се бях фокусирал да помагам с частта от законодателството, свързана с електронното, а не с машинното. Но ето, че машините се оказаха проблемни.

Проблемът идва от там, че народните представители гласуваха пълното въвеждане на машините, без да са налице няколко предпоставки: готовност на ЦИК да осигури толкова на брой машини; адекватен анализ на експериментите с машинно гласуване; анализ на риска.

Проблемите са основно два:

  • Логистично-организационен проблем – как за два-три месеца ЦИК може да се сдобие с 12500 машини, които да разпредели по секции и да обучи секционните комисии да ги използват
  • Потенциален проблем със сигурността – как гарантираме, че машините не са компрометирани и как всеки избирател може да бъде сигурен, че това наистина е така.

Логистично-организационният проблем е свързан отчасти със сроковете по Закона за обществените поръчки, но не само. Не е ясно дали има фирма, която да има налични 12500 машини, които да даде под наем или да продаде. Всъщност това е важен елемент – досега машините са давани под наем, за сравнително висока цена – 1700 лева.

Изглежда доставчикът на машините за предишни избори – Сиела-Норма (в консорциум със Смартматик) обмисля опция машини, собственост на Филипините, да бъдат докарани до България.

Ако смятаме да имаме машинно гласуване, машините трябва или да бъдат купени (цената им няма причина да бъде много по-висока от тази за наема, честно казано), или трябва да има споразумение за дългосрочно даване под наем на последна версия машини, при доста по-ниски цени.

Дори машините да бъдат доставени навреме, и дори цената им да не е 20 милиона (т.е. приблизително колкото останалите разходи за изборите), секционните комисии няма да могат да бъдат обучени за работа с машините (помним, че преди години имаха проблеми с принтерите).

Следва обаче за мен по-сериозният проблем – проблемът със сигурността. Изборният кодекс има много бегли споменавания на темата. Позволен е одит, но той далеч не е задължителен, а и няма конкретни изисквания към него.

„чл. 114. т. 11: [Наблюдателите] извършват одит и проверка на системата за машинно гласуване;“
„чл. 213, ал. 2, т. 17: [Системата за машинно гласуване] позволява одит и проверка от страна на упълномощени органи.

За сравнение, ето текстовете, отнасящи се за дистанционното електронно гласуване:

12. бъде сертифицирана по най-висок ISO стандарт за качество и устойчивост на използвания софтуер и хардуер;
21. е одитирана преди всеки избор, като резултатите от одита се публикуват на интернет страницата на Централната избирателна комисия не по-късно от 10 дни преди началото на дистанционното електронно гласуване;
22. е с публично достъпен изходен код;“
27. отговаря на изискванията за мрежова и информационна сигурност, определени в наредбата по чл. 43, ал. 2 от Закона за електронното управление;
30. отговаря на Приложение III към Препоръка REC (2004)11 на Съвета на Европа за правните, оперативни и технически стандарти за електронно гласуване;

Какво значи това на практика – както отбелязах вчера в бТВ – машините в момента са черни кутии. Аз, като гражданин и специалист, нямам представа каква е тяхната сигурност. Каква е операционната им система, каква е защитата от вкарване на вируси през USB порта (т.е. през флашката, на която се записват резултатите). Каква е гаранцията, че в машината няма код, който казва „в деня на изборите отчитай всеки 4-ти глас за партия X, за партия Y“. Гаранцията е в хартиената следа, която оставят машините, но нея никой не я брои и не я проверява. Дори да не излязат резултатите (а съм чувал за такива случаи при първите експерименти) – дали секция би била касирана? Или целите избори?

Според мен докато не видим кода на машините, и докато няма начин да се уверим, че именно този код се изпълнява, и то по време на изборния ден, нямаме тази сигурност. Машините от последните избори доколкото знам не използват т.нар. E2E-verifiable схеми, като Scantegrity, при които се получава гаранция, че вотът наистина е отчетен правилно.

Комбинацията от двата проблема пък е, че дори машините да се намерят и да бъдат доставени навреме, те едва ли могат да бъдат одитирани на време. „Събрахме се 10 човека за 2 часа и решихме, че машината е сигурна“ не минава.

Не казвам, че машините не са сигурни. Може би са. Сигурно могат да бъдат. Но до 26-ти март едва ли някой ще може да ме убеди в това. Все пак независим одит (както поиска Да, България) е минималната стъпка, която трябва да бъде направена. Но този одит не трябва да бъде на черната кутия – трябва производителят да предостави изходния код.

При така изредените проблеми идва ред да си зададем въпроса – каква е ползата от машинното гласуване? Краткият отговор е: спестяват броенето на част от бюлетините. Машината вади разписка, която комисията преписва в протокола. Това само по себе си не звучи като достатъчна причина за даване на десетки милиони. Още повече, че се е случвало грешки се правят и при преписването.

Може би има дългосрочна полза в това хората да свикват с използването на машинен интерфейс, но това за мен не е достатъчно. Наличието на технологична възможност за нещо не значи, че тя е най-добрата. За сравнение, при дистанционното електронно гласуване (където има дори повече рискове, които трябва да бъдат отчетени), ползите са ясни – гласуване от всяка точка на света, когато човек е в движение; възможност за по-чести избори и референдуми и значително по-ниски разходи (проектът за пилотната система е за милион и половина).

Да се върнем на изборите през март. Невъзможността да се осигурят достатъчно и сертифицирани машини, която ЦИК е подчертала, няма значение за ВАС:

доводите за физическа невъзможност това да стане са неотносими към съдебното производство

Това по принцип е така – ако нямаш възможност да спазиш закона, значи, че законът е лош, не че няма да си в нарушение, ако не го спазиш. Имаме два варианта за изборите:

  • ЦИК успява криво-ляво да осигури машини, но остава въпроса с тяхната сигурност, съответно доверието в изборите е намалено. Има риск от оспорване на изборите на база на този факт
  • ЦИК не се съобразява с решението на ВАС и слага „колкото машини може“. Законът не е спазен, съответно някой може да оспори изборите.

Положението е „Зайо, ‘що си без шапка“. Но за мен вторият вариант е по-приемлив. С неспазването на тази част от закона ЦИК не нарушава равното избирателно право. Между другото, има и други несъответствия между практиката и Изборния кодекс. Това според мен не е основание за оспорване на изборния резултат. „Машини, докарани кой знае от къде, с непроверено функциониране и използвани от необучени комисии“ ми звучи по-рисково. Не че призовавам ЦИК да не спазва закона, просто опитът да го спази на всяка цена може да бъде по-вреден.

А след тези избори е време да помислим за по-адекватна стратегия спрямо машинното гласуване и машинното преброяване. Ако има машинно преброяване, може би машинно гласуване не ни трябва изобщо?

Share Button

Простите решения

1

Би било чудесно всичко да има просто решение. И някои по-прости неща имат – като ти спре интернетът, рестартираш рутера. Като те заболи главата, вземаш ибупрофен.

Но когато проблемът стане малко по-мащабен и засягащ доста хора, простите решения почти никога не съществуват. Продължават да изглеждат примамливи, но на практика не работят. Как да спрем нелегалната миграция? Да построим стена! Как да се справим с бедността – да вдигнем минималната заплата на 1000 лв! Как да имаме по-читава политическа система – да сменим изборните правила!

Не мога да не отбележа и честите коментари колко е просто всъщност електронното управление – само трябвало – депутатите да не вземат толкова пари / да се направи един уебсайт като хората / да се уволни администрацията / да се напише в закон, че (нещо-си).

Тези лесни решения са близки по смисъл с клишето „ей това е най-големият проблем на държавата“ – ако той се реши, всичко тръгва по мед и масло.

Познайте обаче дали големите проблеми имат прости решения. Познайте дали стената ще спре миграцията, дали бедността ще се оправи като вдигнем минималната заплата, дали ще имаме по-качестена политическа система с мажоритарни избори, дали увеличаването на данъците на „богатите“ ще доведе повече или по-малко пари в бюджета. Дали ако сега възложим на google да ни направи „електронно управление“ за няколко милиона, след 6 месеца ще имаме такова. Всъщност – познайте дали като си рестартирате рутера, всъщност решавате реалния проблем (със стар firmware), или дали с ибупрофен решавате реалния проблем с, например, затруднено кръвооросяване на мозъка. Даже на вид простите проблеми нямат прости решения.

Простите решения обаче са примамливи – не си даваш много зор, правиш нещо бързо и лесно, и хоп – подобрение. И затова са и неизбежен политически инструмент. A границата между популизма, който обещава лесни решения, и прагматизма, който се опитва да представи сложните решения просто, е тънка и трудно различима.

А „всичко е много сложно“ пък е оправдание да не се свърши нищо. Ще направим междуведомствена работна група, която да оцени рисковете и възможностите и след задълбочен анализ да предложи серия от мерки, които в дългосрочен план да доведат до евентуално подобрение. Или иначе казано – „няма да стане“. Някъде в спектъра между „простите решения“ и „много е сложно“ се намира простото обяснение на сложните решения. Но не знам къде точно.

Идват избори и партиите ще се надпреварват коя да предостави по-добри решения на проблеми, които ще промотират като важни. Никой, разбира се, няма да прочете програмата им, още по-малко да разбере дали реално имат идея какви решения предлагат, или карат наизуст. Което е нормално. Но ако изхождаме от аксиомата, че „прости решения няма“, имаме по-голям шанс да не настъпим (пак) някоя мотика.

Share Button
Go to Top