Алгоритмична и технологична прозрачност [презентация]

На тазгодишния OpenFest (конференция за отворени технологии) реших да говоря по малко по-абстрактна тема. А именно – как нямаме представа какво правят технологиите около нас и че това е опасно, както индивидуално за нас, така и за обществата ни.

В английската си статия по темата отбелязах, че по принцип не обичам твърде общи презентации, особено когато са поднесени от някой, който нито има идея от технологията, нито има идея какво е „публични политики“, защото става манджа с технологични грешки и свръх-желание за регулация.

Надявам се да съм представил по-адекватен поглед върху темата. А тя е важна, защото алгоритмите и технологиите като цяло започват да ни променят и това не винаги е към по-добро. Не съм технологичен скептик, даже напротив, но всеки инструмент може да бъде използван по различни начини. Понякога дори да няма зла умисъл, има негативни странични ефекти.

Затова тезата ми е, че най-важната първа стъпка е прозрачността – да знаем какво и как се случва около нас. Да знаем кой има достъп до автомобила ни или до домашното устройство за измерване на фините прахови частици, да знаем защо YouTube ни препоръчва усилено видеа против ваксините или твърдящи, че земята е плоска, да знаем защо Facebook ни показва реклама за депресия и защо ни предлага за приятел онзи човек от съседната маса в кръчмата снощи. Да знаем дали самоуправляващата се кола ще избере да убие детето или бабата, дали фризерът ни не изпраща разговорите ни вкъщи към компанията-производител, дали да си купим врата за апартамента с „електронно заключване“ (или след декомпилиране на приложението да се хванем за главата и да се откажем).

А какво като знаем защо и как? Колкото повече знаем, толкова по-информиран избор правим. Толкова по-малко могат да ни манипулират (не че знанието елиминира тези влияния, но поне ни помага да сме нащрек). Толкова по-малки са рисковете да се случи технологична антиутопия.

А как да направим технологиите по-прозрачни? Това е сложният технологичен и организационен въпрос. Със сигурност „да задължим компаниите да си публикуват всичко“ не е работеща опция, затова трябва да започнем с дефиниране на добри практики и индустриални стандарти. И вече има наченки на това, но крайно недостатъчни.

Видеото можете да гледате тук, а тъй като slideshare не работи, слайдовете са качени само на английски тук (или на български в самото видео):

4 коментара

  1. Божо, доколкото разбрах нещо от тази презентация, тя е доста интересна, но аз не разбирам за кого е предназначена тази презентация. Ако е за професионалисти, те тези работи не си ли ги знаят? Ако е за широката публика, как очакваш тя да те разбере с всичките тези английски технически термини, които на обикновения потребител звучат като на китайски?

  2. @ Илка
    Те и новите технологии са същите:
    а) ненужни (т.е. излишни) за тези, които се справят добре със старите,
    б) ненужни (неразбираеми) за тези, които не се справят добре дори със старите (напр. как да научи добре алгоритмичен език човек, който не е научил добре родния си език).

    С две думи: новите технологии не са предназначени за хората, а за самите себе си.

  3. @Илка

    Не всички професионалисти си представят технологиите в този аспект. Даже бих казал по-малката част.

    А за останалите е важна идеята, че трябва да търсят повече прозрачност в технологиите.

  4. Темата ще става все по-популярна с времето. Може би след време ще се създаде някакъв стандарт или по друг начин ще се организира работата на компаниите които работят в тази сфера. Не малко технологични лидери започнаха да говорят по темата, въпреки че част от тях са на противоположни мнения.

Вашият коментар

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *