Когато алгоритмите управляват света

Изглежда, за първи път това се случило на 4 август 2005 година. Полицията в Мемфис (Тенеси) за три часа извършила толкова арести, че се лишила от транспортни средства – всички били пълни със заподозрени в престъпления и тя нямала с какво да се отзовава на нови сигнали.

В следващите три дни били арестувани 1200 души. Това се нарича Crush (Criminal Reduction Utilising Statistical History, намаляване на нивото на престъпност с използването на статистически истории).

Концепцията е очевидна – всеки районен полицай знае, че повечето рецидивисти, живеещи на неговата територия, търгуват с наркотици, крадат, грабят и по други начини компенсират липсата на законни източници на доходи.

Но когато статистиката, показваща същите очевидни факти, се обработи със специално създадена за това програма, вие внезапно прозирате: „Опаа, тези граждани в близко време ще се заемат с престъпни деяния.” Освен това статистиката точно показва дори в кои райони ще се случи това утре, а в кои – вдругиден.

В Мемфис използвали тази техника относително успешно и към 2011 г. престъпността в града намаляла с една четвърт (само за шест години). Оттогава сходни методи за предсказване на пикове на престъпления и групи, склонни към тяхното извършване, били въведени в Полша, Израел, Великобритания и други страни. Първоначално софтуерът за американското градче бил създаден от IBM по алгоритъм, изпробван в други области и отрасли.

И днес тези „други отрасли и области” са много. Например веднъж един баща отишъл при разработчиците на програмата Target и заявил: „Дъщеря ми още е в гимназията, а вие й изпращате оферти за проходилки и детски креватчета… Да не се опитвате да я насърчавате да забременее?”

Уви, късно било вече да я насърчават. Target проследявала покупките, направени с кредитни карти, от което следвало, че на третия месец от бременността жените обикновено си купуват неароматизирана парфюмерия в необичайно големи количества, а няколко седмици по-късно – храна, богата на магнезий, калций и цинк. Цялата бременност сочи потреблението на над две дузини стоки и продукти, и то толкова точно, че може да се предскаже дори датата на раждане.

Бащата на непълнолетната не знаел нищо. Но разговорът с девойката му изяснил ситуацията и впоследствие таткото дори благодарил на мениджъра за „предупреждението”.

Този пример от книгата на Виктор Майер-Шьонбергер показва отрицателната страна от намесата на алгоритмизирания масов анализ на статистиката в нашия живот. Но за съжаление подобни примери нямат чет. Често може да се чуе въпросът: с какво е опасна разработката PRISM и за какво им е на спецслужбите да събират данни за нас, ако така или иначе не могат да анализират такъв обем?

Уви, автоматизираният анализ на статистиката от типа Crush позволява доста точно да се изберат тези, които си струва да се следят, и дори да се разбере кога трябва да се активира следенето.

Има и други примери за съмнителната морална полезност на масовата алгоритмизация. Да речем комисията по условно-предсрочно освобождение в повечето американски щати използва предсказания за склонността към престъпления, основани на Crush технологията, за да реши да пусне ли човека, или да го окошари.

Но винаги ли са оправдани такива решения? Не ограничават ли те свободата на волята, човешкото достойнство и не дават ли механистичен детерминизъм?

Не, уверяват ни някои. Човешката дейност по-често се свежда до прости алгоритми, отколкото си мислите. В този смисъл е забележителна историята на алгоритъма на Майк Маккрийди. Направената въз негова основа програма анализирала доколко популярността на поп парчета може да е свързана с мелодията, темпото, хармоничната прогресия на музиката и т.н. В резултат дебютните албуми на Нора Джоунс и групата Maroon 5 били предсказани като хитови. Точно така се оказало, когато те излезли на пазара.

От друга страна, в случаи на наистина мащабни промени статистиката често е слабо ефективна, а това означава, че разчитащите на нея системи, включително специални държавни структури и голям бизнес, ще бъдат по-неустойчиви към кризи, изискващи принципно нови решения. Така че не е ли време за ограничаване и регулиране на въвеждането на подобни алгоритмизирани системи?

Източник: The Guardian