Законите на Азимов няма да ни спасят

Изминали са 70 години, откакто Айзък Азимов е предложил знаменитите си закони на робототехниката.

Те са били чисто литературна измишльотина, но нерядко ги вземат на сериозно – като закони, към които наистина е добре да се придържаме, ако не искаме да приключим с робоапокалипсис.

Интересно би било да попитаме самите специалисти по роботи какво мислят за тези закони, прилагат ли ги, издържал ли е Азимов изпитанията на времето.

Нека отначало припомним какво е написал Айзимов в разказа „Хоровод“, видял свят през 1942 година. И така, класика.

1. Роботът не може да причини вреда на човека или със своето бездействие да допусне на човека да бъде причинена вреда.

2. Роботът е длъжен да са подчинява на всички заповеди, които дава човекът, освен в случаите, когато тези заповеди противоречат на Първия Закон.

3. Роботът е длъжен да се грижи за своята безопасност по такъв начин, който не противоречи на Първия и Втория Закон.

По-късно Айзимов добавил четвърти (по-точно нулев, тъй като е най-важният) закон: „Роботът не може да причинява вреда на човечеството или със своето бездействие да допусне на човечеството да бъде причинена вреда.“

В художествения свят на Айзимов на тези закони се подчинявали почти всички „позитронни“ роботи. Това били не просто препоръки – на тяхна основа се създавали програми, ръководещи поведението на машините. В същото време Айзимов обичал да демонстрира как несъвършенството на тези закони, тяхната размитост, двусмисленост и противоречивост са способни да доведат до странности в поведението на роботите.

Например невинаги е възможно да се различат понятията „робот“ и „човек“. Законът може да се наруши поради това, че не притежаваш цялата пълнота на информацията. Накрая не е ясно по какъв начин може да се забрани на свръхчовешкия изкуствен интелект да препрограмира самия себе си.

Повечето хора винаги са разбирали, че тези закони са просто литературна игра. Но през 1981 година Айзимов доста учудил публиката с твърдението, че има смисъл те да се приемат сериозно. В сп. Compute! той признава: ако някой го попита дали законите му ще се използват един ден в действителността (когато роботите станат толкова сложни, че могат самостоятелно да вземат решения за своите действия), той отговаря утвърдително. Освен това Айзимов смятал, че никакъв друг начин да се справим с машините не може да има.

Днес както никога сме близо до момент, когато роботите (по-точно изкуственият интелект) ще станат толкова сложни, че ще могат да вземат самостоятелни решения. Някои не се съмняват, че рано или късно интелектът на машините ще надмине човешките възможности.

Страшно ли е? Разбира се, че е страшно. Грешка в програмата или неспособност на такъв свръхмозък да разбере кое е добро и кое – лошо за човечеството, може да доведе до катастрофа. Следователно необходимо е да се убедим, че свръхчовешкият изкуствен интелект (ССИ) е безопасен. Изглежда логично да се обърнем за това към законите на Айзимов. Или не?

Да започнем с това, че прогнозите на Айзимов за бъдещето на робототехниката едва ли ще се оправдаят. Бен Гьорцел от компанията Aidyia Holdings отбелязва, че много фантасти (включително Айзимов) се спират на хуманоидни роботи и андроиди. Възможно е да дойде време, в което по уличите ще се разхождат роботи, които външно няма да се отличават от хората, но този период в историята на отрасъла ще бъде сравнително скоротечен, смята специалистът по изкуствен интелект. Те бързо ще бъдат заменени от СИИ, чието физическо оформление не е задължително да бъде хуманоидно.

За приблизително същото говори Луис Хелм, зам.-директор на неправителствената организация Machine Intelligence Research Institute и отговорен секретар на сп. Rockstar Research Magazine. Той смята, че сериозните изследователи изобщо няма да се стремят към създаване на хуманоидни роботи.

И все пак СИИ – независимо дали ще се въплътят в телесна форма, или не – ще се нуждаят от етични правила. Законите на Айзимов са били първият опит за обръщане на внимание към безопасността на СИИ, но за съжаление те си остават такъв.

Днешните изследователи не им обръщат никакво внимание – те са безнадеждно остарели. Деонтологията, тоест формулирането на правила за поведение, не подхожда нито за човешка, нито за машинна етика. Още има философи, които се опитват да развиват тази област, но те изхождат от концепцията за разумния замисъл и божествените заповеди, така че робототехниците не ги вземат на сериозно, отбелязва Хелм.

Философите отдавна са забелязали, че в поведението си ние се ръководим не от заучени наизуст правила, а от някакви „вродени“ концепции, които често не можем да формулираме. Това е нещо на ниво интуиция, инстинкт. Ако бъде създаден СИИ, той трябва да притежава именно такава етика – интуитивна, гъвкава, адаптивна. Ако нещо не се развива както трябва, той трябва да се пренастройва в крачка, вместо да започне да убива всичко, което се движи.

Освен това Айзимов собственоръчно и най-добре от всички е демонстрирал несъвършенството на своите закони, особено тяхната противоречивост. За какво още говори това? Да се четат построените на този разказ ужаси, е интересно, но не бива в реалния живот да се ръководим от закони, които може да се интерпретират различно.

Заслужил е критиката на експертите и самият факт на съществуване на осъзнаващи се машини. Първо, нито един нормален разработчик няма да се стреми към това и никой не иска такива сложности и проблеми. Второ, нека да оставим на съвестта на фантастите внезапната поява на осъзнаващ се интелект. Вредно е прекалено често да гледаме „Терминатор“. Трето, хорърите за случайното създаване от безумен гений на нещо, което ще излезе изпод контрола на твореца и ще започне да убива, все още може да се срещнат във времената на „Франкенщайн“ и „Островът на доктор Моро“, но сега това вече е проява на лош вкус.

По думите на специалистите повечето разработчици смятат, че е невъзможно да се създаде абсолютно безопасен СИИ, но това не ги притеснява, тъй като в живота не може да има абсолютни гаранции за безопасност.

Освен това, щом се появят първите системи или протосистеми на СИИ, ще започнат експерименти по изучаване на особеностите на неговото функциониране. Тогава ще видим какво трябва да се направи по-нататък. Отначало се е появил езикът, а чак след това – неговата теория. Същото е и с роботите.

Гьорцел и Хелм в един глас говорят, че създаването на закони, подобни на Азимовите, е отживелица, остаряла преди двеста години, още по времето на Фихте, Хегел и Шопенхауер. Хилядолетия ние сме създавали модели на света и човека (митологични, религиозни, философски), но последната дума винаги е принадлежала на науката.

Никой още не е успял да преведе философските разсъждения на езика на математиката. Философите са направили и правят много за развитието на науката и мисълта като цяло, но празното теоретизиране никога нищо не е давало. Философът измисля проблема, но го решават математици и инженери.

io9