Законите на Азимов няма да ни спасят

Бъди най-интересния човек, когото познаваш

© Michael Whelan
Антония Михайлова

Изминали са 70 години, откакто Айзък Азимов е предложил знаменитите си закони на робототехниката.

Те са били чисто литературна измишльотина, но нерядко ги вземат на сериозно – като закони, към които наистина е добре да се придържаме, ако не искаме да приключим с робоапокалипсис.

Интересно би било да попитаме самите специалисти по роботи какво мислят за тези закони, прилагат ли ги, издържал ли е Азимов изпитанията на времето.

Нека отначало припомним какво е написал Айзимов в разказа „Хоровод“, видял свят през 1942 година. И така, класика.

1. Роботът не може да причини вреда на човека или със своето бездействие да допусне на човека да бъде причинена вреда.

2. Роботът е длъжен да са подчинява на всички заповеди, които дава човекът, освен в случаите, когато тези заповеди противоречат на Първия Закон.

3. Роботът е длъжен да се грижи за своята безопасност по такъв начин, който не противоречи на Първия и Втория Закон.

По-късно Айзимов добавил четвърти (по-точно нулев, тъй като е най-важният) закон: „Роботът не може да причинява вреда на човечеството или със своето бездействие да допусне на човечеството да бъде причинена вреда.“

В художествения свят на Айзимов на тези закони се подчинявали почти всички „позитронни“ роботи. Това били не просто препоръки – на тяхна основа се създавали програми, ръководещи поведението на машините. В същото време Айзимов обичал да демонстрира как несъвършенството на тези закони, тяхната размитост, двусмисленост и противоречивост са способни да доведат до странности в поведението на роботите.

Например невинаги е възможно да се различат понятията „робот“ и „човек“. Законът може да се наруши поради това, че не притежаваш цялата пълнота на информацията. Накрая не е ясно по какъв начин може да се забрани на свръхчовешкия изкуствен интелект да препрограмира самия себе си.

Повечето хора винаги са разбирали, че тези закони са просто литературна игра. Но през 1981 година Айзимов доста учудил публиката с твърдението, че има смисъл те да се приемат сериозно. В сп. Compute! той признава: ако някой го попита дали законите му ще се използват един ден в действителността (когато роботите станат толкова сложни, че могат самостоятелно да вземат решения за своите действия), той отговаря утвърдително. Освен това Айзимов смятал, че никакъв друг начин да се справим с машините не може да има.

Днес както никога сме близо до момент, когато роботите (по-точно изкуственият интелект) ще станат толкова сложни, че ще могат да вземат самостоятелни решения. Някои не се съмняват, че рано или късно интелектът на машините ще надмине човешките възможности.

Страшно ли е? Разбира се, че е страшно. Грешка в програмата или неспособност на такъв свръхмозък да разбере кое е добро и кое – лошо за човечеството, може да доведе до катастрофа. Следователно необходимо е да се убедим, че свръхчовешкият изкуствен интелект (ССИ) е безопасен. Изглежда логично да се обърнем за това към законите на Айзимов. Или не?

Да започнем с това, че прогнозите на Айзимов за бъдещето на робототехниката едва ли ще се оправдаят. Бен Гьорцел от компанията Aidyia Holdings отбелязва, че много фантасти (включително Айзимов) се спират на хуманоидни роботи и андроиди. Възможно е да дойде време, в което по уличите ще се разхождат роботи, които външно няма да се отличават от хората, но този период в историята на отрасъла ще бъде сравнително скоротечен, смята специалистът по изкуствен интелект. Те бързо ще бъдат заменени от СИИ, чието физическо оформление не е задължително да бъде хуманоидно.

За приблизително същото говори Луис Хелм, зам.-директор на неправителствената организация Machine Intelligence Research Institute и отговорен секретар на сп. Rockstar Research Magazine. Той смята, че сериозните изследователи изобщо няма да се стремят към създаване на хуманоидни роботи.

И все пак СИИ – независимо дали ще се въплътят в телесна форма, или не – ще се нуждаят от етични правила. Законите на Айзимов са били първият опит за обръщане на внимание към безопасността на СИИ, но за съжаление те си остават такъв.

Днешните изследователи не им обръщат никакво внимание – те са безнадеждно остарели. Деонтологията, тоест формулирането на правила за поведение, не подхожда нито за човешка, нито за машинна етика. Още има философи, които се опитват да развиват тази област, но те изхождат от концепцията за разумния замисъл и божествените заповеди, така че робототехниците не ги вземат на сериозно, отбелязва Хелм.

Философите отдавна са забелязали, че в поведението си ние се ръководим не от заучени наизуст правила, а от някакви „вродени“ концепции, които често не можем да формулираме. Това е нещо на ниво интуиция, инстинкт. Ако бъде създаден СИИ, той трябва да притежава именно такава етика – интуитивна, гъвкава, адаптивна. Ако нещо не се развива както трябва, той трябва да се пренастройва в крачка, вместо да започне да убива всичко, което се движи.

Освен това Айзимов собственоръчно и най-добре от всички е демонстрирал несъвършенството на своите закони, особено тяхната противоречивост. За какво още говори това? Да се четат построените на този разказ ужаси, е интересно, но не бива в реалния живот да се ръководим от закони, които може да се интерпретират различно.

Заслужил е критиката на експертите и самият факт на съществуване на осъзнаващи се машини. Първо, нито един нормален разработчик няма да се стреми към това и никой не иска такива сложности и проблеми. Второ, нека да оставим на съвестта на фантастите внезапната поява на осъзнаващ се интелект. Вредно е прекалено често да гледаме „Терминатор“. Трето, хорърите за случайното създаване от безумен гений на нещо, което ще излезе изпод контрола на твореца и ще започне да убива, все още може да се срещнат във времената на „Франкенщайн“ и „Островът на доктор Моро“, но сега това вече е проява на лош вкус.

По думите на специалистите повечето разработчици смятат, че е невъзможно да се създаде абсолютно безопасен СИИ, но това не ги притеснява, тъй като в живота не може да има абсолютни гаранции за безопасност.

Освен това, щом се появят първите системи или протосистеми на СИИ, ще започнат експерименти по изучаване на особеностите на неговото функциониране. Тогава ще видим какво трябва да се направи по-нататък. Отначало се е появил езикът, а чак след това – неговата теория. Същото е и с роботите.

Гьорцел и Хелм в един глас говорят, че създаването на закони, подобни на Азимовите, е отживелица, остаряла преди двеста години, още по времето на Фихте, Хегел и Шопенхауер. Хилядолетия ние сме създавали модели на света и човека (митологични, религиозни, философски), но последната дума винаги е принадлежала на науката.

Никой още не е успял да преведе философските разсъждения на езика на математиката. Философите са направили и правят много за развитието на науката и мисълта като цяло, но празното теоретизиране никога нищо не е давало. Философът измисля проблема, но го решават математици и инженери.

io9

Категории на статиите:
Технологии

Коментари

  • Usa Pharmacy Pills Online Pharmacies To Avoid [url=http://genericcial.com]online pharmacy[/url] Staxyn Overseas

    MiguRormwago 21 октомври 2017 05:16 Отговор
  • Мисля че учените си блъскат главите за нещо, което нито ще бъде направено скоро, нищо ще мисли и расъждава като нас, че чак толкова да се притесняваме. Както знаем, компютрите са изключително слаби в сравнение с човешкия мозък, вероятно най-мощния домашен компютър в момента може да обработи за ден, два това, което нашия мозък прави за секунда, две. Тоест има много, много десетилетия докато направим компютъра мощен като мозъка. Другия проблем, дали ще ни избият роботите? Защо да го правят? Ние се опитваме да видим съзнанието на робота с интелект, пречупвайки го през нашето съзнание. Но човека, както и останалите живи организми на земята са това, което са заради ензимите и хормоните които бушуват в нас и ни правят агресивни, дават ни усещането за удоволствие, глад, жажда, болка, щастие и т.н. Все неща, които робота няма да притежава, дори да е развил съзнание, той няма да има чувства, защото няма да притежава химията и рецепторите. За него ще е напълно нелогично да убива, още повече че с човека не делят храна, вероятно робота няма да има нужда да се разхожда, да ходи на море или планина. Вероятно ще има нужда само от местенце да се усамоти и контакт, за да се зареди. Естествено никота нищо не се знае, но най-малкото изглежда напълно безмислено да ни унищожат. Също така аз предполагам и залагам, повече на друга карта. Развитие на ДНК. Мисля, че след 100 години освен че ще се препрограмира и усъвършенства в лабораториите човешка ДНК, но вероятно ще бъдат създадени и нови раси. Ще се увеличи капацитета на човешкия мозък, което ще ни направи още по умни и с още по-добра памет. Вероятно за космоса ще има друг тип раса. Тъй като в космоса краката са напълно излишни и пречат, може да се създаде раса с още един чифт ръце на мястото на краката, защото допълнителните ръце ще помагат много в среда без гравитация, с кожа която да издържа на високите нива на радиация и т.н. а роботите ми струват прекалено овехтели като концепция за бъдещето, според мен те ще си останат машини, които да вършат тежката работа а един ден вероятно и всичката работа на планетата а хората просто ще зе занимават с това което им е кеф.

    Рашко 3 април 2014 09:30 Отговор

Оставете коментар

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *


*

Мегавселена

С използването на този сайт вие се съгласявате със събирането на cookies. повече информация

Сайтът използва coocies, за да ви даде възможно най-доброто сърфиране. С влизането в него вие се съгласявате с използването им.

Затвори