Зловещо или странно: живото зомби ехоборг

Какво би се случило, ако компютър получи контрол над човешкото тяло? Дейвид Робсън от BBC Future се среща с „ехоборг“ – човек, участващ в необичаен експеримент, в който се изследват перспективите на нашите взаимоотношения с изкуствения интелект.

София Бен-Акауър (Sophia Ben-Achour) изглежда типична лондонска студентка. Тя има късо подстригани кестеняви коси, живи очи и широка усмивка. Говорим си за времето, музиката, за нейната работа – обучение на чужденци по английски език.

Никога не бихте повярвали, че речта на София се управлява от няколко микропроцесора, разположени на повече от 300 километра от нас.

Впоследствие София ми призна, че не чувства дискомфорт от това, че се намира под компютърен контрол. „Чак сега за първи път ми хрумна мисълта, че в този експеримент аз съм не повече от тяло.“

Техническият термин, описващ функцията на София, е ехоборг (echoborg), тоест жив човек, временно „предаден“ на робот. Всички произнасяни от нея думи се генерират от програма събеседник в интернет и се подават в звукова форма на незабележима слушалка в ухото ѝ.

Описанието на експеримента по нещо напомня научнофантастична антиутопия. Всъщност той преследва доста сериозна цел.

Изследователите от Лондонската школа по икономика искат да разберат как външният вид и поведението на същество с изкуствен интелект могат да повлияят на отношението ни към него. Това е важно, тъй като с времето ние очевидно ще се озовем в обкръжението на машини, неотличими външно от човека, и е необходимо да знаем предварително нашата възможна реакция на съжителството с тях.

„Повечето образци на изкуствен интелект, с които си имаме работа днес, са снабдени с механичен интерфейс, затова е трудно да ги сбъркаш с жив човек“, казва Кевин Корти, един от изследователите. Дошла му идеята да обедини електронния интелект с човешкото тяло:

„В този случай, според нашия замисъл, хората действително биха вярвали в това, че разговарят с човек от плът и кръв.“

Корти и научният му ръководител Алекс Гилеспи се вдъхновили за работа на тази тема от работата по така наречените сираноиди, експеримент на психолога Стенли Милграм. Неговите експерименти неведнъж са предизвиквали нееднозначна реакция.

В най-известния от опитите си Милграм поръчва на един от участниците да пуска ток на друг, като постепенно увеличава напрежението. Дори когато на доброволците се струвало, че разрядите започват да причиняват на жертвата много болезнени усещания, мнозина от тях продължавали експеримента.

Изглежда, човек по-лесно може да причини вреда на друг, отколкото да постави под съмнение нечий авторитет.

Но към края на живота си Милграм се заинтересувал от по-хуманен аспект на нашето възприятие към човешко тяло, което виждаме пред себе си. Той си задал въпроса: наистина ли слушаме това, което казва събеседникът ни, или нашето мнение за него е предопределено изключително от впечатлението за невидимите прояви на неговото поведение?

За да изясни това, Милграм решил да направи опит, основан на фрагмент от пиеса от XIX в. „Сирано дьо Бержерак“. Сирано – опитен воин, остроумен поет и изкусен музикант, но смята себе си за прекалено грозен, за да завоюва сърцето на прекрасната си братовчедка Роксана.

Главният герой помага на красивия си, но затворен съперник Кристиан да съблазни Роксана, като му казва какви точно думи да използва. В най-известната сцена Сирано се крие в храстите, тихичко нашепвайки на Кристиан прелестни глупости, който той повтаря пред Роксана, стояща на балкона си.

Милграм решил, че експеримент от такъв род би станал идеален начин за проверка, доколко външният вид на човека влияе на нашето възприятие за неговия ум. В серия опити сираноидите (както Милграм кръстил доброволците) получавали реплики от човек, намиращ се в друго помещение, чрез поставен в ухото приемник.

Как и Роксана от пиесата, на събеседниците на сираноидите не било известно за тази подробност от експеримента.

Милграм с изумление открил, че повечето хора, провеждайки 20-минутни разговори със сираноидите, така и не забелязвали, че нещо не е наред. „Ние просто не сме способни да забележим, че всички произнасяни от нашия събеседник думи идват не от него, а от далечен източник“, обяснявал той.

Живото зомби

Изводът е, че ние много зле отличаваме поведението на хора, действащи по собствена воля, от поведението на „зомби“, изпълняващо нечии команди.

„Колкото и очевидно да е несъответствието между външния вид и интелекта на човека, хората са склонни да не го забелязват“, казва Корти. С други думи, ние повече съдим човека по дрешката, отколкото по дълбочината на неговата мисъл.

Към това заключение можем да се отнесем скептично, но и самият аз попаднах в този капан, когато по време на посещение на лабораторията Гилеспи ме запозна с Корти.

Младата жена пред мен изобщо не изглеждаше като тази, която бях виждал на снимки на Кевин. Възможно е, помислих аз, Кевин да е транссексуален? Всъщност в този момент Кевин се намираше в друго помещение, а аз разговарях със София (в живота София е студентка в Лондонската икономическа школа; тя прави и собствени експерименти от подобен род).

Тогава разбрах колко лесно е да попаднеш в плен на илюзиите на сираноида, дори да знаеш в какво е тайната – но само знание не е достатъчно.

След първите успешни опити Корти и Гилеспи решили да усложнят експериментите и именно тогава им дошла идеята: „Помислихме: ами ако репликите на сираноида се подсказват не от човек, а от компютърна програма?“

Така се появява ехоборг – новият вид сираноид, или човек, ретранслиращ фрази, подсказани от виртуален събеседник.

По такъв начин Кортни разчитал да надникне в бъдещето, в което роботите няма да се отличават външно от хората. „Все още сме далече от създаването на съвършен човекоподобен интерфейс ,но още сега може да се съедини умът на машината с тялото на човека и да се види какво ще излезе от това“, казва той.

В един от тези експерименти доброволците не били предупредени, че ще разговорят с робот. Както и предсказал Милграм, дори след продължителен разговор с ехоборга те така и не заподозрели нищо.

„В повечето случаи участниците в експеримента не се досещат, че разговарят с компютърна програма. Те просто смятат, че събеседникът има определени проблеми с комуникацията. Но нито за секунда не им идва наум, че говорят с хибрид между човек и машина“, казва Корти.

В научнофантастичните произведения често се поставя въпросът за това, ще могат ли роботите един ден да се интегрират в човешкото общество до такава степен, че ние повече да не сме в състояние да ги отличаваме от живите хора.

Експериментите на Корти навеждат на мисълта, че дори при сегашното ниво на развитие изкуственият интелект вече може да ни върти на пръста си.

Впрочем има един нюанс. В определен момент изследователите решили да възпроизведат класически тест на Тюринг, предназначен за оценка на способността на изкуствения разум да се слее с живия човек до такава степен, че събеседникът да не може да разпознае в него компютърна програма.

При това участниците в експеримента били уведомени, че този, с когото разговарят, може да е робот – и им предложили да разпознаят кака ли е в действителност.

В тази ситуация – с използването на жив интерфейс – вероятността виртуалният събеседник успешно да премине теста и да бъде взет за човек, се оказала по-ниска, отколкото в класически тест с използването на компютърен екран. „В ситуациите на живо общуване нашите очаквания от събеседника са по-високи“, отбелязва Гилеспи.

Това е нещо като парадокс – ако не знаем, че е възможно да разговаряме с компютърна програма, сме склонни да приписваме странностите в поведението на събеседника на неговите индивидуални особености. Но щом разберем, че пред нас може да не е човек, ставаме особено критични към всички отклонения в комуникацията от негова страна.

„Изкуственият интелект може да е невероятно умен, но нашето знание, че той не се явява човек, е способно да убие желанието ни да общуваме с него в човешкото разбиране на тази дума“, казва Корти.

Зловещо или странно?

Гилеспи особено се интересува от дилемите, свързани с разговорите лице в лице със събеседника. „В такива ситуации не може просто да прекъснеш разговора на половината дума и да се отстраниш – казва той. – Има определени правила на етикета и хората не се чувстват удобно да ги нарушават, докато при разговор с някого по интернет такова чувство не възниква.“

Разбирам за какво говори той. София успяваше да води непринуден разговор с мен. Например имахме следния диалог:

Аз: Какви са новините днес?

София: Според съобщение на ВВС Великобритания се готви да проведе референдум за излизане от ЕС, но не на 5 май.

Добре, сега ме попитай нещо.

Коя е любимата ти музикална група?

Не съм голям привърженик на бандите, повече ми харесват автори на песни като Джони Мичъл.

О, обожавам Джони Мичъл. Тя често се спира и ми казва „здравей“.

Ако този разговор протичаше в интернет, за Софи не би представлявало трудност да ме заблуди (макар че е възможно да заподозра, че преиграва). Но при жива беседа репликите ѝ изглеждаха толкова странни, че всяка задръжка с отговора от нейна страна ставаше непоносима.

При разговор в чат не бих изпитвал силни емоции по този повод.

Гилеспи смята, че роботите на бъдещето могат да се сблъскат с проблеми, сродни на ефекта „зловещата долина“ (uncanny valley), чиято същина е в това, че с нарастването на реалистичността на компютрите анимациите на човешки персонажи изглеждат все по-отблъскващи на зрителите.

Този феномен може да се наблюдава в редица филми с широко използване на компютърна графика. Ако се добавят призрачните усещания от разговора с компютърна програма, отблъскващият ефект може само да се засили.

„Според това, как изкуственият интелект все повече се приближава към пълна имитация на човешки разум, той става не просто зловещ, а опасен. Възможно е да има смисъл да говорим за нещо като опасна долина“, казва той.

Колкото и странно да звучи, нашата основна емоция към роботите на бъдещето може да не е ужас, както смятат научните фантасти, а неловкост и срам.

Ако не преодолеем този проблем, изкуственият интелект няма да стане част от всекидневния ни живот – ето защо Корти и Гилеспи възнамеряват да продължат експериментите с ехоборги.

„Смятам, че се намираме на предния фланг на науката – казва Гилеспи. – Хората често говорят, че нашето развитие зависи от технологиите, но това не е така. Прогресът се движи от общественото мнение. Хората решават ще пуснат ли разумни роботи на улиците в ролята на полицаи. И за да се разбере как се отнася обществото към масовата поява на изкуствен разум в нашия живот, е необходимо да се проведе повече работа.“

Възможно е тези експерименти да дадат отговор и на въпроса, какво значи да си жив човек.

Представете си, че съществува робот, който външно изглежда като ехоборга София, но се различава от нейната програма събеседника по способността да води разговор не по-зле от човек.

„Има ли нещо освен нашето поведение, което ни прави хора? – пита Корти. – Ако машините са способни да копират нашата външност и особеностите на нашето поведение, защо да не наречем хора и тях?“