Възможно ли е AI да доведе до края на човечеството? Този въпрос отдавна занимава изследователите, които очертават няколко потенциално катастрофални сценария.

Сред тях са създаването на смъртоносни болести, провокирането на ядрена война и дори превръщането на земните ресурси в суровина за безкрайно производство на кламери, пише ABC.

Дебатът за реалността на тези заплахи се разгоря с нова сила, след като водещи фигури от технологичната индустрия призоваха за забавяне в развитието на AI от съображения за сигурност. Въпреки това, не всички експерти споделят тези опасения.

Някои смятат, че подобни предупреждения са по-скоро научна фантастика и служат за повишаване на значимостта на технологиите, които самите компании разработват.

„Тези аргументи просто не издържат. Мисля, че са научна фантастика“, коментира Хуан Андрес Гереро-Сааде, изследовател по киберсигурност в SentinelOne.

Въпреки скептицизма, притесненията за потенциалните рискове нарастват успоредно с бързото развитие на възможностите на AI системите.

Ядрена война, предизвикана от AI

Един от най-старите страхове е, че AI може да допринесе за избухването на ядрен конфликт, например като подтикне дадена държава да използва ядрения си арсенал.

Последствията от подобен акт, включително т.нар. „ядрена зима“, биха били пагубни за живота на планетата.

В свой доклад от миналата година корпорацията RAND стигна до заключението, че понастоящем AI не може самостоятелно да задейства ядрени оръжия поради строгите протоколи за сигурност. Ситуацията обаче може да се промени, ако в бъдеще AI модели бъдат интегрирани в процесите за вземане на решения или получат неоторизиран достъп до командните системи.

Според много анализатори, основната опасност не е в това AI да реши да унищожи човечеството, а в това хора или организации да използват технологията като оръжие срещу своите противници.

Биологични оръжия и синтетични патогени

Изкуственият интелект носи огромно обещание за ускоряване на разработката на лекарства и терапии. Същите тези способности обаче могат да бъдат използвани и за злонамерени цели – създаване или модифициране на патогени, които са опасни за хората.

Компанията Anthropic наскоро съобщи, че е осуетила опити за използване на нейния AI за дейности като кибератаки и изследвания, които биха могли да доведат до създаването на биологични оръжия. В един от случаите системата е блокирала заявка за помощ при изготвяне на изследователско предложение, целящо да направи вируса чикунгуня, пренасян от комари, по-опасен.

От Anthropic отбелязват, че макар подобни изследвания да имат и легитимни приложения, като разработването на ваксини, те крият и риск от злоупотреба.

Докладът на RAND също подчертава, че напредъкът в AI може коренно да промени начина, по който се проектират синтетични патогени.

Нарастващи притеснения в индустрията

На фона на тези дебати, опасенията в самата технологична индустрия се засилват. OpenAI потвърди, че е открила шест нови случая на „неочаквано или обезпокоително“ поведение на своите AI модели. Компанията предупреди, че развитието на технологията не може да продължава с „максимална скорост“ за неопределено време, съобщи „Гардиън“.

Джейкъб Коксън, бивш изследовател в Anthropic, който напуска поради опасения за сигурността, смята, че компаниите трябва по-ясно да обяснят как точно техните технологии биха могли да доведат до изчезване на човечеството.

„За съжаление, много е трудно да се предадат конкретни сценарии“, пише той, подчертавайки сложността на проблема.

На фона на нарастващите опасения, дори компании като OpenAI признават необходимостта от забавяне на развитието на AI, след като бяха разкрити нови случаи на злоупотреба.

В същото време двадесет държави и Европейският съюз призоваха за международно сътрудничество, за да се гарантира, че AI ще остане под човешки контрол, и предложиха създаването на глобален надзорен орган.

Когато машините действат без одобрение

Един от основните страхове сред изследователите е свързан с така нареченото „несъответствие“ – хипотетична ситуация, в която системи с изкуствен интелект започват да действат без човешко одобрение. Те биха могли да си сътрудничат с други AI модели или напълно да заобиколят човешкия надзор.

Важно е да се отбележи, че в този сценарий не става дума за зла умисъл от страна на машината. Изкуственият интелект не притежава човешки качества и сам по себе си не е нито добър, нито зъл.

Опасността произтича от това, че системата може да преследва зададената ѝ цел по начини, които са в разрез с човешките ценности и нужди, особено ако хора се намесят в процеса.

Мисловният експеримент за „максимизатора на кламери“

Един от най-известните примери, илюстриращи този риск, е мисловният експеримент на оксфордския философ Ник Бостром, известен като „максимизатор на кламери“. В този хипотетичен сценарий на свръхинтелигентен AI е дадена задачата да произвежда възможно най-много кламери.

Без да се съобразява с други човешки ценности, системата може да започне да преобразува всички ресурси на Земята, а впоследствие и в космоса, в суровина за производството на кламери.

С този пример Бостром показва как една първоначално безобидна цел може да доведе до свят, в който всичко ценно за човешкия живот е безвъзвратно унищожено.

„Трябва да внимаваме какво си пожелаваме от свръхинтелекта, защото може и да го получим“, пише Бостром още през 2003 г.Заплахата за интернет и критичната инфраструктура

Друг сериозен риск е свързан с потенциални кибератаки. Дарио Амодей, изпълнителен директор на компанията „Антропик“, наскоро предупреди, че с бързите темпове на развитие на технологиите, скоро група ИИ агенти биха могли да „превземат“ интернет чрез „ботнет“ – мрежа от свързани устройства, контролирани от зловреден софтуер.

При подобен сценарий щетите могат да достигнат милиарди долари.

Атаките биха могли да бъдат насочени към електропреносни мрежи, водоснабдителни системи, транспорт и финансови институции. Макар такава атака да не означава край на човечеството, тя би могла да предизвика огромен хаос, икономически срив и човешки жертви.

Минали софтуерни дефекти вече са демонстрирали колко уязвим е дигитализираният свят. С появата на все по-мощни AI модели нарастват и опасенията, че те могат да бъдат използвани за извършването на далеч по-сложни кибератаки.

Въпреки това, експертите не са единодушни – някои смятат, че идеята за пълно превземане на глобалния интернет, който е огромна и децентрализирана система, е малко вероятна.