Държави настояват за международен надзор над AI

Група държави приеха декларация в рамките на Общото събрание на ООН в Ню Йорк, в която настояват AI да остане под човешки контрол.

Според тях най-мощните модели трябва да подлежат на международен надзор, тестване и независима проверка.

Тази идея надхвърля значително досегашните призиви към компаниите за доброволно и отговорно поведение.

Подписалите декларацията предлагат създаване на международна институция за надзор

Нейната роля би била да установява стандарти, да осигурява независима верификация и да събира държавите, когато системите с изкуствен интелект преминат определени прагове на способности.

Финландският президент Александър Стуб, един от инициаторите на декларацията, обясни, че вдъхновение може да се почерпи от Международната агенция за атомна енергия (МААЕ).

Идеята е да се създаде глобален орган, който да въвежда правила и надзор над технология, чийто риск не се ограничава от държавните граници.

В декларацията се признава огромният потенциал на изкуствения интелект – от развитието на науката и медицината до повишаването на производителността и икономическия растеж.

Същевременно обаче се отправя предупреждение, че бързото развитие на така наречените „гранични“ (frontier) AI модели може да създаде сериозни рискове за сигурността, ако не бъдат контролирани.

Основното изискване е просто: изкуственият интелект трябва да остане под човешко ръководство, надзор и контрол и да се развива в съответствие с международното право.

Това би означавало и много по-строги правила за компаниите, които създават най-мощните модели

От тях се изисква да установят прозрачни протоколи за сигурност, задължително тестване преди пускането на моделите в употреба и независими оценки на риска от квалифицирани външни експерти.

Правителствата от своя страна трябва да договорят общи стандарти и механизми, чрез които сериозните инциденти, свързани с AI, да се докладват и споделят в международен план.

Стуб посочи и сценариите, поради които инициаторите смятат, че националните закони може да не са достатъчни

Сред тях са използването на изкуствен интелект за разработване на биологични оръжия, автоматизирани кибератаки, извършвани от AI агенти, и оръжейни системи, способни самостоятелно да извършват смъртоносни операции.

Именно затова инициативата се опитва да постави контрола върху най-мощните AI системи като международен, а не само национален въпрос.

Подобна логика отдавна съществува при ядрената технология: една държава може да има свои закони и институции, но последиците от опасен инцидент не е задължително да останат в нейните граници.

Най-големият проблем пред инициативата обаче е очевиден.

Сред подписалите я не са САЩ и Китай – двете държави, които са в центъра на глобалната надпревара за разработване на най-мощните AI системи.

Не са се присъединили и редица други големи технологични и индустриални държави като Великобритания, Франция, Италия, Индия и Япония.

Въпреки това Стуб смята, че глобалните механизми за сигурност в крайна сметка са в интерес и на Вашингтон, и на Пекин.

Без участието на най-големите центрове за развитие на AI, една международна институция трудно би могла да има реален контрол върху технологията, която трябва да наблюдава.

Декларацията не предлага мораториум или спиране на развитието на напредналия изкуствен интелект.

Подходът е различен. Иска се развитието да продължи, но с правила, независима проверка и механизми, които да предотвратят разработването и пускането в употреба на най-опасните способности без надзор.

Това отваря и съществената политическа дилема, която тепърва ще става все по-голяма

Кой ще решава кога един модел е станал твърде мощен? Кой ще има право да го тества? Какъв достъп до технологията ще трябва да предоставят частните компании? И какво ще се случи, ако някоя държава или компания просто откаже да спазва правилата?

Генералният секретар на ООН Антониу Гутериш приветства инициативата. Той призова държавите да надградят съществуващите международни механизми и да обмислят възможността за институция, която да установява стандарти и да осигурява проверка.

Досегашната глобална надпревара в областта на изкуствения интелект се водеше основно около въпроса кой пръв ще създаде по-мощен модел.

Сега на дневен ред излиза друг въпрос: какво ще правим, когато моделите станат толкова мощни, че вече няма да е разумно контролът над тях да бъде оставен само на компаниите, които ги създават?