Върховният комисар на ООН за правата на човека, Фолкер Тюрк, отправи сериозно предупреждение, че AI може да стане толкова мощен, че да застраши цялото човечество.

Той обяви, че ще настоява водещите технологични компании да предприемат незабавни действия за намаляване на рисковете.

„Споделям дълбоката загриженост, изразена от експерти от самата индустрия, че напредналият изкуствен интелект може да представлява екзистенциален риск за човечеството“, заяви Тюрк в реч пред Съвета на ООН по правата на човека в Женева, с която постави началото на втория си мандат.

„Днес и от това място призовавам за всеобщи усилия за установяване на стабилни предпазни мерки около безопасността на изкуствения интелект, преди да е станало твърде късно“, подчерта върховният комисар на ООН.

Кои са „експертите от индустрията“?

Предупреждението на Тюрк е пряко отражение на по-ранни изявления от водещи световни учени, инженери и ръководители на технологични гиганти.

Ключов момент в този дебат беше съвместната декларация на Центъра за безопасност на изкуствения интелект (CAIS), подписана от стотици водещи специалисти.

Сред тях са Сам Алтман от OpenAI, Демис Хасабис от Google DeepMind и Дарио Амодей от Anthropic.

В изявлението си те посочват, че „намаляването на риска от изчезване, породен от AI, трябва да бъде глобален приоритет, наред с други рискове от обществен мащаб като пандемии и ядрена война“.

Подобни опасения изразиха и пионерите на съвременното машинно обучение, често наричани „кръстниците на изкуствения интелект“ – Джефри Хинтън и Йошуа Бенджио.

След като напусна Google, Хинтън многократно заяви публично, че напредналите системи скоро могат да станат по-интелигентни от хората и да развият цели, които не съответстват на човешките интереси.

Регулациите изостават от технологиите

От дълго време ООН и други международни организации обсъждат как да се създадат глобални стандарти, преди технологията да излезе извън контрол.

Европейският съюз вече прие свой собствен „Закон за изкуствения интелект“ (AI Act), който цели да ограничи рискови приложения като масово биометрично наблюдение и манипулативни алгоритми. Въпреки това все още липсва глобално съгласувана регулаторна рамка.

Освен сценария за загуба на контрол над общия AI (който все още не съществува, но се очаква да се появи в следващото десетилетие), ООН и правозащитните организации редовно предупреждават и за по-непосредствени заплахи.

Сред тях са масовото разпространение на убедителни дезинформации, автоматизираното нарушаване на личната неприкосновеност, алгоритмичната дискриминация и разработването на автономни оръжия, способни да вземат решения за живот и смърт без човешки надзор.