Голямо червено копче ще изключва изкуствения интелект

Изследователи от Оксфордския университет и лабораторията DeepMind, която принадлежи на Google, са започнали работа над система за аварийно изключване на самообучаващи се алгоритми.

Това съобщава Business Insider, като се позовава на Института за изучаване на машинния интелект (MIRI).

„Ако такъв агент [изкуственият интелект] работи в режим на реално време под наблюдението на човека, то понякога може да възникне ситуация, при която операторът ще бъде принуден да натисне голямото червено копче, за да спре агента от изпълнението на действия, опасни за самия агент или неговото обкръжение.“

Авторите отбелязват, че самообучаващите се алгоритми могат с времето да открият някакъв механизъм за заобикаляне или игнориране на аварийната команда на оператора.

Според изследователите целта на работата е създаването на рамка, която няма да позволи на изкуствения интелект да намери начин за игнориране на командата за изключване.

Голямото червено копче също така трябва гарантирано да прекъсне дейността и максимално да обезопаси машината и околните при потенциално опасни ситуации, както и да предотврати извършването на действия, които могат да доведат до „необратими последствия“.

Въпросите за сигурността, свързани с разработката на системи за изкуствен интелект, се повдигат отдавна. През 2015 година Елън Мъск, Стивън Хокинг, Ноам Чомски, Стив Возняк и редица други учени, бизнесмени, знаменитости, изследователи и специалисти в областта на робототехниката и изкуствения интелект подписаха открито писмо, предупреждаващо производителите на оръжие от създаването на изцяло автономни бойни системи.