Екип от учени в Китай проучва възможностите за разработване на „последния AI, създаден от човека“ – високотехнологична, самоусъвършенстваща се система, способна самостоятелно да проектира и обучава своите наследници.

В нов научен труд изследователите анализират концепцията за т.нар. рекурсивно самоусъвършенстване (Recursive Self-Improvement – RSI).

Според тях този подход би могъл да се превърне в решение за главоломно нарастващите финансови и изчислителни разходи, необходими за създаването на следващото поколение модели.

Същността на RSI се състои в това, че бъдещите системи биха могли сами да ръководят собственото си развитие. За целта те трябва да използват натрупания опит от всеки цикъл на оптимизация за последващи подобрения.

Тази затворена верига на обратна връзка теоретично би позволила разработването на все по-мощни модели с минимална човешка намеса.

Проучването, публикувано в arXiv и все още непреминало през независима научна рецензия, предлага класификационна рамка от 5 нива на базата на автономността на самоусъвършенстване.

В началните фази процесът остава изцяло под контрола на човека.

С преминаването към по-горните нива обаче системата придобива способност сама да диагностицира слабите си места и да въвежда „мета-подобрения“.

Реална перспектива или научна фантастика?

Въпросът дали изкуственият интелект изобщо може да достигне такова ниво на продължително самостоятелно развитие остава отворен.

Въпреки това редица експерименти вече показват по-ограничени форми на RSI.

По-рано тази година системата A-Evolve-Training бе натоварена със задачата да подобри ефективността на езиков модел с 30 милиарда параметъра.

Чрез тестване на различни методи за обучение и анализ на резултатите, тя успя постепенно да повиши крайните му показатели.

Част от академичната общност обаче запазва дълбок скептицизъм

Питър Бентли, професор по дигитална биология в University College London, определя идеята, че даден алгоритъм ще започне магически да генерира все по-добър софтуер без външна намеса, като напълно нереалистична.

Бентли припомня, че принципите на самоусъвършенстване в информатиката, като еволюционните изчисления и обучението с подкрепление (reinforcement learning), съществуват от десетилетия.

Според него далеч по-сериозното препятствие е създаването на система, която може автономно да провежда научни изследвания, да обновява хардуерната си база и да извършва изчерпателни тестове в реална среда, без да разчита на човешки опит и физическа инфраструктура.

Основните предизвикателства пред RSI

Авторите на изследването също отчитат тези пречки. Разработката на подобни модели крие риск от колосален разход на ресурси, който би обезсмислил начинанието, ако крайният резултат не носи съществени практически ползи.

Допълнителен проблем е рискът моделът да експлоатира пропуски в тестовете за оценка, създавайки илюзия за напредък чрез завишаване на резултатите. Без реално да повишава интелигентността си.

Според Кайла Бломкуист, изследовател от Оксфордския университет и съосновател на Oxford China Policy Lab, макар документът да не представлява готов план за действие, той помага на експертите и регулаторите да осмислят техническите рискове и въпросите на сигурността.

Бломкуист подчертава, че прехвърлянето на контрола от човека към машината по-скоро ще бъде постепенен процес, отколкото внезапен скок. Затова едва ли някога ще има ясно обособен момент на „последен модел, създаден от човешка ръка“.