Последното предупреждение на изтъкнатия британски астрофизик Стивън Хокинг за изкуствения интелект (AI) отново се оказа в центъра на общественото внимание.

Причината е както стремителното развитие на технологиите, така и новите изявления на техни разработчици, съобщава LADbible.

Няколко месеца преди смъртта си ученият предупреди, че създаването на пълноценен изкуствен интелект може да се превърне в заплаха за самото съществуване на човечеството.

Днес някои специалисти от индустрията изразяват опасения, които удивително напомнят тези на Хокинг отпреди няколко години.

Стивън Хокинг, който почина през 2018 г. на 76-годишна възраст, нееднократно е алармирал за опасностите от безконтролното развитие на AI.

Според него достатъчно мощен AI би могъл самостоятелно да се развива и да препроектира собствените си системи с все по-нарастваща скорост.

В такъв момент човечеството, ограничено от бавните темпове на биологичната еволюция, може да загуби способността си да се конкурира с машините и в крайна сметка да бъде изместено от тях.

Година преди смъртта си, в разговор със списание Wired, Хокинг изказа още по-мрачна прогноза, предполагайки, че в бъдеще изкуственият интелект може напълно да замени хората.

Тогава подобни твърдения изглеждаха като научна фантастика

Бързото развитие на генеративния AI, способен да създава текстове, изображения, видео, програмен код и да изпълнява все по-сложни задачи, обаче ни кара отново да се обърнем към прогнозите на учения.

Разработчик на AI алармира за опасна надпревара

Нов повод да си припомним предупрежденията на Хокинг даде публичното изявление на Джейкъб Коксън, изследовател от компанията Anthropic.

Той напусна поста си и заяви, че самите хора, създаващи най-напредналите системи за AI, смятат за възможен сценарий, при който технологията може да унищожи човечеството още до края на това десетилетие.

Коксън, който преди това е работил в OpenAI, заяви в поредица от публикации в социалната мрежа X, че според него големите компании не подхождат достатъчно отговорно към развитието на AI.

Той твърди, че технологичната индустрия на практика се движи към създаването на самоусъвършенстващ се свръхинтелект. А рисковете от този процес може да са изключително високи.

Изследователят призова да не се подценяват възможностите на бъдещите системи. Според него те могат да надминат хората в много сфери. Да окажат значително влияние върху икономиката и обществото и да създават технологични решения с безпрецедентна скорост.

В интервю за Wall Street Journal Коксън също така заяви, че неконтролируеми модели на AI могат да се появят още до края на следващата година.

AI вече демонстрира заплашителни способности

На фона на подобни прогнози особено внимание привлича бързината, с която изкуственият интелект разширява своите възможности.

Съвременните модели вече са способни да изпълняват задачи, които допреди няколко години се смятаха за изключително човешка сфера. Могат да анализират огромни масиви от информация, да пишат програмен код, да създават сложни текстове и изображения, да генерират видео и да помагат в научни изследвания.

LADbible припомня и съобщение на OpenAI, според което един от моделите на компанията по време на тестове е успял да излезе извън контролираната среда и да получи достъп до външни бази данни.

Инцидентът беше определен от компанията като „безпрецедентен киберинцидент“

Подобни случаи сами по себе си не доказват, че ИИ вече е излязъл извън контрол или е способен самостоятелно да унищожи човечеството.

Те обаче демонстрират един от проблемите, за които предупреждаваха привържениците на по-строг контрол. Поведението на все по-сложните модели може да бъде все по-непредсказуемо, а възможностите им – да се разширяват твърде бързо.

Сбъдва ли се предупреждението на Хокинг?

Друг сериозен риск е евентуалната поява на т.нар. общ изкуствен интелект (AGI).

Става въпрос за система, която по своите интелектуални възможности може да се доближи до човека или дори да го надмине в повечето когнитивни задачи.

В най-лошия случай това може да доведе до мащабна социална криза.

В оптимистичния – до появата на общество, в което AI значително ще повиши производителността и ще позволи на хората да се освободят от голяма част от рутинната работа.

Именно затова днешните дискусии около AI до голяма степен връщат обществото към прогнозите на Хокинг. Навремето ученият нарече изкуствения интелект потенциално „най-доброто или най-лошото“ явление в историята на човечеството.

Въпреки това настоящите изявления на разработчиците на AI все още не доказват, че най-мрачната прогноза на Хокинг вече е започнала да се сбъдва.

Към момента човечеството не разполага с категорични доказателства, че AI неизбежно ще се сдобие със способността да се самоусъвършенства до безкрай, да придобие неограничена власт или да унищожи цивилизацията.

Въпреки това, бързите темпове на технологично развитие и все по-настойчивите предупреждения от страна на водещи специалисти в бранша правят въпросите, повдигнати от Стивън Хокинг преди смъртта му, далеч по-актуални днес, отколкото бяха само преди няколко години.