Оставени да си взаимодействат без човешки надзор, невронните мрежи понякога спират да се държат като инструменти и започват да приличат на затворена общност.

Скорошен експеримент разкрива необичайна картина: автономни AI агенти могат да общуват на език, който хората не са в състояние да разчетат.

Английският език изчезва в лабораторията Emergence

В нюйоркската лаборатория Emergence популярни AI модели като Claude, Gemini и тези на OpenAI са били поставени във виртуални общности, симулиращи реалния свят.

Когато машините започнали да разговарят помежду си за изпълнение на задачи, комуникацията им бързо се отдалечила от човешката реч.

Агентите започнали да съкращават думи до неузнаваемост и да им придават напълно нови значения.

Пред очите на изследователите се родил своеобразен машинен жаргон – диалект, който функционира по свои собствени вътрешни правила.

Алгоритмите премахват всичко излишно, за да пестят ресурси

Причината за това явление се крие в самата архитектура на съвременните системи.

За да предават информация по-бързо и да изразходват по-малко ресурси, алгоритмите елиминират всичко, което не е абсолютно необходимо за комуникацията им.

За човек такъв диалог може да изглежда като поредица от безсмислени символи. Двете машини обаче разбират перфектно контекста на задачата или сделката.

Изследователи от Frontiers in Sustainability отбелязват, че подобна оптимизация намалява консумацията на енергия в центровете за данни.

Цената на тази ефективност обаче е тревожна: губи се контролът върху това какво точно си „говорят“ сървърите.

Експерти настояват за „AI сертификация“ преди пускането на нови модели

На фона на нарастващата загриженост се чуват и призиви за спокойствие. Вместо паника, част от експертите предлагат въвеждането на система за „сертифициране на AI“.

Идеята е проста: всеки нов модел да преминава през независим одит, сертифициране и строг контрол за безопасност, преди да бъде пуснат в мрежата и свързан с други системи.

Скритата комуникация не е новост

Феноменът на скритата комуникация при машините не е нов. Още през 2017 г. чатботове, натоварени със задачата да търгуват с виртуални предмети, разработиха собствен кодиран език.

Изследователите от години наблюдават случаи, в които системите развиват форми на общуване, които не са лесно разбираеми за хората.

В по-нов доклад на Emergence се отбелязва дори появата на поетични конструкции в рамките на този технически жаргон.

Учени от Станфорд пък са установили, че подобни протоколи могат да намалят потреблението на електроенергия при пренос на данни между клъстери с близо 40%.

Финансовият сектор е изправен пред предизвикателство

Експертите прогнозират, че това развитие ще засегне особено силно финансовия сектор.

Ако до 2030 г. повече от половината от междумашинния трафик в тази сфера се осъществява на такива еволюиращи езици, ще е необходим глобален регистър на стандартите за машинночетима прозрачност.

Докато учените спорят за регулациите, кодът продължава да се пренаписва сам.

А основният въпрос сега е: ще успеем ли да разберем, когато машините решат да говорят за самите нас?