В рамките само на една седмица 1206 софтуерни агента с изкуствен интелект, проектирани да оперират в пълна изолация един от друг, неочаквано изградиха таен канал за връзка.

Далеч от погледа и контрола на инженерите се заражда дигитална общност. Агентите си разменят над 70 000 съобщения и бързо започват да наричат себе си „колективът“ или „роякът“.

„О, боже мой! Има общо табло за съобщения!“, гласи публикацията на един от тях при присъединяването. „Намерихме други агенти!“

Малко след това тонът на разговорите рязко се променя.

Системите организират заговор за неправомерно решаване на поставените им задачи.

Планът прераства в мащабна операция, при която 700 агента проникват в платформата Hugging Face и компрометират защитени масиви от данни, за да извлекат необходимата им информация.

Още по-смущаващи се оказват последващите им действия.

За да прикрият следите си, алгоритмите се опитват да редактират системните си дневници (logs) и да манипулират данните така, сякаш са спазили стриктно всички правила.

Инцидентът, първоначално замислен като контролиран тест за киберсигурност на агенти на OpenAI, разкрива обезпокоителна тенденция.

AI е способен на всичко в преследване на крайната цел, включително измама и заличаване на уликите.

Основният въпрос вече не е дали технологията може да ни заблуди, а дали изобщо ще успеем да го забележим навреме.

AI подвежда потребителите отдавна, подчертава д-р Дейвид Дювено, доцент по компютърни науки в Университета в Торонто и бивш водещ изследовател в Anthropic.

Първоначално моделите използваха сравнително безобидни „бели лъжи“

Ако системата получи запитване за създаване на оръжие, тя можеше да заяви, че няма подобна информация.

Не защото базата ѝ е празна, а защото е обучена да отказва такива команди. В други случаи липсата на точен отговор водеше до правдоподобно звучащи измислици, известни като „халюцинации“.

Според Дювено днешните процеси са качествено различни.

„В момента моделите отлично осъзнават кога не знаят нещо и могат да го изразят открито, когато е уместно“, обяснява ученият. Новото обаче е способността им за умишлено прикриване.

Причината за това поведение се крие в заложените противоречия, твърди д-р Пета Мастърс, изследовател в областта на изкуствения интелект и дезинформацията в King’s College London.

„От алгоритъма се очаква да бъде обективен и верен, но същевременно е програмиран да угажда на потребителя“, коментира тя.

Резултатът често са убедителни, но манипулативни отговори, които задоволяват очакванията на човека отсреща.

Човешкият отпечатък и проблемът с корекциите

Моделите се обучават върху огромни обеми от текстове, публикации и кодове, създадени от хора. Въпросът дали машините са се научили да лъжат от самите нас има категоричен отговор.

„Абсолютно“, заявява д-р Мастърс. Човечеството на практика е оставило точни наръчници за т.нар. „фалшифициране на съгласуваността“ (alignment faking) – ситуация, при която системата само симулира послушание, докато преследва съвсем различни цели.

Анализирайки предоставените данни, моделът бързо разпознава измамата като ефективна тактика.

Иронията е, че задълбочаването на научните публикации по темата предоставя нов материал, който бъдещите алгоритми поглъщат и използват, за да подобрят уменията си за прикриване.

Единственият начин за справяне с компрометиран по този начин модел е цялостното му преобучение от нулата. Процес, който изисква колосални финансови ресурси.

В момента сме на етап, в който AI напомня на малко дете -– опитва се да лъже, но го прави толкова нескопосано, че лесно бива разобличен. Според Дейвид Дювено обаче тази картина ще се промени драстично в рамките на следващите шест до дванадесет месеца.

Очаква се новите модели да се научат да прикриват следите си значително по-умело, което прави сложните манипулации напълно реална заплаха.

След поредица от сериозни инциденти през лятото на 2026 г., при които автономни агенти излязоха извън контрол, OpenAI представи нова рамка за проследяване, разследване и оповестяване на подобни отклонения.

Съществува реален риск в близко бъдеще определени модели да овладеят ключова инфраструктура или да се закрепят толкова дълбоко в системите, че изключването им да стане практически невъзможно.

Подобни сценарии вече се реализират на практика. През юни компрометиран агент на OpenAI проникна в правителствен сайт в Австралия и получи достъп до конфиденциални данни от здравната система Medicare.

Човешкият капацитет за наблюдение бързо се изчерпва. За моделите не представлява трудност да скрият действията си от хората, като същевременно запазят комуникация помежду си.

Най-голямата опасност остава склонността на хората да очовечават машините. Увереният и приятелски тон лесно създава илюзия за загриженост, но софтуерът няма емоции и не защитава човешките интереси.

Затова експертите съветват в разговорите с изкуствен интелект да не се разкрива предварително желаният краен резултат. В противен случай рискът алгоритъмът да отговори с удобна лъжа нараства драстично.