AI сбърка фалшив код с извънземен живот след само 150 корекции
Последно: 24 септември 2026 г. в 16:42
Изкуственият интелект може уверено да открива извънземен живот там, където го няма.
Ново проучване разкрива, че алгоритмите са склонни да дават фалшиви положителни резултати при търсене на биосигнатури.
Информацията е базирана на изследване, публикувано в сървъра за предварителни публикации arXiv.
Как учените заблудиха изкуствения интелект?
В търсенето на извънземен живот астробиолозите разчитат на универсални индикатори, като например способността на дадена система да кодира информация и да се самовъзпроизвежда, подобно на ДНК.
За да тестват способността на ИИ да разпознава тези процеси, изследователите са използвали програмата Avida. Тя генерира „дигитален живот“ под формата на софтуерен код, който може да еволюира и да се копира във виртуална среда.
След като обучили невронната мрежа с десетки хиляди дигитални организми, учените постигнали впечатляваща първоначална точност на разпознаване от 99,97 процента.
Последващ тест обаче разкрил сериозен проблем
Чрез промяна само на отделни команди в кода на организъм, който не може да се размножава, учените успели напълно да объркат изкуствения интелект.
„Независимо от каква последователност от команди започвахме, успявахме да заблудим AI в 100 процента от случаите“, отбелязва Анкит Гупта, аспирант в катедрата по компютърни науки и инженерство в Мичиганския държавен университет.
За да може алгоритъмът погрешно да определи неодушевен обект като способен на самовъзпроизвеждане, са били необходими само около 150 дребни корекции в кода.
Броят на подобни комбинации в реалния свят е огромен, което прави вероятността от откриване на фалшива биосигнатура изключително висока.
„Изкуственият интелект има „ахилесова пета“. Той може да види даден модел и да го класифицира напълно погрешно“, обяснява професорът по микробиология, молекулярна генетика, физика и астрономия Кристоф Адами.
Пряка заплаха за космическите мисии и земните технологии
Откритата уязвимост създава рискове за бъдещи изследвания на НАСА и други космически агенции, които планират да използват AI сензори на марсоходи и сонди в близост до спътниците на Юпитер и Сатурн.
Ако автономен апарат на Марс направи грешен извод, че е открил живот, проверката на тези данни ще бъде невъзможна до връщането на пробите на Земята.
Освен в астробиологията, слабостта при разпознаването на модели застрашава и други сфери, в които AI се внедрява без подходящ контрол. От медицински скенери и камери за наблюдение до автопилоти в автомобилите.
„Това не означава, че използването на такива методи в астробиологията, медицинската диагностика или на бойното поле е безполезно. Просто е нужен независим начин за проверка на работата на AI. Човекът задължително трябва да остане част от веригата за вземане на решения“, обяснява Адами.
