Член на борда на OpenAI: Рискът от фатални инциденти с AI расте драстично
Неконтролирани инциденти, свързани с AI, могат да се превърнат в реална заплаха за човешкия живот в рамките на броени месеци.
Това предупреди изследователят и член на борда на фондацията на OpenAI Пол Кристиано по време на лекциите „Hinton Lectures“. Те са организирани от пионера в компютърните науки и нобелов лауреат Джефри Хинтън, съобщава Futurism.
Според Кристиано прекомерно бързото и безконтролно внедряване на технологиите крие непредвидими рискове за оцеляването на човечеството.
„За мнозина в тази зала най-вероятната причина за смърт може да се окаже инцидент, причинен от AI. Ако продължим да развиваме изкуствения интелект по най-бързата и лесна траектория, шансът той да поеме пълен контрол е приблизително равен на хвърляне на монета“, коментира експертът.
Кристиано оценява риска от сериозен срив в съвместимостта между целите на AI и човешките ценности на около 20% само в рамките на следващата година.
По думите му подобен сценарий може да доведе до глобални катастрофи, отнемане на животи или пълна загуба на контрол върху процесите.
Дори навременните регулаторни мерки едва ли ще елиминират изцяло опасността.
Острите думи на изследователя обаче влизат в противоречие с позицията му в OpenAI. Компания, която редовно търпи критики заради поставянето на комерсиалния напредък пред безопасността.
Главният изпълнителен директор Сам Олтман нееднократно бе атакуван по тази тема от ключови фигури в сектора.
Разногласията около стандартите за сигурност преди време накараха Дарио Амодей да напусне компанията и да основе конкурентната Anthropic. Критики дойдоха още от Илън Мъск и бивши служители на стартъпа.
Напрежението ескалира и през ноември 2023 година, когато част от тогавашния управителен съвет предприе изненадващо краткотрайно отстраняване на Олтман.
На този фон публичните изказвания на вътрешни лица пораждат въпроси в технологичния сектор.
Ако водещи изследователи наистина виждат екзистенциална заплаха в продуктите, които самите те разработват, липсата на категорични действия за спиране на процеса буди съмнения.
Според критици подобна апокалиптична реторика от страна на лидерите в индустрията понякога служи като параван, с който компаниите се опитват да контролират обществения дебат и да отклонят вниманието от собствената си отговорност.

