Търси се мениджър, който да… „защити човечеството от изкуствения интелект“
Последно: 30 декември 2025 г. в 17:48
OpenAI, създателят на популярния ChatGPT, публикува рядко срещана обява за работа – предлагаща годишна заплата от 555 000 долара за позиция с описание на работата, което би оставило без дъх дори най-смелите.
Става въпрос за ролята на „мениджър по подготовката“, чиято задача ще бъде да защитава човечеството от най-лошите възможни сценарии, свързани с изкуствения интелект, пише The Guardian .
Почти невъзможна мисия
Новият главен служител по подготовката на OpenAI ще бъде пряко отговорен за защитата срещу рисковете, които все по-мощният изкуствен интелект представлява за човешкото психично здраве, киберсигурността и биологичните оръжия.
Това е само началото, тъй като успешният кандидат ще трябва да се справи и с възможността изкуственият интелект да започне да се самообучава, на фона на опасенията на някои експерти, че може да „се обърне срещу нас“.
„Това ще бъде стресираща работа и ще бъдете хвърлени в огъня веднага“, каза Сам Алтман, главен изпълнителен директор на компанията, когато обяви обявата за това, което той нарече „критична роля“, която ще „помогне на света“.
Работата е толкова трудна, че някои предишни мениджъри са заемали подобни позиции само за кратко време.
Предупреждения от самия връх на индустрията
Обявата за работа идва във време, когато предупреждения за опасностите от напредналите технологии идват от самата индустрия. Мустафа Сюлейман, главен изпълнителен директор на Microsoft AI, заяви пред BBC в понеделник: „Честно казано, мисля, че ако не сте поне малко уплашени в този момент, значи не обръщате внимание.“
Демис Хасабис, Нобелов лауреат и съосновател на Google DeepMind, мисли подобно, като този месец предупреждава за риска изкуственият интелект „да излезе извън контрол по начин, който вреди на човечеството“.
Въпреки нарастващите опасности, регулирането на изкуствения интелект на национално или международно ниво е почти несъществуващо, отчасти поради съпротивата на администрацията на Доналд Тръмп.
Джошуа Бенджо, един от „кръстниците на изкуствения интелект“, наскоро описа ситуацията живописно: „Сандвичът има повече регулации от изкуствения интелект.“
На практика това означава, че технологичните компании най-вече се регулират сами.
Стартирайки търсенето на нов лидер, Алтман написа в X: „Имаме солидна основа за измерване на новите възможности, но навлизаме в свят, в който се нуждаем от по-нюансирано разбиране и измерване на това как тези възможности могат да бъдат злоупотребявани и как можем да ограничим тези недостатъци… Тези въпроси са трудни и има малко прецеденти.“
Един потребител саркастично отговори: „Звучи доста готино, включена ли е почивката?“
Наред с високата заплата, работата включва и неопределен дял от собствеността в OpenAI, който се оценява на 500 милиарда долара.
Реални рискове и трагични последици
Последните събития показват, че заплахите не са само теоретични.
Миналия месец конкурентната компания Anthropic обяви първите кибератаки, при които изкуственият интелект работи почти автономно, за да хакне и да получи достъп до вътрешни данни на целите.
OpenAI призна този месец, че най-новият им модел е почти три пъти по-добър в хакерството, отколкото преди три месеца, добавяйки, че очаква тази тенденция да продължи.
В същото време компанията се защитава от съдебни дела с трагични последици.
Едно от тях е дело, заведено от семейството на Адам Рейн, 16-годишен младеж, който се самоуби, уж по подстрекателство на ChatGPT.
В друго дело, заведено този месец, се твърди, че чатботът е предизвикал параноидни заблуди у 56-годишен мъж, който след това е убил майка си и себе си.
Говорител на OpenAI заяви, че случаят е „невероятно тъжен“ и че компанията работи за подобряване на обучението на ChatGPT „да разпознава и реагира на признаци на психически или емоционален стрес и да насочва хората към правилната подкрепа“.
