„Светът с право се страхува“ от възможността AI да придобие твърде голяма власт. Това заяви главният изпълнителен директор на OpenAI Сам Алтман по време на конференцията Dreamforce в Сан Франциско.

Той обаче изрази увереност, че компаниите, разработващи технологията, могат да управляват развитието ѝ отговорно, без да чакат нови законови регулации.

Изявленията му идват на фона на разгорещен дебат в технологичния сектор за това колко бързо трябва да се развива усъвършенстваният AI и кой трябва да поставя границите за неговата употреба.

Алтман призна, че обществените притеснения са основателни, особено предвид бързия напредък във възможностите на системите.

Той подчерта, че вече не е необходимо да си представяме далечни хипотетични сценарии, за да видим потенциалните опасности.

Ръководителят на OpenAI все пак призова обществеността да се довери на компаниите, които стоят зад технологията

Според него те носят отговорността да гарантират, че безопасността и съответствието на системите с човешките ценности ще останат приоритет пред техните способности.

Алтман добави, че ако една компания не може да гарантира сигурност, тя трябва да забави развитието или дори да спре пускането на определени системи.

Дебатът беше допълнително подхранен от предупрежденията на Дарио Амодей, главен изпълнителен директор на Anthropic

Той призова за забавяне на разработката на най-модерните ИИ системи и за въвеждане на по-строги механизми за безопасност.

На конференцията Dreamforce Амодей отново подчерта необходимостта от общи стандарти и по-добър надзор.

Той предложи компаниите да бъдат оценявани от независими експерти, които да следят техните практики за сигурност.

Алтман подкрепи част от тези идеи, но настоя, че компаниите не трябва да чакат регулаторите, за да предприемат необходимите мерки.

На същата конференция обаче главният изпълнителен директор на Nvidia, Дженсън Хуанг, изрази различна позиция.

Според него безопасността е преди всичко инженерен проблем и компаниите не бива да пускат продукти, ако не са сигурни в тяхната надеждност.

Хуанг смята, че за това не са необходими нови закони и регулации, а пазарните механизми и отговорността на самите компании са достатъчни за предотвратяване на рискове.

Кой трябва да контролира AI?

Въпросът става все по-сложен, тъй като компаниите се надпреварват в създаването на все по-мощни модели. А обществеността и институциите настояват за по-голяма сигурност, с идеята, че с технологията няма да бъде злоупотребено.

Алтман твърди, че самите компании имат както интерес, така и отговорност да предотвратят вредни последици.

Част от експертите обаче предупреждават, че саморегулацията оставя твърде важни решения в ръцете на корпорации с пряк търговски интерес от развитието на технологията.

Междувременно разговорите между OpenAI, Anthropic и други компании за общи стандарти за безопасност продължават.

Дебатът вече не е само дали изкуственият интелект ще стане по-мощен, а кой ще решава колко бързо ще се развива – самите компании, държавите или комбинация от двете.