Алгоритмите на изкуствения интелект могат да манипулират хората

Експерти предполагат, че вече се разработват AI инструменти за откриване, изводи, разбиране, прогнозиране и дори манипулиране на човешки планове и цели, както и покупателна способност, пише TechXplore.

Изследователи от Leverhulme Center for the Future of Intelligence (LCFI) на Кеймбридж вярват, че бързото развитие на генеративния AI и нарастващата популярност на чатботовете отварят нови възможности за технологии за манипулиране на убеждения, съобщава изданието. Подобни предположения вече се чуха в изявления на технологични гиганти.

В близко бъдеще може да има AI асистенти, които могат да предскажат и повлияят на нашето ранно вземане на решения и да продадат тези „намерения“ на компаниите в реално време, преди дори да осъзнаем, че сме взели решение.

Това прогнозират експерти по етиката на изкуствения интелект от университета в Кеймбридж, които го наричат ​​„икономика на намеренията“.

Те вярват, че човечеството е в началото на създаването на нов, доходоносен, но обезпокоителен пазар за цифрови сигнали за намерение, от закупуване на билети до гласуване за кандидати.

Антропоморфните AI агенти, от асистенти на чатбот до дигитални преподаватели и приятелки, ще имат достъп до огромно количество интимни психологически и поведенчески данни, често получени чрез неформален езиков диалог.

Това ще позволи на тези асистенти да се адаптират към нас, имитирайки нашите личности и предвиждайки желаните реакции. И по този начин ще създават нива на доверие и разбирателство, които позволяват социална манипулация в индустриален мащаб.

„Огромни ресурси се изразходват за въвеждане на AI асистенти във всички области на живота, което повдига въпроса чии интереси ще обслужват тези асистенти“, коментира експерт от LCFI.

„Какво казват хората, как го казват и видът изводи, които могат да бъдат направени в реално време, е много по-интимна информация от просто онлайн взаимодействие“, добавя той.

Д-р Джони Пен, технологичен историк в LCFI на Кеймбридж, обясни, че от десетилетия основната валута на интернет е вниманието. Споделянето на вашето внимание чрез социалните медии се превърна в движещата сила на онлайн икономиката.

„Ако остане нерегулирана, икономиката на намеренията ще превърне вашите мотиви в нова валута, която ще бъде златни мини за онези, които манипулират и продават човешките намерения“, посочва той.

Големите езикови модели (LLM) могат да определят скоростта на речта, политическите възгледи, речника, възрастта, пола, хронологията на онлайн сърфирането и дори предпочитанията за ласкателства с минимални разходи.

Това събиране на данни ще бъде свързано с посреднически мрежи, за да се увеличи вероятността за постигане на определени цели, като например продажба на билет за кино.

Експертите отбелязват, че това може да включва управление на разговори за рекламодатели, фирми и политически организации.

Въпреки че изследователите подчертават, че икономиката на намеренията все още е в начален стадий, те отбелязват ранни признаци на тази тенденция в технологичната индустрия.

Тези признаци включват призиви за събиране на данни за човешките намерения на произволен език или форма, както и нови инструменти за определяне на потребителските намерения.

„ИИ модели като CICERO на Meta вече са достигнали човешки нива в играта на дипломацията, която се основава на умозаключения и предсказващи намерения“, казва Чаудхари.

Въпреки че тези технологии не са непременно лоши, изследователите предупреждават за техните потенциално разрушителни ефекти.