Светът е изправен пред безпрецедентна заплаха от мащабни фалшификации, които с лекота заобикалят и най-строгите проверки. И поставят под съмнение компетентността на водещи световни специалисти.

Масовата употреба на генеративен изкуствен интелект доведе до проникването на подправени визуални материали в публичното пространство и в сериозни академични издания.

Тъй като всеки потребител може да създаде реалистично изображение за секунди само с текстова заявка, традиционните методи за визуално потвърждение на научни открития бързо губят своята надеждност, пише The Conversation.

Фалшификати в авторитетни списания

Инструментите с изкуствен интелект вече активно променят начините за създаване, разпространение и публикуване на научни визуализации.

Изследователите все по-често ги използват за генериране на илюстрации, създаване на синтетични данни или редактиране на лабораторни снимки.

Тези общодостъпни технологии обаче напълно заличават границата между полезното подобряване на дадена фотография и откровената фабрикация на факти.

През април 2024 г. авторитетното медицинско списание New England Journal of Medicine беше принудено да оттегли статия след откриването на генерирано клинично изображение.

По-рано подобна съдба сполетя и две други научни публикации, които съдържаха биологично невъзможни структури.

Разработчиците на системи за откриване на фалшификати се опитват да се борят с този проблем. Но техните детектори винаги ще изостават от новите технологии за генериране.

Криза на доверието и възможни решения

В продължение на десетилетия научните изображения от микроскопи или космически апарати са се ползвали с безспорно обществено доверие. Създаването им е изисквало скъпо оборудване и уникална експертиза.

Днес, когато визуалното качество престана да бъде надежден показател за истинност, хората започват да отхвърлят реални доказателства. И да вярват само на онези фалшификати, които потвърждават собствените им предубеждения.

Това опасно явление заплашва с тотална криза на доверието към цялата научна общност.

„Ако аудиторията напълно престане да се доверява на визуалните доказателства, науката ще загуби един от най-мощните си инструменти за обществена комуникация“, подчертават изследователите.

За да спрат разпространението на дезинформация, учените призовават произходът на изображенията да се третира също толкова сериозно, колкото и произходът на изследователските данни.

Авторите трябва честно и прозрачно да посочват дали е използван изкуствен интелект за създаването или модифицирането на конкретен материал.

Прозрачността и спазването на професионалните норми в момента са единственият начин да се запази авторитетът на визуалните доказателства в епохата на невронните мрежи.