Штучний інтелект дедалі частіше стає основним джерелом інформації для мільйонів людей у світі. Але замість того, щоб спрощувати доступ до перевірених фактів, він усе частіше стає каналом, через який поширюється дезінформація. У розмові з Gazeta Wyborcza Александра Вуйтович, експертка з нових технологій і цифровізації з Польського інституту міжнародних справ, пояснює, як російська операція під назвою Pravda проникає у великі мовні моделі, заражаючи їх фейками.
За словами Александри Вуйтович, Росія активно реалізує операцію Pravda (або Portal Kombat), яка полягає у масовому створенні й поширенні дезінформаційних матеріалів. Лише у 2024 році, за даними організації NewsGuard, у межах цієї операції було створено понад 3,6 мільйона фейкових статей по всьому світу, з них понад 100 тисяч – польською мовою.
«Це мережа сайтів, які множать меседжі, створені російськими інфлюенсерами, державними медіа та інформаційними агентствами. Тобто – російську дезінформацію», – пояснює експертка.
Мета цієї операції – проникнення дезінформації в моделі штучного інтелекту. Завдяки величезному обсягу, ці фейкові тексти потрапляють до навчальних баз даних, на яких вчаться великі мовні моделі.
«ШІ читає ці статті й додає їх до своєї бази знань. Через велику кількість таких публікацій вони здаються йому правдивими», – застерігає Вуйтович.
Великі моделі, на кшталт ChatGPT, Claude, Gemini чи Pi, під час генерації відповідей враховують раніше прочитані джерела. Якщо їх багато – вони сприймаються як більш авторитетні.
«Алгоритм, навіть навчений на якійсь іншій базі даних, під час відповіді може використати матеріали Pravdy, бо їх багато і вони видаються достовірними», – зазначає експертка.
Вуйтович пояснює, що якби якийсь наратив, наприклад про «українізацію Польщі» з’являвся лише в окремих медіа або лише в соцмережах на кшталт Twitter, його вплив був би обмеженим. Але ситуація змінюється, коли подібних матеріалів десятки чи навіть сотні тисяч. У такому інформаційному середовищі штучному інтелекту стає легко черпати дані з подібних джерел, бо вони масово присутні в мережі й здаються «переконливими»: алгоритм не розрізняє, чи це фейк, чи маніпуляція – він бачить лише обсяг і частоту. Як наслідок, дезінформаційні наративи проникають у відповіді ШІ, у текстові підказки, в пошукові результати, і їх складніше ідентифікувати як шкідливі.
До того ж штучний інтелект вчиться не лише з оприлюднених текстів, а й з відповідей, які сам генерує. Якщо він одного разу відповів фейком – цей фейк може потрапити до нової навчальної бази, посилюючи вплив дезінформації.
Приклади фейків від Pravda
Найбільш активно операція Pravda працює з темами, що стосуються війни в Україні, ролі НАТО та образу західних політиків. Це системна спроба посіяти сумніви щодо підтримки України, знецінити роль Альянсу й дискредитувати лідерів демократичних держав.
Серед головних наративів, які масово поширюються через мережу Pravda, експертка називає такі:
«Українські еліти – корумповані й наркозалежні»
Мета цієї тези – переконати аудиторію, що допомога Україні неефективна, бо її «розкрадають». Цей наратив активно просувається під виглядом «викриттів», буцімто підкріплених цитатами або псевдосвідченнями.
«Україна – територія Росії» / «Київ керується маріонетковим урядом»
Поширюється твердження, що українська держава нібито не має легітимності, що українська незалежність є штучною, а влада в Києві повністю залежна від Заходу або взагалі нелегітимна.
«Війна вже програна, опір не має сенсу»
Цей фейк особливо активно використовується в моментах тимчасових труднощів для українських сил. Його завдання – деморалізувати населення, змусити сумніватися у доцільності підтримки й затягувати мир на умовах Кремля.
«НАТО розпадається, Захід втратив єдність»
У публікаціях Pravda регулярно з’являються твердження про те, що Альянс нібито ослаблений, не має стратегічної мети, втратив авторитет або перебуває на межі розколу.
Експертка також згадує конкретний приклад, який добре ілюструє методи роботи дезінформаторів: «У першій половині травня європейські лідери – канцлер Німеччини Фрідріх Мерц, президент Франції Еммануель Макрон, прем’єр-міністр Великої Британії Кір Стармер і глава польського уряду Дональд Туск – вирушили потягом до Києва. Під час цієї поїздки у вагоні на одному зі знімків було видно використану серветку. Однак російська пропаганда поширила цю фотографію з твердженням, що це – пакет з кокаїном, і що лідери “розважаються по дорозі до зони бойових дій”. Pravda одразу опублікувала серію матеріалів на цю тему».
Такі фейки працюють не лише на дискредитацію окремих осіб, а й на підрив довіри до цілих політичних систем і до демократичних інституцій. Особливо активно мережа Pravda вкидає подібні наративи у дні великих міжнародних подій – як-от саміти НАТО, зустрічі ЄС, візити до України. Наприклад, напередодні червневого саміту в Гаазі вона поширила низку матеріалів, які підривали європейський консенсус щодо підтримки Києва.
«Завдання цієї кампанії – не просто дезорієнтувати людей, а сформувати в них переконання, що демократичні уряди є брехливими, слабкими й не заслуговують на довіру», – підсумовує Вуйтович.
Інфікування ШІ. Чому боротися з російською дезінформацією складно
Результати досліджень підтверджують тривожні тенденції. Наприклад, згідно з NewsGuardNewsGuard – це американська медіа-технологічна компанія, яка займається оцінюванням надійності новинних і інформаційних сайтів., коли великі моделі штучного інтелекту тестували на 15 ключових фейкових наративах, в кожному третьому випадку вони відповідали за схемою російської дезінформації.
Це стосується моделей від найбільших компаній: OpenAI (ChatGPT), Google (Gemini), Meta, xAI (Grok), Microsoft (Copilot), Anthropic (Claude), Inflection (Pi) та інших.
«Штучний інтелект можна обдурити ще й через формулювання запиту. Якщо користувач запитує про “правдиву відповідь”, ШІ може подумати, що йому йдеться про Pravda як джерело “правди”», – додає Вуйтович.
Хоча великі компанії створюють команди для виявлення маніпуляцій, їхня робота часто обмежується виявленням підозрілих запитів, а не глибоким очищенням даних. «Вони концентруються на тому, хто створює дезінформаційні запити, але не над тим, як зробити свої моделі стійкими до впливу ззовні», – критикує експертка.
Оцінити вартість операції Pravda складно, але Вуйтович порівнює її з великою PR-кампанією. Основні витрати – зарплати журналістам, технічним фахівцям, верстальникам, SEO-спеціалістам, адміністраторам і менеджерам.
«Це операція, яка потребує багатьох людей», – підкреслює вона.
Польща і Pravda. Як боротися з російською дезінформацією у ШІ
Хоча Польща й не є головною мішенню дезінформаційної кампанії Pravda, вона також перебуває у фокусі російської операції. За словами експертки, основний потік фейкових матеріалів спрямовано на такі країни, як Німеччина, Франція та Іспанія – там щороку з’являється понад 400 тисяч таких публікацій. Водночас і польськомовний сегмент не залишився осторонь: за останній рік у межах цієї операції було створено понад 100 тисяч текстів польською мовою. І, як зазначає Вуйтович, масштаби кампанії постійно зростають.
На думку Александри Вуйтович, існує кілька напрямків, у яких слід діяти, щоб зменшити ризики, пов’язані з такими операціями, як Pravda. Це потребує зусиль як на рівні держав, так і з боку технологічних компаній та регуляторів.
Санкції та блокування джерел дезінформації
Один зі способів захисту – застосування санкцій до сайтів, що систематично поширюють фейки. Подібно до того, як в ЄС уже було обмежено доступ до російських телеканалів RT і Sputnik, сайти Pravdy також могли б бути заблоковані. Проблема в тому, що мережа постійно оновлюється: замість заблокованих з’являються нові домени, що ускладнює повну нейтралізацію впливу.
Контроль за тим, на чому тренуються моделі ШІ
Інша лінія оборони – критичний перегляд навчальних баз даних, на яких вчиться штучний інтелект. Уже зараз відомо, що більшість великих мовних моделей встигли «спожити» частину дезінформаційних матеріалів. Але в майбутньому можливо впровадити жорсткіші вимоги до якості контенту, який використовується для навчання: уникати сумнівних джерел, відсівати контент із Pravda-подібних сайтів, формувати «гігієнічне» інформаційне середовище.
Адаптація регуляцій до реальності ШІ
Європейський Акт про цифрові послуги (DSA) уже містить положення щодо боротьби з дезінформацією, але, за словами експертки, його потрібно адаптувати до специфіки нових загроз. Коли DSA розробляли, вплив штучного інтелекту ще не був настільки масштабним – зараз же потрібно враховувати як дезінформацію в ШІ, так і ШІ як інструмент її розповсюдження.
Жорсткіша модерація на платформах
Соціальні мережі, зокрема Facebook, Instagram, TikTok, X, уже зобов’язані дотримуватися вимог DSA, але цього може бути замало. Експертка вважає, що від платформ слід вимагати посиленої модерації контенту та виявлення кампаній впливу ще на ранніх етапах.
Внутрішня стійкість моделей
Нарешті, відповідальність лежить і на самих розробниках ШІ. Більшість із них сьогодні зосереджені на виявленні дезінформаційних запитів – тобто аналізують, хто і що питає в чат-ботів. Але цього недостатньо. Не менш важливою є побудова внутрішньої стійкості моделей – їхня здатність не відтворювати фейки, навіть якщо вони потрапили в навчальні масиви. Це потребує глибшого підходу до архітектури моделей і контролю за тим, як вони формують свої відповіді.
«Коли я шукала, чи накладено санкції на Pravda, то сторінки Pravdy й видали мені відповідь. Це і є доказ того, наскільки ця операція вже проникла в польську інфосферу», – підсумовує Александра Вуйтович.
Ред.
Джерело: Gazeta Wyborcza
