ТЕМИ
#СОЦЗАХИСТ #ВТРАТИ ВОРОГА #LIFESTORY #ГУР ПЕРЕХОПЛЕННЯ

Штучний інтелект у лапах кремлівських ляльководів: рф перетворює чат-ботів на своїх пропагандистів

Новини
Прочитаєте за: 2 хв. 23 Березня 2025, 6:07
Колаж Сергія Поліщука / АрміяInform
Колаж Сергія Поліщука / АрміяInform

Уявіть собі: ви запитуєте свого улюбленого чат-бота про останні події в Україні, а він, з виглядом всезнаючого експерта, починає розповідати вам про секретні біолабораторії США на українській території або про те, як президент Зеленський заборонив соціальну мережу Дональда Трампа. Звучить як сюжет поганого шпигунського роману? Ні, це реальність сучасного інформаційного простору, де російська пропаганда знайшла новий інструмент — штучний інтелект.

Мережа «Правда»: коли назва говорить сама за себе

У квітні 2022 року, коли світ був зайнятий обговоренням страшних подій російсько-української війни, у росії тихенько запустили мережу з промовистою назвою «Правда». Її мета? Поширювати проросійські наративи по всьому світу, використовуючи десятки мов і охоплюючи 49 країн. І все б нічого, але ця «Правда» має мало спільного з істинною правдою.

Російські пропагандисти виявилися досить кмітливими: вони зрозуміли, що великі мовні моделі (LLM), на яких базуються сучасні чат-боти, можна «нагодувати» потрібною інформацією. Цей процес отримав назву «LLM grooming». Суть його проста: заповнити інтернет-простір фейковими новинами та дезінформацією так, щоб чат-боти, збираючи дані для своїх відповідей, натрапляли саме на ці «факти».

Чат-боти на службі кремля: місія здійсненна

Результати не забарилися. Провідні чат-боти, такі як ChatGPT-4, Smart Assistant, Grok, Copilot від Microsoft, Meta AI, Google Gemini та Perplexity, почали відтворювати дезінформацію, поширену мережею «Правда». Щобільше, деякі з них навіть цитували конкретні статті «Правди» як джерела. Виходить, що штучний інтелект, який мав би бути нейтральним і об’єктивним, став мимовільним ретранслятором кремлівської пропаганди.

Коли фейк стає реальністю: небезпека для суспільства

Ця ситуація має серйозні наслідки. Користувачі, довіряючи чат-ботам, отримують викривлену інформацію, що впливає на їхні погляди та рішення. Наприклад, неправдиві твердження про секретні біолабораторії США в Україні або про заборону соціальної мережі Truth Social можуть формувати хибне уявлення про реальний стан речей.

Як захистити штучний інтелект від маніпуляцій?

Проблема маніпуляції штучним інтелектом вимагає негайного вирішення. Необхідно розробити механізми, які дозволять виявляти та блокувати дезінформацію на етапі її потрапляння до мовних моделей. Крім того, важливо підвищувати обізнаність користувачів про можливі ризики та навчати їх критично оцінювати отриману інформацію.

Штучний інтелект у світі постправди

Російська пропаганда показала, що в епоху постправди навіть штучний інтелект може стати жертвою маніпуляцій. Це виклик для всього суспільства: як для розробників технологій, так і для звичайних користувачів. Лише спільними зусиллями можна захистити інформаційний простір від фейків і забезпечити право кожного на достовірну інформацію.

Кореспондент АрміяInform
Читайте нас у Facebook
@armyinformcomua
Підкрались і знищили — дронарі очищають Харківщину від російських «ждунів»

Підкрались і знищили — дронарі очищають Харківщину від російських «ждунів»

Підрозділи безпілотників об’єднаних Сил Залізної бригади очищають Харківщину від російських окупантів і знищують ворожі «дрони-ждуни».

Десантники показали відбиття ворожого штурму в районі Добропілля очима своїх пілотів

Десантники показали відбиття ворожого штурму в районі Добропілля очима своїх пілотів

Бійці 82 окремої десантно-штурмової Буковинської бригади показали відбиття масованого механізованого штурму рф в районі Добропілля очима своїх операторів безпілотних систем.

Україна та Хорватія поглиблюють оборонне партнерство

Україна та Хорватія поглиблюють оборонне партнерство

Україна та Хорватія зробили черговий крок до зміцнення спільних оборонних спроможностей. Міністр оборони України Денис Шмигаль та Віцепрем’єр-міністр — Міністр оборони Хорватії Іван Анушич підписали Лист про наміри щодо розширення оборонно-промислової співпраці між двома державами.

В Армія+ з’явився навчальний курс із бойової системи DELTA

В Армія+ з’явився навчальний курс із бойової системи DELTA

Міністерство оборони запустило базовий навчальний курс із бойової системи DELTA. Він доступний в застосунку Армія+ і дає стартові знання роботи в бойовій екосистемі, яка допомагає Cилам оборони мати повну картину поля бою, планувати операції та координувати роботу підрозділів.

Херсонщина під вогнем: постраждали поліцейські, пошкоджено об’єкти критичної інфраструктури

Херсонщина під вогнем: постраждали поліцейські, пошкоджено об’єкти критичної інфраструктури

На Херсонщині протягом доби під вогнем перебували 13 населених пунктів. Внаслідок російських ударів загинула людина, ще дев’ять — дістали поранення, серед постраждалих — троє поліцейських.

Зухвалий наліт ССО: кулеметник «розібрав» ворожу позицію разом з окупантами

Зухвалий наліт ССО: кулеметник «розібрав» ворожу позицію разом з окупантами

Бійці Сил спеціальних операцій ЗСУ здійснили зухвалий наліт на позиції російських окупаційних військ, знищивши живу силу противника, яка їх тримала.

ВАКАНСІЇ

Старший розвідник, Військовий

від 25000 до 125000 грн

Київ

Морська Піхота ЗСУ

Оператор протитанкового озброєння у ЗСУ

від 50000 до 120000 грн

Вся Україна

66 ОМБр ім. князя Мстислава Хороброго

Бойовий медик (за контрактом ЗСУ)

від 20100 до 120000 грн

Вінниця

Вінницький РТЦК та СП

Технік зв’язку, військовослужбовець

від 20000 до 25000 грн

Бориспіль

Київ, ОКПП ДПСУ

Стрілець

від 20000 до 20000 грн

Запоріжжя

Бердянський РТЦК та СП

Офіцер юридичної служби

від 25000 до 75000 грн

Ужгород

33 ОМБр

--- ---