Сьогодні — він командир 431-й окремого батальйону безпілотних систем: зграї, яка воює за принципом «не числом, а інтелектом». АрміяInform він розповів про те, як народжується культура, в якій ніхто…
Від початку широкомасштабного нападу російської федерації на Україну одним із головних джерел отримання інформації практично миттєво став Telegram. Інформаційні канали і групи на цій платформі набули надзвичайної популярності серед українців. Цим негайно скористався ворог, поширюючи через Telegram дезінформацію та шкідливі пропагандистські наративи, а також збираючи за його допомогою важливу інформацію.
Часто джерелами важливої для ворога інформації ставали (переважно несвідомо) користувачі, які в коментарях на Telegram-каналах чи у дописах у Telegram-групах публікували чутливі чи навіть критично важливі дані про переміщення підрозділів ЗСУ або місця ударів (так звані прильоти) російських ракет.
Зупинити цю несвідому допомогу ворогу покликаний створений командою українських програмістів чатбот UA Anti Spam Bot. Міністерство цифрової трансформації України згадало його в переліку корисних сервісів для інформаційної боротьби з ворогом, зазначивши:
Чатбот UA Anti Spam Bot може автоматично видаляти з Telegram-чатів повідомлення, що містять назви локацій міста, укриттів, а також ключові слова переміщення військ. Його можуть встановити адміністратори Telegram-чатів. Бот активується в момент, коли хтось із учасників чату або групи напише повідомлення, що містить стоп-слово.
Про створення, функціонал та перспективи розвитку UA Anti Spam Bot кореспонденту АрміяInform розповіли його розробники — Дмитро Вакуленко, Вадим Зінченко, Євген Опанасенко та Олексій Мінаков.
— Розкажіть, будь ласка, про команду, яка створила UA Anti Spam Bot, його мету та завдання, для яких він призначений і які спроможний виконувати.
— Ми належимо до команди IT-компанії Master of Code Global, представленої в Україні офісами в Києві та Черкасах. UA Anti Spam Bot є нашим волонтерським проєктом, проявом корпоративної соціальної відповідальності. Він поширюється на безоплатній основі. Сама ідея створити такий інструмент з’явилась у нас на початку широкомасштабного вторгнення, за два дні після нього. Ми бачили в Telegram, що люди дуже часто писали про якісь події, ракетні удари або повідомляли іншу інформацію, яку не можна було повідомляти, у відкритих чатах. Тоді й виникла ідея створення чатбота, який міг би знаходити й автоматично видаляти небезпечні повідомлення.
Перший фільтр, який ми створили, стосувався ракетних ударів, точніше згадок про місця «прильотів». Він працює щодо дописів у Telegram-групах й у коментарях на Telegram-каналах, які фактично є такою самою групою, тільки підключеною до каналу. Бот не реагує на дописи адміністраторів каналу, оскільки на каналі розміщують інформацію особи, які мають відповідально ставитись до інформації.
— Яким є механізм чи алгоритм дії бота, на що він реагує? Це якісь ключові слова чи може навіть зображення чи відео?
— Від самого початку в нас був фільтр по слову, яке з високою ймовірністю належить до чутливої інформації. Це були слова «вибух» або «приліт» з варіаціями написання, похідними та подібними до них, поєднані із зазначенням локації — наприклад, назва міста і згадка школи, автозаправки чи ще якогось об’єкта. Цю початкову ітерацію фільтра для чатбота ми розробили буквально за два перші дні.
Однак невдовзі з’ясувалась проблема, що контекст повідомлення може бути зовсім різним. І те слово, яке ми вважали ключовим для видалення повідомлення, в інших контекстах могло мати нейтральне значення, однак наш бот видаляв повідомлення з ним, тобто працював неточно.
Тому для створення наступної ітерації чатбота ми почали тренувати нейромережу, яка вже вміла враховувати контекст. Для цього було зібрано дуже великий датасет із 20 тисяч повідомлень з небезпечною чи небажаною для поширення інформацією. Це були як реальні повідомлення у коментарях до українських Telegram-каналів, так і вигадані нами, і навіть узяті з рашистських пабліків. Звідти ми брали тексти про те, де стались «прильоти» і навчали на них чатбот тому, що такі тексти необхідно видаляти. Водночас з іншої бази даних ми навчали чатбот тому, які повідомлення є дозволеними, бо не містять забороненої до поширення інформації.
— Скільки часу тривало це навчання чатбота і наскільки успішним воно виявилось?
— Близько трьох місяців ми збирали базу даних прикладів й інтенсивно навчали чатбот відрізняти повідомлення, які необхідно видаляти, від тих, які можна лишати. Вже до початку літа 2022 року ми досягли помітних бажаних результатів і почали звертати увагу на інші можливості чатбота, розробляти додатковий функціонал. Річ у тім, що до нас почали звертатись адміністратори Telegram-каналів з проханням додати до чатбота певні нові функції. Завдяки цьому чатбот, який початково був створений як фільтр стратегічної інформації, поступово перетворився на потужний інструмент для адміністрування груп в Telegram, який постійно вдосконалюється за рахунок нових функцій. Тому, на наш погляд, можна впевнено сказати, що навчання штучного інтелекту виявилось цілком успішним.
— Як ви запобігаєте спробам користувачів обійти UA Anti Spam Bot, вдатися до якихось хитрощів, щоб обдурити штучний інтелект?
— Деякі користувачі намагаються у своїх повідомленнях замість кириличних літер використовувати візуально схожі літери латиниці або цифри замість літер. Внаслідок цього звичайний аналізатор тексту не зрозуміє, що це за слово. Ми про це знали і розробили спеціальний алгоритм, який перевіряє, наскільки слово схоже на англійську, російську чи українську мову. І якщо у слові всі літери кириличні й одна з латиниці, то алгоритм змінює її на візуально схожу кириличну літеру й коректно зчитує текст.
Є, звичайно, й інші хитрощі, до яких можна вдатися, однак кожна з них потребує часу користувача для підготовки повідомлення, інколи доволі тривалого. Тобто це має бути спеціально поставлена мета поширити інформацію через певний паблік саме так, щоб обійти встановлений чатбот. Випадково таке зробити неможливо, і користувачі, які зазвичай поширюють інформацію не задумуючись, точно не будуть цього робити спеціально — витрачати час на те, щоб вигадати, як так схитрувати, щоб обійти бот.
— Чи може чатбот самонавчатися?
— Така опція в нас не передбачена, бо це потенційно небезпечно — у певний момент бот може піти у своєму навчанні кудись не туди, і це може суттєво спотворити його роботу та призвести до небажаних результатів. Оскільки в нас дуже велика аудиторія, ми вирішили лишити цей процес контрольованим — для навчання чатбота в нас є адвайзер, тобто людина, яка стежить за навчанням бота і навчає його мануально.
Зараз ми на тому етапі, коли нейромережа UA Anti Spam Bot достатньо якісна для виконання покладених на неї завдань. Вдосконалення можливе й воно відбувається, однак наявний на сьогодні рівень задовольняє і нас як розробників, й адміністраторів груп та каналів як користувачів.
— Скільки каналів та груп у Telegram встановили на сьогодні UA Anti Spam Bot, яку кількість користувачів вони охоплюють?
— Нині наш бот встановлений у понад тисячі груп та каналів у Telegram, сумарна аудиторія яких становить понад 650 тисяч користувачів. Тут треба врахувати, що методика підрахунку кількості користувачів для каналів та груп різна. Якщо у групі, наприклад, 10 тисяч користувачів, то ми враховуємо їх усіх, бо кожен із них у будь-який момент може написати повідомлення. Якщо ж на каналі, наприклад, 100 тисяч, а в чаті каналу лише одна тисяча, то ми рахуємо саме цю одну тисячу, бо тільки ці користувачі можуть залишати повідомлення.
Насправді ж потенційно до чату каналу можуть долучись усі 100 тисяч підписників каналу. Тому 650 тисяч — це мінімальна кількість, в реальності потенційне охоплення чатбота є набагато більшим. Думаємо, можна сміливо говорити про кілька мільйонів користувачів Telegram, охоплених UA Anti Spam Bot.
читайте також:
— Які перспективи розвитку UA Anti Spam Bot, чи є у вас плани на майбутнє після перемоги відійти від суто воєнної проблематики?
— Вже зараз ми працюємо над новими функціями чатбота. Наприклад, дуже затребуваною останнім часом стала опція автоматичного видалення повідомлень від шахраїв, які намагаються скористатись тим, що мільйони людей в Україні опинились у кризовій ситуації. Під виглядом вигаданих міжнародних організацій чи фондів шахраї обманом отримують у довірливих людей інформацію про їхні банківські картки і знімають з них усі кошти. Наш чатбот уже вміє автоматично видаляти такі шахрайські повідомлення, і ми продовжуємо працювати над вдосконаленням цієї опції.
