Застосування інтелектуальних систем для виявлення згенерованого та маніпулятивного контенту в соціальних мережах

Abstract

Резюме. У сучасному інформаційному суспільстві соціальні мережі стали одним із основних каналів комунікації, впливаючи на суспільну думку, політичні процеси та рівень інформаційної безпеки. Зі зростанням обсягів контнту та поширенням технологій генерації штучного медіа (deepfake, текстові генератори, синтетичні зображення) актуальним постає питання автоматизованого виявлення маніпулятивної та згенерованої інформації [1]. Метою роботи є розробка інтелектуальної системи для аналізу та класифікації контенту в соціальних мережах із використанням методів штучного інтелекту, машинного навчання та обробки природної мови (NLP) [2]. У рамках дослідження передбачено створення програмного модуля, здатного розпізнавати потенційно небезпечний контент на основі таких характеристик: • мовні та стилістичні патерни, притаманні для синтетичних текстів, створених генеративними моделями (наприклад, GPT або Claude); • емоційне забарвлення та полярність повідомлень, що дозволяє виявити маніпулятивні формулювання [1]; • структурні та часові особливості поширення повідомлень, які можуть свідчити про скоординовану дезінформаційну кампанію [2]. Для реалізації системи планується використання сучасних архітектур глибинного навчання, зокрема трансформерів (BERT, RoBERTa), що забезпечують високу точність аналізу текстових даних. Алгоритм класифікації базується на поєднанні лінгвістичних ознак та метаданих користувацької активності. На етапі моделювання використовуються методи супервізованого навчання з формуванням навчальної вибірки, яка містить приклади достовірного та маніпулятивного контенту [2].