Нечітка модель розпізнавання штучно створеного контенту соціальними класами в контексті інформаційної безпеки держави
DOI:
https://doi.org/10.24144/2616-7700.2026.49(2).230-237Ключові слова:
штучно створений контент, інформаційна безпека держави, соціальний клас, експертне оцінювання, нечітка модель, ризик, підтримка прийняття рішеньАнотація
У статті розглянуто науково-методичні аспекти розроблення нечіткої моделі оцінювання рівня розпізнавання штучно створеного контенту різними соціальними класами в контексті інформаційної безпеки держави. Актуальність дослідження зумовлена стрімким поширенням генеративного штучного інтелекту, зростанням обсягів штучно створеного контенту та підвищенням ризиків його маніпулятивного впливу на суспільство. Проаналізовано сучасні наукові підходи до виявлення AI-згенерованого контенту та обґрунтовано наукову прогалину, що полягає у недостатньому врахуванні соціально-демографічних характеристик громадян, їхньої здатності до розпізнавання такого контенту та відсутності інтегральних моделей для підтримки управлінських рішень.
Запропоновано нечітку модель, яка базується на формалізації кількісних і якісних характеристик соціального профілю громадян, опрацюванні їхніх відповідей щодо визначення авторства текстових новин та використанні вектора профілю соціального класу, що формується особою, яка приймає рішення. Модель реалізує процедуру ранжування респондентів за ступенем близькості до заданого соціального класу та дає змогу визначати інтегровану оцінку рівня розпізнавання штучно створеного контенту. На основі отриманого значення здійснюється лінгвістична інтерпретація рівня технічного ризику маніпулятивного впливу штучно створеного контенту на інформаційну безпеку держави. Використання функцій належності, мір близькості, вагових коефіцієнтів і згорткових процедур забезпечує гнучкість, формалізованість, відтворюваність та інтерпретованість результатів оцінювання.
Практична значущість отриманих результатів полягає у можливості використання запропонованої моделі органами державного управління, структурами у сфері кібербезпеки, освітніми установами та аналітичними центрами для виявлення вразливих соціальних груп, оцінювання рівня їхньої стійкості до маніпулятивного впливу штучно створеного контенту та обґрунтування цільових превентивних заходів у сфері інформаційної безпеки держави.
Спонсор дослідження
- Дослідження було проведено без фінансової підтримки.
Посилання
- Nan, X., Wang, Y., & Thier, K. (2022). Why do people believe health misinformation and who is at risk? A systematic review of individual differences in susceptibility to health misinformation. Social Science & Medicine, 314, 115398. https://doi.org/10.1016/j.socscimed.2022.115398
- Jakesch, M., Hancock, J. T., & Naaman, M. (2023). Human heuristics for AI-generated language are flawed. Proceedings of the National Academy of Sciences, 120(11), e2208839120. https://doi.org/10.1073/pnas.2208839120
- Diel, A., Lalgi, T., Schroter, I. C., MacDorman, K. F., Teufel, M., & Bauerle, A. (2024). Human performance in detecting deepfakes: A systematic review and meta-analysis of 56 papers. Computers in Human Behavior Reports, 16, 100538. https://doi.org/10.1016/j.chbr.2024.100538
- Mai, K. T., Bray, S., Davies, T., & Griffin, L. D. (2023). Warning: Humans cannot reliably detect speech deepfakes. PLOS ONE, 18(8), e0285333. https://doi.org/10.1371/journal.pone.0285333
- Groh, M., Sankaranarayanan, A., Singh, N., Kim, D. Y., Lippman, A., & Picard, R. W. (2024). Human detection of political speech deepfakes across transcripts, audio, and video. Nature Communications, 15(1), 7629. https://doi.org/10.1038/s41467-024-51998-z
- Chein, J. M., Martinez, S. A., & Barone, A. R. (2024). Human intelligence can safeguard against artificial intelligence: Individual differences in the discernment of human from AI texts. Scientific Reports, 14, 25989. https://doi.org/10.1038/s41598-024-76218-y
- Lovato, J., St-Onge, J., Harp, R., Salazar Lopez, G., Rogers, S. P., Ul Haq, I., Hebert-Dufresne, L., & Onaolapo, J. (2024). Diverse misinformation: Impacts of human biases on detection of deepfakes on networks. npj Complexity, 1, 5. https://doi.org/10.1038/s44260-024-00006-y
- Li, F., & Yang, Y. (2024). Impact of artificial intelligence–generated content labels on perceived accuracy, message credibility, and sharing intentions for misinformation: Web-based, randomized, controlled experiment. JMIR Formative Research, 8, e60024. https://doi.org/10.2196/60024
- Goldstein, J. A., Chao, J., Grossman, S., Stamos, A., & Tomz, M. (2024). How persuasive is AI-generated propaganda? PNAS Nexus, 3(2), pgae034. https://doi.org/10.1093/pnasnexus/pgae034
- Salvi, F., Horta Ribeiro, M., Gallotti, R., & et al. (2025). On the conversational persuasiveness of GPT-4. Nature Human Behaviour, 9, 1645–1653. https://doi.org/10.1038/s41562-025-02194-6
##submission.downloads##
Опубліковано
Як цитувати
Номер
Розділ
Ліцензія
Авторське право (c) 2026 А. А. Матей
Ця робота ліцензується відповідно до Creative Commons Attribution 4.0 International License.
Автори залишають за собою право на авторство своєї роботи та передають журналу право першої публікації цієї роботи на умовах ліцензії Creative Commons Attribution License, котра дозволяє іншим особам вільно розповсюджувати опубліковану роботу з обов'язковим посиланням на авторів оригінальної роботи та першу публікацію роботи у цьому журналі.
