Аннотация
Как считают многие исследователи и публицисты, мир все больше и больше формируется алгоритмами, которые доставляют обществу направленно подобранную информацию. Не имеет значения, что это за информация, кто ее автор и даже соответствует ли она фактам. Все, на что нацелены эти алгоритмы, — это предоставление контента, предназначенного для того, чтобы пользователи дольше оставались на этих платформах.
Ядром этих алгоритмов стремительно становится так называемый «искусственный интеллект» (ИИ).Появившись всего десять лет назад, он, по оценке экспертов, «уже скоро будет влиять почти на все аспекты жизни». При этом Илон Маск назвал стремление к его разработке «вызовом демона». Военные видят в нем средство, открывающее широчайший горизонт в ведении войн и разведывательно-контрразведывательной практике. Политики возлагают большие надежды на способность систем ИИ консолидировать электорат в их поддержку, дать им новые рычаги влияния на социум. При этом созданные с опорой на его возможности политические чат-боты, дипфейкии др. средства пропаганды и дезинформации — суть области, которые еще требуют тщательного изучения и анализа.
На этом фоне значительный интерес представляют взгляды западных ученых и практиков на проблемы использования ИИ в дезинформации, его перспективы в контексте внутриполитической борьбы и обеспечения международной безопасности.
Литература
Artificial Intelligence Index Report 2024 // Stanford University. 2024. URL: https://aiindex.stanford.edu
Artime O. et al. Effectiveness of dismantling strategies on moderated vs. unmoderated online social platforms // Scientific Reports. 2020. URL: https://www.nature.com
Atkinson C. Hybrid Warfare and Societal Resilience: Implications for Democratic governance // Information & Security. 2018. URL: https://connections-qj.org
Biju P., Gayathri O. Self-Breeding Fake News // The International Journal of Information, Diversity & Inclusion. 2023. URL: https://www.jstor.org
Bischoff K. AI tools in hybrid warfare – A double-edged sword // Risk Intelligence. 30.05.2023. URL: https://www.riskintelligence.eu
Bradshaw S., Bailey H., Howard P. Industrialized Disinformation: 2020. Global Inventory of Organized Social Media Manipulation // Oxford Internet Institute, University of Oxford. 2021. URL: https://demtech.oii.ox.ac.uk/research/posts/industrialized-disinformation
Carlin N. et al. Extracting Training Data from Large Language Models. USENIX Security Symposium // 30th USENIX Security Symposium. 13.08.2021. URL: https://www.usenix.org/system/files/sec21-carlini-extracting.pdf
Carmi E. et al. Data citizenship: Rethinking data literacy in the age of disinformation, misinformation, and malinformation // Internet Policy Review. 09.2020. URL: https://www.econstor.eu/handle/10419/218938
Chesney R., Citron D. Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security // California Law Review. 2019. Pp. 1753–1820. URL: https://scholarship.law.bu.edu
Chopra R. The virtual Hindu Rashtra: Saffron nationalism and new media // NewsClick. 13.01.2020. URL: https://www.newsclick.in
Clayton K. et al. Real Solutions for Fake News? Measuring the Effectiveness of General Warnings and Fact Check Tags in Reducing Belief in False Stories on Social Media // Political Behavior. 2020. URL: https://link.springer.com
Content Authenticity Initiative // C2P2. 2023. URL: https://contentauthenticity.org/
Countries and Territories // Freedom House. 20.01.2022. URL: https://freedomhouse.org
Di Resta R. The Supply of Disinformation Will Soon Be Infinite // The Atlantic. 20.09.2020. URL: https://www.theatlantic.com
Ferrer C. et al. Deepfake Detection Challenge Results: An Open Initiative to Advance AI // AI at Meta. 12.06.2020. URL: https://ai.meta.com
Frenkel S., Davey A. In India, Facebook Grapples with an Amplified Version of Its Problems // New York Times. 23.10.2021. URL: https://www.nytimes.com
Ghahramani Z. et al. Advances in Neural Information Processing Systems 27 (NIPS 2014) // Neural Information Processing Systems Foundation, Inc. 2014. URL: https://mitpress.mit.edu
Goldstein J., Grossman S. How Disinformation Evolved in 2020 // Brookings. 4.01.2021. URL: https://www.brookings.edu/articles
Goodfellow I. et al. Generative Adversarial Nets // Universite de Montreal. DIRO. 10.06.2014. URL: https://arxive.org
Gregory S. Deepfakes and Synthetic Media: Survey of Solutions Against Malicious Usages // Witness. 30.06.2018. URL: https://blog.witness.org
Gursky J., Riedl M., Woolley S. The Disinformation Threat to Diaspora Communities in Encrypted Chat Apps // Brookings. 19.03.2021. URL: https://www.brookings.edu
Gursky J., Riedl M., Woolley S. The Disinformation Threat to Diaspora Communities in Encrypted Chat Apps // Brookings. 19.03.2021. URL: https://www.brookings.edu
Hao K. Google Has Released a Giant Database of Deepfakes to Help Fight Deepfakes // MIT Technology Review. 25.09.2019. URL: https://www.technologyreview.com
Hao K. Google Has Released a Giant Database of Deepfakes to Help Fight Deepfakes // MIT Technology Review. 25.09.2019. URL: https://www.technologyreview.com
Helmus T. Artificial Intelligence, Deepfakes, and Disinformation // RAND Corporation. 07.2022. URL: https://www.rand.org
Helmus T. Artificial Intelligence, Deepfakes, and Disinformation // RAND Corporation. 07.2022. URL: https://www.rand.org
Howtouber. OpenAI presented new settings for ChatGPT // Howtouber. 11.09.2023. URL: https://howtouber.top
Howtouber. OpenAI презентовал новые настройки для ChatGPT // Howtouber. 11.09.2023. URL: https://howtouber.top
Hwang T. Deepfakes: A Grounded Threat Assessment // Center for Security and Emerging Technology. 07.2020. URL: https://cset.georgetown.edu
Hwang T. Deepfakes: A Grounded Threat Assessment // Center for Security and Emerging Technology. 07.2020. URL: https://cset.georgetown.edu
Information Manipulation. The Alliance for Securing Democracy (ASD) // US German Marshall Fund. 2022. URL: https://securingdemocracy.gmfus.org
Information Manipulation. The Alliance for Securing Democracy (ASD) // US German Marshall Fund. 2022. URL: https://securingdemocracy.gmfus.org
Ireton C., Posetti J. Journalism, Fake News & Disinformation: Handbook for Journalism Education and Training // UNESCO. 2018. URL: https://unesdoc.unesco.org
Ireton C., Posetti J. Journalism, Fake News & Disinformation: Handbook for Journalism Education and Training // UNESCO. 2018. URL: https://unesdoc.unesco.org
Jankowicz N. et al. Malign Creativity: How Gender, Sex and Lies Are Weaponized Against Women Online // Wilson Center. 01.2021. URL: https://www.wilsoncenter.org
Jankowicz N. et al. Malign Creativity: How Gender, Sex and Lies Are Weaponized Against Women Online // Wilson Center. 01.2021. URL: https://www.wilsoncenter.org
Kasapoglu C., Kirdemir B. Artificial intelligence and the future of conflict // New Perspectives on Shared Security: NATO’s Next 70 Years // Carnegie Europe. 2019. URL: https://carnegieeurope.eu
Kasapoglu C., Kirdemir B. Artificial intelligence and the future of conflict // New Perspectives on Shared Security: NATO’s Next 70 Years // Carnegie Europe. 2019. URL: https://carnegieeurope.eu
Keane J. Post-truth Politics and Why the Antidote Isn't Simply 'Fact-checking' and Truth // The Conversation. 23.03.2018. URL: https://theconversation.com
Keane J. Post-truth Politics and Why the Antidote Isn't Simply 'Fact-checking' and Truth // The Conversation. 23.03.2018. URL: https://theconversation.com
Leibowicz C., Stray J., Saltz E. Manipulated Media Detection Requires More Than Tools: Community Insights on What’s Needed // Partnership on AI. 13.06.2020. URL: https://partnershiponai.org
Leibowicz C., Stray J., Saltz E. Manipulated Media Detection Requires More Than Tools: Community Insights on What’s Needed // Partnership on AI. 13.06.2020. URL: https://partnershiponai.org
Linvil D., Warren P. Understanding the Pro-China Propaganda and Disinformation Tool Set in Xinjiang // Lawfare. 06.06.2021. URL: https://www.lawfaremedia.com
Linvil D., Warren P. Understanding the Pro-China Propaganda and Disinformation Tool Set in Xinjiang // Lawfare. 06.06.2021. URL: https://www.lawfaremedia.com Literacy Rate by Country 2023 // World Population Review. 2023. URL: https://worldpopulationreview.com
Literacy Rate by Country 2023 // World Population Review. 2023. URL: https://worldpopulationreview.com
Manning C. Human Language Understanding & Reasoning // Daedalus. Spring 2022. URL: https://www.amacad.org
Manning C. Human Language Understanding & Reasoning // Daedalus. Spring 2022. URL: https://www.amacad.org
Mantello P., Ho M-T., Nguyen M-H., Vuong Q-H. Bosses without a heart: socio-demographic and cross-cultural determinants of attitude toward Emotional AI in the workplace // AI & Society. 2021 November. URL: https://doi.org/10.1007/s00146-021-01290-1
Mantello P., Ho M-T., Nguyen M-H., Vuong Q-H. Bosses without a heart: socio-demographic and cross-cultural determinants of attitude toward Emotional AI in the workplace // AI & Society. 2021 November. URL: https://doi.org/10.1007/s00146-021-01290-1
Mantello P., Tung M. Losing the information war to adversarial AI // Research Gate. 28.04.2023. URL: https://reserchgate
Mantello P., Tung M. Losing the information war to adversarial AI // Research Gate. 28.04.2023. URL: https://reserchgate
Mis-, Dis-, and Malinformation (MDM). The Cybersecurity and Infrastructure Security Agency (CISA) // An Official Website of the United States Government. 2022. URL: https://www.cisa.gov/mdm
Mis-, Dis-, and Malinformation (MDM). The Cybersecurity and Infrastructure Security Agency (CISA) // An Official Website of the United States Government. 2022. URL: https://www.cisa.gov/mdm
Mitchell A. How frightening new AI Midjourney creates realistic fake images // New York Post. 5.04.2023. URL: https://nypost.com
Mitchell A. How frightening new AI Midjourney creates realistic fake images // New York Post. 5.04.2023. URL: https://nypost.com
Moy W., Gradon K. Artificial intelligence in hybrid and information warfare // Research Gate. 2023(a). April. URL: https://www.researchgate.net
Moy W., Gradon K. Artificial intelligence in hybrid and information warfare: A double-edged sword // Artificial Intelligence and International Conflict in Cyberspace. Routledge. 2023(б). Pp. 47–74. URL: https://doi.org/10.4324/9781003284093-4
Moy W., Gradon K. Artificial intelligence in hybrid and information warfare // Research Gate. 2023(a). April. URL: https://www.researchgate.net
Moy W., Gradon K. Artificial intelligence in hybrid and information warfare: A double-edged sword // Artificial Intelligence and International Conflict in Cyberspace. Routledge. 2023(б). Pp. 47–74. URL: https://doi.org/10.4324/9781003284093-4
Авдеев Р. Китaйским IT гигантам запретили использовать ChatGPT — бота обвинили в дезинформации и манипуляциях в интересах США // 3D News. 22.02.2023. URL: https://3dnews.ru/1127506/alibaba-bytedance-i-drugim-kitayskim-itgigantam-pridyotsya-obyasnitsya-za-zakupki-iiuskoriteley-nvidia-h20
Тихонов В. Образовательные учреждения блокируют доступ к нейросети ChatGPT. Что дальше? // Российская газета. 07.01.2023. URL: https://rg.ru/2023/01/07/obrazovatelnye-uchrezhdeniia-blokiruiut-dostup-k-nejroseti-chatgpt-chto-dalshe.html
Уртаева Э. Б. Возможности и угрозы применения искусственного интеллекта (ИИ) в политических коммуникациях // Общество: политика, экономика, право. 2024. № 2. С. 44–51. URL: https://cyberleninka.ru/article/n/vozmozhnosti-i-ugrozy-primeneniya-iskusstvennogo-intellekta-ii-v-politicheskih-kommunikatsiyah
Фёдоров А. В. Дезинформация как инструмент и составная часть информационного противоборства Запада // Южно российский журнал социальных наук. 2022. Т. 23. № 2. С. 18 36.
Фёдоров А. В. Европейский «этичный искусственный интеллект»: от инструмента экономики к политической проблеме // Южно российский журнал социальных наук. 2021. Т. 22. № 2. URL: https://doi.org/10.31429/26190567-22-2-87-103
Фёдоров А. В. Угрожает ли искусственный интеллект когнитивной безопасности? // Caspium Securitatis: журнал каспийской безопасности. 2024. № 3. 01.10.2024. URL: https://www.caspiumsecuritatis.ru/index.php/csj/article/view/133
Чернышова Е. Первая западная страна заблокировала ChatGPT // RBK. 31.03.2023. URL: https://www.rbc.ru/technology_and_media/31/03/2023/6426da7e9a794757b5679bb7
Это произведение доступно по лицензии Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная.