Is Artificial Intelligence Opening a New Era of Disinformation?
Understanding the role of AI using the disinformation chain as a new theoretical framework
Abstract
This paper examines the relationship between artificial intelligence (AI) and disinformation and seeks to answer whether AI is opening a new era in disinformation. The author conducts a systematic investigation, introducing disinformation chain as a new concept. Using this theoretical framework, the paper describes the motivation, creation, dissemination, detection, reception and wider social impact of disinformation. It also describes the application of AI in these steps. The role of AI is particularly significant in the dissemination and social impact of disinformation, while the emergence of generative AI has not proved to be decisive in the creation of disinformation, contrary to prior expectations. If we can talk about a new era, it is more related to social media algorithms and participatory propaganda with the active involvement of people, which has led to the emergence of a post-truth era since 2016. The article also proposes a set of actions for effective measures against disinformation along the disinformation chain. Finally, the author concludes by expressing his belief that the statement ‘we cannot believe our eyes and ears’ crystallises not as a fatalistic creed but as a healthy scepticism, since no society can function without human trust.
References
Days Until Election 2024. Office of the Director of National Intelligence, 2024. július 29. https://tinyurl.com/2rakp347
th US Congress. S. 1596, 2023. május 13. https://tinyurl.com/pxnvs4zm
Aczél, Petra – Veszelszki, Ágnes (szerk.): Deepfake: a valótlan valóság. Budapest, Gondolat, 2023.
Adami, Marina: How AI-generated disinformation might impact this year’s elections and how journalists should report on it. Reuters Institute, 2024. március 15. https://tinyurl.com/yc3rrxtz
Amaral, Ernesto F. L.: Popular Vote and Voter Turnout in the 2016, 2020, and 2024 US Presidential Elections. Center for Open Science, 2024. https://doi.org/10.31219/osf.io/gbsdy
Az Igazi Mao (1995): https://www.imdb.com/title/tt0109184/
Azgin, Bilge – Kiralp, Sevki: Surveillance, Disinformation, and Legislative Measures in the 21st Century: AI, Social Media, and the Future of Democracies. Social Sciences, Vol. 13., No. 10. (2024) https://doi.org/10.3390/socsci13100510
Bajomi-Lázár, Péter: Álhírek és igaz hírek – Definíciós kérdések. In: Çakır-Somlyai, Özge (szerk.): A dezinformáció jelensége – tanulmánygyűjtemény. (Mérték Füzetek 33.) Budapest, Mérték Médiaelemző Műhely, 2023.
Barts, Lívia: Vizuális információs zavarok – típusok és módszerek. In: Çakır-Somlyai, Özge (szerk.): A dezinformáció jelensége – tanulmánygyűjtemény. (Mérték Füzetek 33.) Budapest, Mérték Médiaelemző Műhely, 2023.
Bayer, Judit: AI and disinformation – The technological and legal limits of content regulation in the context of disinformation. Legal Tech, 2022/2. https://tinyurl.com/34pphenr
Bayer, Judit: Disinformation and AI in the AV Sector. In: AI and the audiovisual sector: navigating the current legal landscape. European Audiovisual Observatory, Strasbourg, 2024. https://tinyurl.com/3stnzt88
Biden Says He’s Seen ’Mind-Blowing’ AI Deep Fakes of Himself. Bloomberg Quicktake, 2023. október 31. https://www.youtube.com/watch?v=ClDXoUoL9Qo
Bimber, Bruce: Digital Media in the Obama Campaigns of 2008 and 2012: Adaptation to the Personalized Political Communication Environment. Journal of Information Technology & Politics, Vol. 11., No. 2. (2014) https://doi.org/10.1080/19331681.2014.895691
Bontridder, Noémi – Poullet, Yves: The role of artificial intelligence in disinformation. Data & Policy, Vol. 3., e32 (2021) https://doi.org/10.1017/dap.2021.20
Çakır-Somlyai, Özge (szerk.): A dezinformáció jelensége – tanulmánygyűjtemény. (Mérték Füzetek 33.) Budapest, Mérték Médiaelemző Műhely, 2023. https://tinyurl.com/dfpurnw3
Çakır-Somlyai, Özge: Dezinformáció és demokrácia – A jelenlegi helyzet és a jövőbeli lehetőségek vizsgálata. In: Çakır-Somlyai, Özge (szerk.): A dezinformáció jelensége – tanulmánygyűjtemény. (Mérték Füzetek 33.) Budapest, Mérték Médiaelemző Műhely, 2023.
Carrilho Santos, Fátima C.: Artificial Intelligence in Automated Detection of Disinformation: A Thematic Analysis. Journalism and Media, Vol. 4., No. 2. (2023) https://doi.org/10.3390/journalmedia4020043
Chen, Heather – Magramo, Kathleen: Finance worker pays out $25 million after video call with deepfake ‘chief financial officer’. CNN, 2024. február 4. https://tinyurl.com/yeyvxycv
Chuai, Yuwei – Tian, Haoye – Pröllochs, Nicolas – Lenzini, Gabriele: Did the Roll-Out of Community Notes Reduce Engagement With Misinformation on X/TwitterProceedings of the ACM on Human-Computer Interaction, Vol. 8., No. CSCW2. (2024) https://doi.org/10.1145/3686967
Cseh álom (Český sen – 2004). https://www.imdb.com/title/tt0402906/
Dawson, Jessica: Microtargeting as information warfare. The Cyber Defense Review, Vol. 6., No. 1. (2021) https://www.jstor.org/stable/26994113
Demartini, Gianluca – Mizzaro, Stefano – Spina, Damiano: Human-in-the-loop Artificial Intelligence for Fighting Online Misinformation: Challenges and Opportunities. Bulletin of the IEEE Computer Society Technical Committee on Data Engineering, Vol. 43., No. 3. (2020) https://tinyurl.com/24tzb3s4
Elliott, Vittoria: 2024 Is the Year of the Generative AI Election. Wired, 2024. május 30. https://www.wired.com/story/2024-is-the-year-of-generative-ai-elections/
Elliott, Vittoria: The Wired AI Elections Project. Wired, May 30, 2024. https://www.wired.com/story/generative-ai-global-elections/
Falyuna, Nóra – Feher, Katalin – Demeter, Márton – Szüdi, Gábor – Uscinski, Joseph E.: Against Disinformation: Bridging Science and Public Discourse. Információs Társadalom Vol. 24., No 2. (2024) https://dx.doi.org/10.22503/inftars.XXIV.2024.2.4
Ford, Martin: Jövőnk a robotok korában – Hogyan alakítja a mesterséges intelligencia az életünket? Budapest, HVG Könyvek, 2022. 207.
Froehlich, Thomas J.: A disinformation-misinformation ecology: The case of Trump. In: Ján Visňovský – Jana Radosinská (szerk.): Fake News is Bad News-Hoaxes, Half-Truths and the Nature of Today’s Journalism. Intechopen, 2021. https://doi.org/10.5772/intechopen.95000
Gálik, Mihály: A hálózati hírmédia sajátosságai, különös tekintettel a visszhangkamra és a szűrőbuborék-jelenségre. In Medias Res, 2019/2. http://real.mtak.hu/108287/1/imr-2019-02-08-jav-1.pdf
Gergely, Máté: Pufi dzsekis Ferenc pápa és társai: így leplezzük le az MI-képeket. Világgazdaság, 2024. április 13. https://tinyurl.com/3r4hry7a
Gilbert, David: How Disinformation From a Russian AI Spam Farm Ended up on Top of Google Search Results. Wired, 2024. július 9. https://tinyurl.com/5n86ptb7
Gracia, Shanay: Americans in both parties are concerned over the impact of AI on the 2024 presidential campaign. Pew Research Center, 2024. szeptember 19. https://tinyurl.com/wjemsv3r
Gyermekpornográfiának is minősülhet az általános iskolai osztálytársról készült deepfake videó. RTL, 2024. május 16. https://tinyurl.com/2xdrh9k2
Haidt, Jonathan: The righteous mind: Why good people are divided by politics and religion. Vintage, 2012.
Hammer, Ferenc: Osztálytermi fórum a dezinformációról. In: Çakır-Somlyai, Özge (szerk.): A dezinformáció jelensége – tanulmánygyűjtemény. (Mérték Füzetek 33.) Budapest, Mérték Médiaelemző Műhely, 2023.
Hao, Karen: Deepfake Porn is Ruining Women’s Lives. Now the Law May Finally Ban it. MIT Technology Review, 2021. február 12. https://tinyurl.com/5n746f2h
Harari, Yuval Noah: Nexus – Az információs hálózatok rövid története a kőkorszaktól az MI-ig. Budapest, Animus, 2024.
Hartmann, Théophane: Commission opens TikTok investigation over Romanian presidential elections disinformation. Euractiv, 2024. december 17. https://tinyurl.com/y8shvk3y
Haskins, Caroline: Florida Middle Schoolers Arrested for Allegedly Creating Deepfake Nudes of Classmates. Wired, 2024. március 8. https://tinyurl.com/y8pcz95f
Horváth, Kata: Álhírek leleplezése – Tényellenőrzés a világban és Magyarországon. In: Çakır-Somlyai, Özge (szerk.): A dezinformáció jelensége – tanulmánygyűjtemény. (Mérték Füzetek 33.) Budapest, Mérték Médiaelemző Műhely, 2023.
Howard, Philip N. – Ganesh, Bharath – Liotsiou, Dimitra – Kelly, John – François, Camille: The IRA, Social Media and Political Polarization in the United States, 2012-2018. Computational Propaganda Research Project. University of Oxford, 2018. https://tinyurl.com/3xmfx2nw
Hughes, Heather C. – Waismel-Manor, Israel: The Macedonian Fake News Industry and the 2016 US Election. PS: Political Science & Politics, Vol. 54., No. 1. (2021) https://doi.org/10.1017/S1049096520000992
Ináncsi, Mátyás: Közösségi média és dezinformáció. Military and Intelligence Cybersecurity Research Paper, 2023/7. https://tinyurl.com/bdfepxc3
Jamriskó, Tamás: Mockumentary – Műfaj a valóság határán – Audiomanipulációs gyakorlatok. In. Çakır-Somlyai (szerk.) i. m.
Krekó, Péter: Tömegparanoia 2.0 – Összeesküvés-elméletek, álhírek és dezinformáció. Budapest, Athaneum, 2023.
Nagy, Krisztina: Hihetünk-e még a szemünknek? Mit és hogyan tanítsunk a dezinformáció és a mesterséges intelligencia kapcsolatáról az Alfa és a Z generációnak? Konferencia előadás. Mesterséges intelligencia – filozófia, jog és dezinformáció konferencia, Budapest, 2024. november 20. https://tinyurl.com/4mzcm9nw
Német, Szilvi: „Értelmezni se tudom, mi az a liberális tényellenőr” – Facebook-hírkommentárok a tényellenőrző újságírásról. Médiakutató, 2023/3. https://tinyurl.com/y7bmpwzy https://doi.org/10.55395/MK.2023.3.9
Német, Szilvi: Szürkezónás médiumok, álcivil kampányok és részvételi propaganda a közösségi média platformokon. In: Çakır-Somlyai, Özge (szerk.): A dezinformáció jelensége – tanulmánygyűjtemény. (Mérték Füzetek 33.) Budapest, Mérték Médiaelemző Műhely, 2023.
Nikolic, Pavel: A visegrádi négyek és a dezinformáció. CEU Democracy Institute, év nélkül. https://cmds.ceu.edu/visegradi-negyek-es-dezinformacio
O’Reilly, Tim: WTF – Miért rajtunk múlik, hogy mit hoz a jövő? Budapest, Typotex, 2018.
Olajfalók (Ropáci – 1988). https://www.imdb.com/title/tt0096010/
Perrigo, Billy: Exclusive: New Research Shows AI Strategically Lying. Time, 2024. december 18. https://time.com/7202784/ai-research-strategic-lying
'Post-truth' declared word of the year by Oxford Dictionaries. BBC, 2016. november 16. https://www.bbc.com/news/uk-37995600
Russell, Stuart – Norvig, Peter: Mesterséges intelligencia – Modern megközelítésben. Budapest, Panem Könyvek, 2023.
Sedova, Katerina – McNeill, Christine – Johnson, Aurora – Joshi, Aditi – Wulkan, Ido: AI and the Future of Disinformation Campaigns Part 1: The RICHDATA Framework. Center for Security and Emerging Technology, December 2021. https://tinyurl.com/5n78ucm2
Social Media, Disinformation, and AI: Transforming the Landscape of the 2024 U.S. Presidential Political Campaigns. The SAIS Review of International Affairs, 2025. január 14. https://tinyurl.com/muuv722u
Sokkoló, mérgező algoritmusokra figyelmeztet a világháló atyja. HVG, 2024. december 8. https://hvg.hu/tudomany/20241208_tim-berners-lee-interju-kozossegi-media-veszelyei
Stroebel, Laura – Llewellyn, Mark – Hartley, Tricia – Shan Ip, Tsui – Ahmed, Mohiuddin: A systematic literature review on the effectiveness of deepfake detection techniques. Journal of Cyber Security Technology, Vol. 7., No. 2. (2023) https://www.tandfonline.com/doi/full/10.1080/23742917.2023.2192888
Sükösd, Miklós – Dányi, Endre: E-mail és SMS a 2002-es választási kampányban. eDemokrácia Műhely, év nélkül. https://www.edemokracia.hu/program/smskampany.php
The Global Risks Report. World Economic Forum (WEF), 2024. https://www3.weforum.org/docs/WEF_The_Global_Risks_Report_2024.pdf
Vaccari, Cristian – Chadwick, Andrew: Deepfakes and disinformation: Exploring the impact of synthetic political video on deception, uncertainty, and trust in news. Social media + society, Vol. 6., No. 1. (2020) https://doi.org/10.1177/2056305120903408
Valódi hamisítvány: A hamisítvány és a hamisítás története. https://tinyurl.com/4aheym2p
Veszelszki, Ágnes: Az álhírek extra- és intralingvális jellemzői. Századvég, 2017/2. https://tinyurl.com/3b3ka943
Vincent, James: Watch Jordan Peele use AI to make Barack Obama deliver a PSA about fake news. The Verge, 2018. április 17. https://tinyurl.com/2f7mb9b9
Wanless, Alicia – Berk, Michael: Participatory Propaganda – The Engagement of Audiences in the Spread of Persuasive Communications. Social Media & Social Order, Culture Conflict 2.0 Conference, Oslo. 2017 november. https://tinyurl.com/ycxbyyh8
Wardle, Claire – Derakhshan, Hossein: Information Disorder: Toward an Interdisciplinary Framework for Research and Policymaking. Council of Europe Report. Strabourg, 2017. https://tinyurl.com/4z7se79j
Wardle, Claire: Fake News. It’s Complicated. First Draft, 2017. február 16. https://firstdraftnews.org/articles/fake-news-complicated/
Z. Karvalics, László: Informatorium – Word Guide to Contemporary Information Culture. Budapest, Tinta Publishing House, 2017.
Copyright (c) 2025 Róbert Pintér
This work is licensed under a Creative Commons Attribution 4.0 International License.
