Nemzetközi szabályozás szükségessége az autonóm fegyverekre
Absztrakt
A mesterséges intelligencia (MI) katonai felhasználása, különösen az autonóm fegyverrendszerekben, jelentős jogi és etikai dilemmákat vet fel, többek között az emberi méltóság és a felelősségre vonhatóság tekintetében. A tanulmány arra a következtetésre jutott, hogy e fegyverrendszerek rendszeresítése komoly kihívást támaszt az elővigyázatosság, a megkülönböztetés és az arányosság elvéhez való igazodás terén, jelentős aggályokat generálva az elszámoltathatósággal kapcsolatban. Az emberi felügyelettől teljesen mentes rendszerek növelik a kockázatokat, különösen a visszaélések lehetősége, illetve az autonóm fegyverek inherent kiszámíthatatlansága és a társadalmi elfogadottságuk hiánya miatt. Mesterséges intelligencia további katonai felhasználása, például hírszerzés és logisztika terén, viszont nem jelent megnövekedett kockázatot. Ezen túlmenően szabályozási hiányosságokat azonosított, amelyek aláhúzzák az átfogó nemzetközi szabályozás szükségességét. A tanulmány az emberi felügyelet fontosságát kiemelő magyar belső szabályozást is tárgyalja, pozitív jogi szabályozási példát mutatva a szabályozási törekvésekhez.
Hivatkozások
Black, Scotty; Darken, Christian 2024. Scaling Intelligent Agents in Combat Simulations for Wargaming. arXiv:2402.06694 https://doi.org/10.48550/ARXIV.2402.06694
Crootof, Rebecca 2015. The Killer Robots Are Here: Legal and Policy Implications. Cardozo Law Review, 36 (5): 1837–1915.
Docherty, Bonnie 2012. Losing Humanity. The Case agains Killer Robots. Human Rights Watch, IHRC 2012. November. https://www.hrw.org/report/2012/11/19/losing-humanity/case-against-killer-robots.
Etzioni, Amitai 2018. Pros and Cons of Autonomous Weapons Systems (with Oren Etzioni). In Etzioni, Amitai: Happiness Is the Wrong Metric. A Liberal Communitarian Response to Pupulism. 253–263. Library of Public Policy and Public Administration 11, Springer Cham. https://doi.org/10.1007/978-3-319-69623-2_16
Farkas Ádám 2023. A kibertér mûveleti tevékenységek egyes szabályozási és államszervezési alapkérdései. In Farkas Ádám, Kelemen Roland (szerk.): A fejlődés fogságában: Tanulmányok a kibertér és a mesterséges intelligencia 21. századi állam- és jogfejlesztési, társadalmi, biztonsági kapcsolódásai köréből. 77–95. Budapest: Gondolat Kiadó.
Frederick, Brian; Rodgers, Daniel; Martin, John; Hutchison, John 2024. Robotic IED Detection using Supervised Autonomy to Reduce Operator Stress and Fatigue. 2024-01–3161. Michigan, United States: National Defense Industrial Association. https://doi.org/10.4271/2024-01-3161
Güneysu, Gökhan 2024a. Autonomous Weapon Systems and The Humanitarian Principle of Distinction. Annales de La Faculté de Droit d’Istanbul, (74): 133–153. https://doi.org/10.26650/annales.2024.74.0007
Güneysu, Gökhan 2024b. Lethal Autonomous Weapon Systems and Automation Bias. Yuridika, 39 (3): 395–424. https://doi.org/10.20473/ydk.v39i3.55188
Heyns, Christof 2013. Report of the Special Rapporteur on Extrajudicial, Summary or Arbitrary Executions. Genf, ENSZ, 2013. április 9. https://digitallibrary.un.org/record/755741?v=pdf
Horyñ, Wojciech; Bielewicz, Marcin; Joks, Adam 2021. AI-Supported Decision-Making Process in Multidomain Military Operations. In Visvizi, Anna; Bodziany, Marek (eds.): Artificial Intelligence and Its Contexts. 93–107. Advanced Sciences and Technologies for Security Applications. Springer Cham. https://doi.org/10.1007/978-3-030-88972-2_7. In the Loop Definition & Usage Examples. 2024. https://www.dictionary.com/browse/in--the--loop
Kádár, Pál 2023. A kibertér és a kibertérmûveleti képességek jelentősége a védelmi és biztonsági tevékenységek összehangolásának fejlesztésében. In: Farkas Ádám, Kelemen Roland (szerk.): A fejlődés fogságában: Tanulmányok a kibertér és a mesterséges intelligencia 21. századi állam- és jogfejlesztési, társadalmi, biztonsági kapcsolódásai köréből. Budapest: Gondolat Kiadó. https://doi.org/10.53555/kuey.v30i4.2377
Katiyar Nirvikar Dr.; Mr. Somendra Tripathi; Mr. Praveen Kumar; Mr. Shekhar Verma; Dr. Alok Kumar Sahu; Dr. Shailesh Saxena 2024. AI and Cyber-Security: Enhancing threat detection and response with machine learning. Educational Administration Theory and Practices, 30 (4): 6273–6282.
Kelemen Roland 2024. Az Egyesült Államok hírszerző tevékenységének alkotmányos alapjai és kiberbiztonsági kapcsolódásai. Jog Állam Politika: Jog- és politikatudományi Folyóirat, 16 (2): 49–61. https://doi.org/10.53555/kuey.v30i4.2377
Khan, Ijaz, Abdul Rahim Ahmad, Nafaa Jabeur, Mohammed Najah Mahdi 2021. An Artificial Intelligence Approach to Monitor Student Performance and Devise Preventive Measures. Smart Learning Environments, 8 (17). Published:08 September 2021. https://doi.org/10.1186/s40561-021-00161-y.
Kömlődi Ferenc 2024. Nemzetközi irányelveket dolgoztak ki a katonai mesterséges intelligenciára. ICT Global (blog), 2024. október 15. https://ictglobal.hu/technologia/nemzetkozi-iranyelveket-dolgoztak-ki-a-katonai-mesterseges-intelligenciara/
Lakkshmanan, Ajanthaa; S. Amudhan; Smita M. Gaikwad; Amit Kumar Tyagi 2024. Further Research Opportunities and Challenges Towards AI-Driven Tools for Modern Generation. In Fields, Ziska (ed.): Advances in Educational Technologies and Instructional Design. 69–100. IGI Global. https://doi.org/10.4018/979-8-3693-2418-9.ch004
Liaw, Sok Ying; Jian Zhi Tan; Siriwan Lim; Wentao Zhou; John Yap; Rabindra Ratan; Sim Leng Ooi; Shu Jing Wong; Betsy Seah; Wei Ling Chua 2023. Artificial Intelligence in Virtual Reality Simulation for Interprofessional Communication Training: Mixed Method Study. Nurse Education Today, (2023. március) 122-105718. https://doi.org/10.1016/j.nedt.2023.105718
Liu, Jialing 2024. Artificial Intelligence and International Law: The Impact of Emerging Technologies on the Global Legal System. Economics, Law and Policy, 7 (2): 73–82. https://doi.org/10.22158/elp.v7n2p73
Lytvyn, Vasyl, Nazar Oleksiv, és Mariia Nazarkevych 2024. Tanks detection and recognition based on custom dataset model. In 2024 IEEE 4th International Conference on Smart Information Systems and Technologies (SIST). 583–86. Astana, Kazakhstan: IEEE. https://doi.org/10.1109/SIST61555.2024.10629455
Marsili, Marco 2024. Lethal Autonomous Weapon Systems: Ethical Dilemmas and Legal Compliance in the Era of Military Disruptive Technologies. International Journal of Robotics and Automation Technology, 2024 (11): 63–68. https://doi.org/10.31875/2409-9694.2024.11.05.
The Responsible AI in the Military Domain (REAIM) Summit 2024. View Ministry News Ministry of Foreign Affairs, Republic of Korea. 2024. szeptember 12. https://tls.mofa.go.kr/eng/brd/m_5674/view.doseq=321057.
Öztatlc, Mustafa; Seçil Erolu; Hülya Öztatlc; Mehmet Göl 2024. Artificial Intelligence in Diagnosis and Treatment. Experimental and Applied Medical Science, 5 (2) 107–118. https://doi.org/10.46871/eams.1470170
Piros Attila 2020. A mesterséges intelligencia jelenkori és jövőbeni lehetőségei. Kovács István (szerk.): Szemelvények „A digitális világ hatása, a rendészeti szervek vezetés-irányítási folyamatára” címû konferencián elhangzottakról. A digitális világ hatása a rendészeti szervek vezetés-irányítási folyamatára. 21–26. Budapest: Nemzeti Közszolgálati Egyetem Rendészettudományi Kar.
Petruska Ferenc 2024. Hogyan változtatja meg a mesterséges intelligencia a köz- és felsőoktatást. Ludovika.hu (blog), 2024. https://www.ludovika.hu/blogok/itkiblog/2024/05/13/a-koz-es-felsooktatas-az-mi-koraban/ Ribeiro, Tiago F. R.; Fernando Silva; José Moreira; Rogério Luís de C. Costa 2023.BurnedAreaUAV Dataset (v1.1). Zenodo, 2023. május 11. https://doi.org/10.5281/ZENODO.7925619
Ruci, Hektor 2024. Lethal autonomous weapon systems (LAWS) enforcement of human rights by algorithms. Collection Regional Law Review, 5:1–8 https://doi.org/10.56461/iup_rlrc.2024.5.ch1
Schubert, Bálint 2022. Az autonóm fegyverrendszerekkel szemben támasztott követelmények a humanitárius nemzetközi jog tükrében. Honvédségi Szemle, 150 (3): 20–30. https://doi.org/10.35926/HSZ.2022.3.2.
Siregar, Naek, Desy Churul Aini, Rehulina Rehulina, Agit Yogi Subandi, és Isroni Muhammad Miraj Mirza 2024. The Use of Artificial Intelligence in Armed Conflict under International Law. Hasanuddin Law Review, 10 (2): 189–205. https://doi.org/10.20956/halrev.v10i2.5267
Scotty, Black; Darken, Christian 2024. Scaling Intelligent Agents in Combat Simulations for Wargaming. 8 Februar 2024. https://arxiv.org/abs/2402.06694 https://doi.org/10.48550/arXiv.2402.06694
Smart Finance 2024. Smart Finance: How AI Is Shaping the Future of Budgeting and Investing. 2024. augusztus 25. https://trendsresearch.org/insight/smart-finance-how-ai-is-shaping-the-future -of-budgeting-and-investing/. Vallina, Nikolaos Chountis 2018. Állásfoglalási indítvány az autonóm fegyverrendszerekről B8-0361/2018 Európai Parlament, 2018. https://www.europarl.europa.eu/doceo/document/B-8-2018-0361_HU.html.
Vincze Viola 2019. Az autonóm fegyverrendszerek alkalmazása fegyveres konfliktusok idején. In Új típusú hadviselés a 21. század második évtizedében és azon túl – intézményi és jogi kihívások. 213–235. Budapest: Zrínyi Kiadó. https://jogtortenet.sze.hu/images/dokumentumok/tanulm%C3%A1nyok/Farkas_V%C3%A9gh_%C3%BAj_t%C3%ADpus%C3%BA_hadviseles.pdf.
Zeff, Maxwell 2024. Nvidia Is Now Powering AI Nurses. Gizmodo.com 2024. március 19. https://qz.com/nvidia-wants-replace-nurses-with-ai-1851349522
