Основные механизмы этического регулирования военной робототехники
https://doi.org/10.26907/2541-7738.2025.1.139-157
Аннотация
В настоящей статье изучены этические аспекты и механизмы регулирования в области военной робототехники, что приобретает особую значимость в свете быстрого развития технологий и их военного применения. Проанализированы ключевые термины, такие как автономные системы вооружений, военный искусственный интеллект и этическое регулирование; особое внимание уделено точному определению понятий для обеспечения согласованности научных и практических подходов. Также прослеживается эволюция использования технологий в военных целях начиная с простых автоматических систем и заканчивая современными автономными роботами, что помогает выявить закономерности в формировании этических и правовых норм. Особый акцент сделан на текущих вызовах, таких как безопасность, распределение ответственности, принятие решений и возможные моральные дилеммы. Отмечены риски, связанные с автономией военных систем, в том числе недостаток четкого контроля и регулирования. Сделан вывод о том, что международный диалог и комплексный подход к регулированию, включая разработку унифицированных стандартов и внедрение механизмов контроля, являются необходимыми условиями предотвращения моральных и правовых рисков, связанных с военной робототехникой.
Об авторе
Д. С. Кийко
Казанский инновационный университет имени В.Г. Тимирясова
Россия
Россия
Кийко Денис Сергеевич, аспирант кафедры уголовного права и процесса
г. Казань, 420111
Список литературы
1. Voiculescu A. Reflections on the EPSRC Principles of Robotics from the new far-side of the law // Connect. Sci. 2017. V. 29, No 2. P. 160–169. https://doi.org/10.1080/09540091.2017.1313818.
2. Бегишев И.Р. Уголовно-правовая охрана общественных отношений, связанных с робототехникой: дис. … д-ра юрид. наук. Казань, 2022. 506 с.
3. Crootof R. War, responsibility, and killer robots // N. C. J. Int. Law Commer. Regul. 2015. V. 40, No 4. P. 909–932.
4. Прокофьев А.В. Проблемы теории справедливой войны // Этическая мысль. 2019. Т. 19, № 2. С. 112–127.
5. Арбатов А.Г. Стратегическая стабильность – оружие и дипломатия. М.: Весь Мир, 2021. 432 с.
6. Krepon M., Caldwell D. The Politics of Arms Control Treaty Ratification / Ed. by M. Krepon, D. Caldwell. New York, NY: Palgrave Macmillan, 1991. viii, 486 p. https://doi.org/10.1007/978-1-137-04534-8.
7. Walzer M. Just and Unjust Wars: A Moral Argument with Historical Illustrations. New York, NY: Basic Books, 2015. 416 p.
8. Куманьков А.Д. Философия войны: краткий очерк истории // Логос. 2019. № 3. С. 99–116.
9. Horowitz M. The ethics & morality of robotic warfare: Assessing the debate over autonomous weapons // Daedalus. 2016. V. 145, No 4. P. 25–36. https://doi.org/10.1162/DAED_a_00409.
10. Sharre P. Army of None: Autonomous Weapons and the Future of War. New York, NY, London: W.W. Norton & Company, 2018. 448 p.
11. Calo R. Robotics and the lessons of cyberlaw // Calif. Law Rev. 2015. V. 103, No 3. P. 513–563. URL: https://ssrn.com/abstract=2402972, свободный. http://dx.doi.org/10.2139/ssrn.2402972.
12. Lin P., Abney K., Bekey G. Robot Ethics: The Ethical and Social Implications of Robotics. Ser.: Intelligent Robotics and Autonomous Agents. Cambridge, MA, London: MIT Press, 2014. 398 p.
13. Artificial Intelligence: Disruption Anticipated / J. Parakilas, H. Bryce, M. Suleyman, K. Cukier, H. Roff, M. Cummings / London: The Royal Institute of International Affairs, 2018. 60 p.
14. Van den Boogaard J. Proportionality and autonomous weapons systems // J. Int. Humanitarian Leg. Stud. 2015. V. 6, No 2. P. 247–283. https://doi.org/10.1163/18781527-00602007
15. Баррат Дж. Последнее изобретение человечества: искусственный интеллект и конец эры Homo sapiens / Пер. с англ. М.: Альпина нон-фикшн, 2019. 396 с.
16. UN Security Council. Final Report of the Panel of Experts on Libya Established Pursuant to Security Council resolution 1973 (2011). S/2021/229. March 8, 2021.
17. Автономный военный дрон впервые самостоятельно атаковал человека. URL: https://habr.com/ru/news/560082/, свободный.
18. Melzer N. Interpretive Guidance on the Notion of Direct Participation in Hostilities under International Humanitarian Law. Geneva: ICRC, 2009. 85 p.
19. Solis G.D. The Law of Armed Conflict: International Humanitarian Law in War. New York, NY: Cambridge Univ. Press. 659 p. https://doi.org/10.1017/CBO9780511757839.
20. Bächle T.C., Bareis J. “Autonomous weapons” as a geopolitical signifier in a national power play: analysing AI imaginaries in Chinese and US military policies // Eur. J. Futures Res. 2022. V. 10, No 1. Art. 20. https://doi.org/10.1186/s40309-022-00202-w.
21. Hillner E.P. The Third Offset Strategy and the Army Modernization Priorities. Director’s Action Group Report. Center for Army Lessons Learned, 2019. 5 p.
22. United Nations. Report of the 2019 Session of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems. CCW/GGE.1/2019/3. September 25, 2019.
23. International Committee of the Red Cross. ICRC Position on Autonomous Weapon Systems. 4550/1/002. May 12, 2021.
24. European Parliament. European Parliament Resolution of 12 September 2018 on Autonomous Weapon Systems (2018/2752 (RSP)). P8_TA(2018)0341. September 12, 2018.
25. Sauer F. Stopping ‘killer robots’: Why now is the time to ban autonomous weapons systems // Arms Control Today. 2016. URL: https://www.armscontrol.org/act/2016-09/features/stopping-killer-robotswhy-now-time-ban-autonomous-weapons-systems, свободный.
26. Tallinn Manual on the International Law Applicable to Cyber Warfare: Prepared by the International Group of Experts at the Invitation of the NATO Cooperative Cyber Defence Centre of Excellence / Ed. by M. Schmitt. New York, NY: Cambridge Univ. Press, 2013. 215 p.
27. Security and Technology Programme. The Weaponization of Increasingly Autonomous Technologies: Artificial Intelligence. UNDIR Resources. No 8. Geneva: UNIDIR, 2018. ii, 10 p.
28. Концепция регулирования технологий искусственного интеллекта и робототехники до 2023 года от 29 декабря 2019 г. [Электронный ресурс]. URL: https://sk.ru/documents/228/Концепция_ИИ_29.12.2019.pdf, свободный.
29. Агибалова Е.Н. Юридическая ответственность при применении систем искусственного интеллекта // Государство, право и общество: вопросы теории и практики. Материалы второй Всерос. науч.-практ. конф. (г. Сочи, 7–8 февраля 2020 г.): сб. статей / Отв. ред. В.И. Скрябин. Ростов н/Д: Изд-во проф. прессы и лит-ры, 2020. C. 15–24.
30. Резолюция Европарламента от 16 февраля 2017 года с рекомендациями Комиссии по гражданско-правовым нормам по робототехнике (2015/2103 (INL)) [Электронный ресурс]. URL: https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_EN.html, свободный.
31. Апостолова Н.Н. Ответственность за вред, причиненный искусственным интеллектом // Северо-Кавказ. юрид. вестн. 2021. № 1. С. 112–119. https://doi.org/10.22394/2074-7306-2021-1-1-112-119.
32. Карцхия А.А. Искусственный интеллект: «ларец Пандоры» или новая надежда? // Интеллектуальная собственность. Авторское право и смежные права. 2017. № 4. С. 23–30.
33. Бегишев И.Р. Автономная робототехника в системе уголовно-правовых отношений. М.: БлокПринт, 2022. 160 с.
34. Дополнительный протокол I к Женевским конвенциям от 12 авг. 1949 г., касающийся защиты жертв международных вооруженных конфликтов от 8 июня 1977 г. // Электронный фонд правовых и нормативно-технических документов. URL: https://docs.cntd.ru/document/901755843, свободный.
35. United Nations. Rome Statute of the International Criminal Court. July 17, 1998. URL: https://legal.un.org/icc/statute/99_corr/cstatute.htm, свободный.
36. IV Гаагская конвенция о законах и обычаях сухопутной войны 1907 года с приложением: «Положение о законах и обычаях сухопутной войны» // Министерство обороны Российской Федерации. URL: https://doc.mil.ru/documents/quick_search/more.htm?id=11967448%40egNPA, свободный.
37. Берггольц В.В. Правовой статус и разграничение ответственности при разработке и использовании инструментов искусственного интеллекта // Международный журнал гуманитарных и естественных наук. 2020. № 6-3 (45). C. 23–27. https://doi.org/10.24411/2500-1000-2020-10742.
38. Alaieri F., Vellino A. Ethical decision making in robots: Autonomy, trust and responsibility // Social Robotics. ICSR 2016 / Ed. by A. Agah, J.J. Cabibihan, A. Howard, M. Salichs, H. He. Ser.: Lecture Notes in Computer Science. V. 9979. Cham: Springer, 2016. P. 159–168. https://doi.org/10.1007/978-3-319-47437-3_16.
39. Santoni de Sio F., Van den Hoven J. Meaningful human control over autonomous systems: A philosophical account // Front. Rob. AI. 2018. V. 5. Art. 15. https://doi.org/10.3389/frobt.2018.00015.
40. McDermott D. What matters to a machine? // Machine Ethics / Ed. by M. Anderson, S.L. Anderson. New York, NY: Cambridge Univ. Press, 2011. P. 88–114.
41. Sparrow R. Killer robots // J. Appl. Philos. 2007. V. 24, No 1. P. 62–77. https://doi.org/10.1111/j.1468-5930.2007.00346.x.
42. Prepare to be terrified – watch a hacked robot stab a tomato with a screwdriver // Forbes. 2017. Aug. 22 URL: https://www.forbes.com/sites/thomasbrewster/2017/08/22/hacked-home-robot-gets-stabbywith-screwdriver/, свободный.
43. Маск оценил риски, что искусственный интеллект убьет человечество // РБК. 2023. 2 нояб. URL: https://www.rbc.ru/rbcfreenews/6542c4769a79478f1d339afb, свободный.
44. Гайворонская Я.В., Мирошниченко О.И. Гордиев узел противоречий: технология, этика и право в вопросе о правосубъектности искусственного интеллекта // Образование и право. 2020. № 9. С. 196–203. https://doi.org/10.24411/2076-1503-2020-10931.
Рецензия
Для цитирования:
Кийко Д.С. Основные механизмы этического регулирования военной робототехники. Ученые записки Казанского университета. Серия Гуманитарные науки. 2025;167(1):139-157. https://doi.org/10.26907/2541-7738.2025.1.139-157
For citation:
Kiiko D.S. Key mechanisms of ethical regulation in military robotics. Uchenye Zapiski Kazanskogo Universiteta Seriya Gumanitarnye Nauki. 2025;167(1):139-157. (In Russ.) https://doi.org/10.26907/2541-7738.2025.1.139-157
Просмотров:
58
Послать статью по эл. почте 