Цифровые моральные системы в симулированной и социальной реальности

Введение. Всеобъемлющее развитие цифровых технологий делает миры компьютерных игр не только моделями представлений о реальности, но и системами, обладающими с ней сходством. Хотя альтернативные симулированные миры могут значительно отличаться целями и логикой развития, репрезентация и экспериментирование с моральными системами в играх представляет богатый опыт построения цифровых моральных систем и их ограничений.

Материалы и методы. В рамках исследования использованы диалектический метод, системный анализ, интерпретация, сравнение и синтез. Использованы сравнительно-типологический и сравнительно-аналитический подходы при изучении систем морали в рамках игровых цифровых миров и цифровых социальных систем.

Результаты исследования. Во многих играх вводится количественный расчет морали – очки морали, кармы, чести или репутации, представляющие или оценку действий стоящими над игровыми событиями акторами (разработчиками или игровыми богами), или подразумеваемое отношение окружающих. Так как в параметре этика, в отличие от других характеристик аватара, сложно отделить протагониста и игрока, то системы морали легко перестраиваются на оценку поведения последнего и в целом могут стать определяющими в обычном мире, как показывает пример Китая. Однако многие современные игры отказываются от искусственной количественной надстройки в системе морали, демонстрируя вместо этого неоднозначность моральных решений и непредсказуемость последствий, представляя невозможность построения универсальной этической системы.

Обсуждение и заключения. Существующая неопределенность в оценке морали подчас служит основанием для предположения о роли искусственного интеллекта в построении моральной системы на основании противоречивых и неполных данных, однако в этом случае мы возвращаемся к модели, в которой моральная оценка передана возвышающейся над реальностью сущности, в качестве которой выступает искусственный интеллект.

1. Аристотель. Никомахова этика. М.: ЭКСМО-Пресс, 1997. 492 p.

2. Дубровский Д. И. Эпистемологический анализ социогуманитарной значимости новаций искусственного интеллекта в контексте общего искусственного интеллекта // Философские науки. 2022. Т. 65, № 1. С. 10-26.

3. Макулин А. В. Этический калькулятор: от философской «вычислительной морали» к машинной этике искусственных моральных агентов (ИМА) // Общество: философия, история, культура. 2020. Т. 11, № 79. С. 18-27.

4. Патрашов А. Математическое руководство по созданию компьютерных игр. М.: Издательские решения, 2016.

5. Серада А. Игры против игроков: опасные границы «магического круга» // Философско-культурологический журнал Topos. 2022. № 1. С. 7-26.

6. Топилина А. В. Дегуманизация как основа нарушения прав человека // Философия права. 2022. № 3 (102). С. 58-62.

7. AL A., Ahn A., Becker N., et al. Project Sid: Many-agent simulations toward AI civilization: arXiv:2411.00114. arXiv, 2024. DOI: 10.48550/arXiv.2411.00114.

8. Awad E., Dsouza S., Kim R., et al. The Moral Machine experiment // Nature. 2018. Vol. 563, no. 7729. Pp. 59-64. DOI: 10.1038/s41586-018-0637-6.

9. Bandura A. Selective Moral Disengagement in the Exercise of Moral Agency // Journal of Moral Education. 2002. Vol. 31, no. 2. Pp. 101-119. DOI: 10.1080/0305724022014322.

10. Coeckelbergh M. Drones, information technology, and distance: mapping the moral epistemology of remote fighting // Ethics and Information Technology. 2013. Vol. 15, no. 2. Pp. 87-98. DOI: 10.1007/s10676-013-9313-6.

11. Craddock D. L. Break Out: How the Apple II Launched the PC Gaming Revolution. Schiffer Publishing, Limited, 2017. 255 p.

12. Di Nucci E. Self-Sacrifice and the Trolley Problem // Philosophical Psychology. 2013. Vol. 26, no. 5. Pp. 662-672. DOI: 10.1080/09515089.2012.674664.

13. Foot P. The problem of abortion and the doctrine of the double effect // Oxford Review. 1967. Vol. 5, no. 15.

14. Formosa P., Ryan M., Howarth S., et al. Morality Meters and Their Impacts on Moral Choices in Videogames: A Qualitative Study // Games Culture. 2022. Vol. 17, no. 1. Pp. 89-121. DOI: 10.1177/15554120211017040.

15. Leibkuechler P. Trust in the Digital Age – The Case of the Chinese Social Credit System // Feldner D. (ed.) Redesigning Organizations: Concepts for the Connected Society. Cham: Springer International Publishing, 2020. Pp. 279-289. DOI: 10.1007/978-3-030-27957-8_21.

16. Mehnert W. The Futures Circle – A Framework for Hermeneutic Technology Assessment // Technology and Language. 2024. Vol. 5, no. 1 (14). Pp. 129-151. DOI: 10.48417/technolang.2024.01.10.

17. Mehnert W. Wording Worlds – From writing Futures to building Imaginary Worlds // Technology and Language. 2023. Vol. 4, no. 3 (12). Pp. 85-104. DOI: 10.48417/technolang.2023.03.07.

18. Melenson J. The Axis of Good and Evil // Schrier K., Gibson D. (eds) Designing Games for Ethics: Models, Techniques and Frameworks. IGI Global, 2011.

19. Mitchell L. Ludopolitics: videogames against control. Winchester, UK ; Washington, USA: ZERO Books, 2018. 341 p.

20. Moral Machine: [website]. Available at: https://www.moralmachine.net/ (accessed: 16.06.2025).

21. Mustafaev E. A Philosophical Analysis of Moral Choices in the Game The Witcher 3: Wild Hunt // Technology and Language. 2024. Vol. 14, no. 1. Pp. 153-168. DOI: 10.48417/technolang.2024.01.11.

22. Park J. S., O'Brien J., Cai C. J., et al. Generative Agents: Interactive Simulacra of Human Behavior // Proceedings of the 36th Annual ACM Symposium on User Interface Software and Technology. New York, NY, USA: Association for Computing Machinery, 2023. Pp. 1-22. DOI: 10.1145/3586183.3606763.

23. Proudfoot S. Look at What You’ve Done: Exploring Narrative Displeasure in Video Games // Popular Culture Studies Journal. 2019. Vol. 7, no. 2. Pp. 158-178.

24. Rainbow 6 Siege X: [website]. Available at: https://www.ubisoft.com/ru-ru/game/rainbow-six/siege/news-updates/3snO7ANe2VLZYitMeP2eqc/reputation-system-beta-status-update (accessed: 16.06.2025).

25. Ricoeur P. Time and Narrative. McLaughlin, Pellauer. Chicago and London: The University of Chicago Press, 2012. 248 p.

26. Russell S., Norvig P. Artificial Intelligence: A Modern Approach. Pearson, 2022. 1121 p.

27. Sharkey N. Killing made easy: From joysticks to politics // Robot ethics: The ethical and social implications of robotics. MIT Press. Cambridge, MA, 2012. Pp. 111-128.

28. Waldmann M. R., Wiegmann A. A Double Causal Contrast Theory of Moral Intuitions in Trolley Dilemmas // Ohlsson S., Catrambone R. (eds) Proceedings of the 32nd Annual Conference of the Cognitive Science Society. Cognitive Science Society, 2010. Pp. 2589-2594.

29. Wu W., He H., He J., et al. MetaUrban: An Embodied AI Simulation Platform for Urban Micromobility: arXiv:2407.08725. arXiv, 2024. DOI: 10.48550/arXiv.2407.08725.

30. Xu W., Wang Y. Emotional Visualization: The Metaverse Social in Embodied Cognitive Contexts // Technology and Language. 2023. Vol. 12, no. 3. Pp. 24-39. DOI: 10.48417/technolang.2023.03.03.

31. Yudkowsky E. Coherent Extrapolated Volition. San Francisco: The Singularity Institute, 2004.

32. Zhou Z., Song J., Xie X., et al. Towards Building AI-CPS with NVIDIA Isaac Sim: An Industrial Benchmark and Case Study for Robotics Manipulation // Proceedings of the 46th International Conference on Software Engineering: Software Engineering in Practice. New York, NY, USA: Association for Computing Machinery, 2024. Pp. 263-274.