Марина Владимировна Алексеева, кандидат юридических наук, доцент, заведующий кафедрой «Теория и история государства и права» Донского государственного технического университета; доцент кафедры государственно-правовых дисциплин Ростовского филиала Российской таможенной академии
344003, г. Ростов-на-Дону, пл. Гагарина, д. 1
344002, г. Ростов-на-Дону, пр. Буденновский, д. 20
Marina V. Alekseeva, Cand. Sci. (Law), Associate Professor, Head of the Theory and History of State and Law Department, Don State Technical University; Associate Professor of the State and Legal Disciplines Department, Rostov Branch of the Russian Customs Academy
1, Gagarin Sq., Rostov-on-Don, 344003
20 Budyonnovsky Ave., Rostov-on-Don, 344002
Введение. Значимость правового регулирования функционирования систем искусственного интеллекта (ИИ) в сфере публичного управления обусловлена стремительным развитием соответствующих технологий, которые уже стали неотъемлемой частью деятельности государственных органов в Российской Федерации. Благодаря внедрению ИИ открываются новые возможности для оптимизации процессов, повышения прозрачности и расширения доступа к услугам властных инстанций. Вместе с тем это обостряет перед законодательством ряд непростых вопросов: от обеспечения этических стандартов и защиты персональных данных до выработки адекватных юридических механизмов, регулирующих взаимодействие человека и машины. Современное общество требует от правовой системы гибкости и оперативности, адекватных динамике технологического прогресса. Для этого необходимо не только пересмотреть действующие нормативы, но и определить принципы, на которых будут строиться новые правовые нормы в области ИИ. Лишь при условии продуманного правового регулирования можно будет создать среду, где инновационные решения гармонично дополнят традиционные институты, не ущемляя прав граждан и укрепляя их доверие к государственным структурам. Цель исследования – детально рассмотреть ключевые проблемы, вызовы и возможности, возникающие при интеграции ИИ в сферу государственного управления в Российской Федерации, а также обосновать необходимость формирования комплексного правового регулирования, способствующего одновременно технологическому развитию общества и обеспечению защиты прав граждан.
Материалы и методы. В качестве основного методологического инструмента применялся диалектико-материалистический подход, позволивший проанализировать эволюцию правовых норм и основные тенденции в практике их применения в условиях непрерывного технологического развития. Благодаря использованию исторического, логического, системного и функционального анализа стало возможным проследить ход законодательных инициатив в сфере ИИ, выявить взаимосвязи между нормами различных отраслей права, доказать значимость целостности правовой системы и рассмотреть правовые нормы как инструмент достижения государственных задач и гарантии защиты интересов граждан России.
Результаты исследования. Выделено несколько ключевых результатов, касающихся правового регулирования применения технологий искусственного интеллекта в сфере государственного управления в России. Обоснована необходимость разделения понятий «интеллектуальные информационные системы» (ИИС) и «системы искусственного интеллекта» (СИИ). Доказана целесообразность создания правовой классификации СИИ по уровню автономности и потенциальной угрозе информационной безопасности. Аргументирована потребность в разработке и принятии единых этических норм, регулирующих применение ИИ, поскольку в условиях цифровой перестройки государственных институтов единая система этических стандартов выступает основой для поддержания социальной стабильности и укрепления общественного доверия к властным структурам. Особое внимание уделено риск-ориентированному подходу к внедрению СИИ в работу органов власти, позволяющему распределить зоны ответственности и выстроить механизмы надзора за системами, принимающими особо значимые решения.
Обсуждение и заключение. Обсуждение правовых рамок использования искусственного интеллекта выходит сегодня на первый план в повестке любого государства. На основе международного опыта Россия может сформировать собственную систему нормативных актов, направленных на снижение рисков без ущемления конституционных прав и свобод. Однако процесс разработки и адаптации законодательства в области ИИ в сфере государственного управления требует тесного взаимодействия ученых, юристов, программистов, государственных служащих. Только при условии эффективного сотрудничества всех заинтересованных сторон удастся обеспечить гармоничное сосуществование проверенных правовых институтов и передовых технологий, заложив основу для устойчивого развития общества. Будущие научные исследования должны быть нацелены на разработку сбалансированной правовой модели, которая объединяла бы этические принципы, требования к качеству данных и надежные процедуры контроля алгоритмов и их результатов.
Introduction. Legal regulation of the use of artificial intelligence (AI) technologies in the state governance framework is important due to the rapid development of the respective technologies, which are already integrated into the work of the bodies of government power of the Russian Federation. Implementation of AI opens up new opportunities for optimisation of processes, increase of transparency and expansion of accessibility of government services. At the same time, it causes a number of difficult problems for the legislation to solve: from ensuring ethical standards and protecting personal data to development of the adequate legal mechanisms regulating the interaction between a human and a machine. Modern society requires the legal system to be flexible and efficient to correspond to the technological progress dynamics. Therefore, it is necessary not only to revise the acting legal norms, but also to determine the principles for the new AI-related legal norms to be built on. Only thoroughly elaborated legal regulation can create an environment, where the innovative solutions harmoniously complement the traditional institutions without infringing the rights of citizens, thus, strengthening citizens’ trust in the state authorities. The aim of the study is to investigate in detail the key problems, challenges and opportunities induced by the integration of AI into state governance in the Russian Federation, as well as to reason the need for forming a comprehensive legal regulation that simultaneously fosters the technological development of society and ensures protection of the citizens’ rights.
Materials and Methods. The dialectical-materialistic approach was used as the main methodological tool, which allowed us to analyse the evolution of legal norms and the main trends of their application in the context of continuous technological development. Due to the use of historical, logical, system and functional analysis methods, it became possible to trace the development of the legislative initiatives referring to AI, identify the relationships between the norms of various branches of law, as well as to prove the importance of legal system holism and to study the legal norms as the tools for achieving the state goals and ensuring protection of interests of the Russian citizens.
Results. Several pivotal results concerning legal regulation of the use of artificial intelligence technologies in the state governance framework in Russia were distinguished. The necessity of separating the concepts of “Smart Information Systems” (SIS) and "Artificial Intelligence Systems" (AIS) was substantiated. The expediency of creating a juridical classification of AIS by the level of autonomy and potential threat to the information security was proved. The need for development and adoption of the uniform ethical standards regulating the use of AI was reasoned, since in the context of the digital restructuring of state institutions, a uniform system of ethical standards would serve a basis for maintaining social sustainability and strengthening public trust in the state authorities. Particular attention was paid to the risk-oriented approach to implementation of AI into the work of the bodies of government power, which enables the distribution of the areas of responsibility and development of mechanisms for monitoring the crucial-decision-making systems.
Discussion and Conclusion. Discussion of the legal framework for the use of artificial intelligence has now a leading position in the agenda of any state. Based on the international experience, Russia can form its own system of normative legal regulation aimed at reducing risks without infringing constitutional rights and freedoms. However, the process of developing and adapting the legislation on the use of AI in state governance framework requires close cooperation between scientists, jurists, programmers, and public officers. Only efficient cooperation of all stakeholders can ensure the harmonious coexistence of the trustworthy legal institutions and advanced technologies, and form a basis for the sustainable development of society. Future scientific research should be aimed at developing a harmonious legal model that would combine ethical principles, requirements to quality of data, and reliable procedures for monitoring algorithms and their results.
The authors declare that there are no conflicts of interest present.