from 01.01.2023 to 01.01.2024
Moskva, Moscow, Russian Federation
UDK 343.97 Преступление как общественное явление. Сравнительная преступность. Причины и последствия преступлений. Социальные факторы преступления. Социальное окружение
Introduction: this article presents the findings of a study examining the criminological risks associated with artificial intelligence (AI) technologies and the risk factors that contribute to their development. Materials and Methods: the research materials included the following: The legislation of the Russian Federation on the risk-based approach to the development of artificial intelligence; sociological theories that support the concept of risk; criminal law and criminological studies. The research employed established methods, including the universal dialectical method, general scientific methods (analysis, synthesis, deduction, induction, and generalization), and specific scientific methods (formal legal and sociological). Literature review: a review of the literature was conducted, encompassing the works of Russian scientists in the field of criminal policy, the consideration of sociological theories, and the examination of the outcomes of practical experience derived from foreign research. Results: the study's findings indicate that a risk-based approach to criminological research is a necessary development, based on an analysis of sociological theories and law enforcement practices. The author provides a detailed elaboration of the concept of "criminological risk" and underscores the distinctive characteristics of risks associated with artificial intelligence technologies, as well as identifies the risk factors that characterise these technologies. Discussion and Conclusions: the modern society is confronted with an array of risks that have emerged alongside technological advancement. The advent of artificial intelligence (AI) technologies has given rise to significant concerns. A risk-based approach to criminological research may prove an effective means of mitigating the risks associated with these technologies.
scientific and technical revolution; artificial intelligence technologies; criminological risk; criminal riskology; risk factors
Введение
Современный мир невозможно представить без цифровых технологий, являющихся результатом прошедших научно-технических революций (далее-НТР); они тесно связаны с обеспечением повседневной жизнедеятельности человека. Их интеграция практически во все сферы общества детерминирована многофункциональными техническими возможностями, предоставляемыми для решения множества задач. Основа научно-технической революций выражена развитием производственного потенциала в виде автоматизации и повышении производительности человеческого труда посредством создания новых технических изобретений. Разработка передовых достижений техники, представленная научным сообществом, и введение их в эксплуатацию двигают социум на новую ступень прогресса.
При этом не следует забывать, что НТР несут также и негативные тенденции, выражающиеся в возникающих рисках и угрозах для общества. Так, например, открытия в области физики, химии и биологии поставили общество в следующие условия существования: нарушение равновесия в экологической системе, ядерная напряженность, постоянная угроза техногенных катастроф и т.д. Прикладные цифровые технологии ограничивают право человека на неприкосновенность частной жизни. Также на их базе были созданы новые методы киберпреступности, такие как социальная инженерия и фишинг.
Бабаев М.М. обращает внимание на отрицательные последствия, произошедшие в ходе НТР: «В ходе хорошо известных огромных цивилизационных процессов в глобальном обществе произошли изменения, принесшие бесконечное число самых разнообразных новых, ранее не известных миру опасностей и угроз. Экономические, технические, технологические, информационные, демографические, экологические и иные новации – все они, как известно, обладали и обладают одновременно как созидательным, так и разрушительным потенциалом» [1, с. 105].
Обзор литературы
В целях раскрытия сущностных характеристик концепта «риск» в современном обществе были изучены труды Э. Гидденса, У. Бэка, О.Н. Яницкого. Вопрос толкования понятия «риск» представлен в Малом академическом словаре, Социологическом словаре, в Толковых словарях С.И. Ожегова и Д.Н. Ушакова. Большой вклад в развитие риск-ориентированного подхода в криминологических исследованиях внес М.М. Бабаев. Уголовно-правовая сфера имплементации концепции «риска» представлена исследованиями И.Р. Бегишева, Ю.Е. Пудовочкина, В.Н. Воронина, З.И. Хисамовой и др. ученых. Криминологические риски, исходящие от технологий искусственного интеллекта, представлены в работах В.С. Овчинского, Н.В. Ткачевой, М.А. Иващенко и др.
Материалы и методы
Материалами исследования выступили нормативные правовые акты, составляющие основу стратегического развития технологий искусственного интеллекта и применения риск-ориентированного подхода, а также научные исследования уголовно-правового и криминологического характера; на основе анализа социологических теорий был сделан вывод об актуальности использования концепта «риск» в гуманитарных исследованиях. Использованы общенаучные (диалектика, обобщение, анализ, синтез, индукция и дедукция) и частнонаучные (формально-юридический, социологический, юридический анализ нормативных документов и контент-анализ) методы научного познания.
Результаты исследования
«Концепция риска» – новая парадигма изучения и управления общественными отношениями. Её актуальность детерминирована существованием множества потенциальных угроз, обусловленных процессом модернизации. Данные положения подтверждаются большим интересом со стороны научного сообщества к применению методологических основ риск-ориентированного подхода в различных областях исследования.
На данный момент в современной науке сформировался традиционный (или технический) подход, в основе которого лежит представление о риске как «физически присущем опасным технологиям атрибуте, который может объясняться, предсказываться и контролироваться наукой, независимо от субъективных ценностей» [2, с. 381].
В социологической теории делается заключение, что динамика развития феномена «риска» пропорциональна эволюционному процессу, то есть с переходом социума на новую ступень прогресса происходят качественные преобразования в концепции риска. Прямым тому обоснованием послужили исследования выдающихся социологов Э. Гидденса, У. Бэка, О.Н. Яницкого и др.
Небезобоснованно высказывается концепция под названием «Общество риска», предложенная У. Бэком [3, с. 7-12]. Характерные черты данного общества: интенсификация; глобализация; отсутствие границ в пространстве и времени в развитии рисков. Он подчеркивает практическую беззащитность человечества перед техногенными угрозами, создаваемыми «вторичной природой», детищем индустриального общества; трактует переход к эпохе риска как объективную историческую закономерность, как результат действия механизмов модернизации [4]. Согласно его концепции риски так же неизбежны, как и процесс модернизации, их момент возникновения обусловлен созданием технических разработок, находящихся в основе процесса научно-технического развития.
Своим исследованием Э. Гидденс внес значительный вклад в развитие концепции «Общество риска» и ввёл концепт «конец природы», в котором отметил, что не остаётся даже малейшей части окружающей среды, не испытавшей на себе человеческого воздействия. В современных условиях развития он выделил антропогенные риски, созданные руками человека. По его мнению, именно технологические достижения наряду с несомненно положительными результатами, порождают новые опасности [5].
Российский социолог О.Н. Яницкий развил взгляды У. Бэка и выдвинул понятие «общество всеобщего риска». Становление и развитие риска он также связывает с процессом модернизации, что делает возникновение рисков неизбежным явлением, вследствие чего необходимо стремиться к минимизации неприемлемых рисков1. Так, он указывает на возможность выявления рисков, несущих большой вред, и предотвращения последствий, исходящих от них.
Как представляется, повышенная опасность современных рисков процесса модернизации в постиндустриальном обществе представлена в следующих взаимосвязанных между собой причинах: материальная выгода ставится выше общественных интересов; появление в бытовом употреблении сложных технических продуктов без их должной процедуры апробации; острая конкурентная борьба между коммерческими корпорациями за лидирующее место на рынке.
Учитывая представленную социологическую теорию и существующие условия, обусловленные постиндустриальным обществом, мы приходим к выводу, что сквозные цифровые технологии, являющиеся двигателем последующей НТР, несут в себе множество потенциальных угроз для общества.
Перспективной метатехнологией современного постиндустриального общества выступает такая технология, как искусственный интеллект (далее-ИИ). Подтверждение данного положения отражено в указе Президента Российской Федерации от 18.06.2024 № 529 «Об утверждении приоритетных направлений научно-технологического развития и перечня важнейших наукоемких технологий»2.
Многие ученые, философы, технические разработчики выделяют особое место технологиям ИИ ввиду их технических возможностей, позволяющих эффективно просчитывать решения в организационно-управленческих процессах, оказывать помощь в обработке BigData, осуществлять генерацию оригинальных решений и различное множество других генеративных цифровых операций. По мнению И.Р. Бегишева, «расширение горизонтов использования ИИ развязывает новую промышленную революцию» [6, с. 106]. Таким образом, именно технологии ИИ в дальнейшем своём развитии представляют потенциальную угрозу для человека.
Практическая реализация данной технологии стала доступна для большинства граждан совсем недавно, на рубеже 20-х гг. XXI в., что вызвало к ней большой интерес. Также и органы государственной власти признают её большую перспективность, необходимость в её развитии отражена в нормативных правовых актах стратегического значения.
Ввиду того что технология ИИ только недавно получила импульс к широкому распространению, деятельность по её внедрению в цифровые продукты лишь начинает обороты. Согласно классической дилемме Коллингриджа, разработанной им в 1980 г., на технологии, которые только начинают свое развитие и становление в обществе, еще можно повлиять, чтобы уменьшить негативные риски их использования [7, с. 292]. Эта мысль призывает к ответственному инновационному процессу новых технических достижений человека. Однако стоит учесть, что внедрение технологий ИИ происходит быстрыми темпами. В случае отставаний решений, направленных на выявление и предупреждение возникающих рисков от процесса интеграции, согласно дилемме Коллингриджа, будет трудно повлиять на негативные тенденции, исходящие от технологий.
Таким образом, создание комплексной предупредительной системы по минимизации рисков, исходящих от технологий ИИ, должно лежать в основе их развития и имплементации в общественные отношения.
В частности, Президентом Российской Федерации В.В. Путиным также было отмечено, что необходимо определить границы развития ИИ; разработать соответствующие этические, социальные и нравственные нормы при его использовании; обеспечить безопасность и разумность при его дальнейшем развитии; свести к минимуму угрозы для граждан.
Основными нормативными правовыми актами, обосновывающими запрос со стороны государства на необходимость определения основных условий, обеспечивающих должную степень защиты прав и свобод человека и гражданина от потенциальных угроз, поступающих в связи с внедрением технологий ИИ, являются Указ Президента Российской Федерации от 10.10.2019. № 490 «О развитии искусственного интеллекта в Российской Федерации» (далее-Национальная стратегия)3 и распоряжение Правительства Российской Федерации от 19.08.2020 № 2129-р (далее-Концепция развития)4. В частности, в Концепции развития указывается на потребность применения риск-ориентированного подхода для выработки конкретных регуляторных решений.
Использование риск-ориентированного подхода сложно переоценить в условиях постиндустриального общества, наполненного различного рода рисков и угроз. Широкий спектр его применения обусловливается особой значимостью в выработке организационно-распорядительных решений.
Например, отечественная правовая доктрина представляет в правоприменительной деятельности образец практической реализации данного подхода в области контроля (надзора) за хозяйственно-экономической и предпринимательской деятельностью5. Также концепция «Риска» интегрирована в государственную деятельность Счётной палаты Российской Федерации6.
Актуальность эффективного применения риск-ориентированного подхода также исследуется в рамках уголовно-правовых наук.
В своём обширном исследовании Ю.Е. Пудовочкин выделяет следующие ключевые преимущества применения концепта «риск» в методологии исследования уголовно-правовых наук: во-первых, рискологический анализ позволит объединить феномен «опасность» с категориальным аппаратом, устоявшимся в предметной плоскости уголовно-правовых дисциплин; во-вторых, обеспечит предупредительное воздействие в рамках ранней и сверхранней стратегии предупреждения преступности; в-третьих, установит необходимый баланс применения мер уголовно-правового воздействия в соответствии с обстоятельствами и тяжестью совершенного преступления; в-четвертых, предоставит возможность исследовать аспекты, ранее не попадавшие в научный круг воззрения [8, с. 61].
Как отмечает в своей работе В.Н. Воронин, «цифровое общество требует от законотворчества соответственно прогрессивных форм его регулирования. Традиционными методами уголовно-правового воздействия добиться необходимого результата не получится. Поскольку уголовное право должно способствовать цифровому прогрессу и формированию цифрового общества, не создавая при этом излишних препятствий, действующий подход, связанный с оценкой общественной опасности какого-либо поведения и его криминализацией, не будет эффективным». Предлагается введение в механизм правового регулирования нового термина «уголовно-правовой риск» и оценка на основе новой разработанной концепции рисков всех цифровых технологий посредством установления их потенциальной опасности для общества [9, с. 76].
В гуманитарной среде были приложены усилия для выявления общей концепции риска, но в итоге был сделан вывод, что каждой научной сфере необходимо изучать ту предметную область риск-ориентированного подхода, в которой проводятся основные исследования. Каждая научная дисциплина, проявляющая интерес к феномену риска, определяет свой специфический предмет изучения [10, с.32].
В свою очередь, принятие и развитие риск-ориентированного подхода в такой науке, как криминология, позволило бы более качественно и эффективно выполнять задачи по предотвращению преступности. По утверждению М.М. Бабаева и Е.Ю. Пудовочкина, «криминальная рискология – частная теория криминологии, требующая своего развития, наряду со сверхранней профилактикой преступности» [11, с. 141].
Одним из основоположников современного развития и введения в общую систему знаний криминологии теоретико-методологических положений риск-ориентированного подхода является известный российский криминолог М.М. Бабаев. Его труды необходимо брать за основу дальнейшего становления феномена «риск» в криминологических исследованиях. Проводимые им исследования в данной области выделяют основные категории, раскрывающие концепцию «риска» в предмете криминологии, а также выделяют круг научных проблем, требующих решения от научного сообщества.
Криминальная рискология – эволюционно новое направление общей теории криминологии, завладевшее вниманием исследователей уголовно-правовой специальности. В силу быстрого социального развития, стремительного технического прогресса современная картина мира представляет множество неразрешенных правовых споров и разногласий. Основным положением, доказывающим преимущество риск-ориентированного подхода среди других разделов криминологии, по мнению М.М. Бабаева, И.Р. Бегишева, З.И. Хисамовой, Ю.Е. Пудовочкина и др., является утверждение того, что еще на ранней стадии появляется возможность выявить тенденцию развития процесса криминализации, что позволит принимать соответствующие криминологические меры, не дожидаясь наступления негативных последствий по формированию состояния общественной опасности.
На данный момент существует множество различных исследований, раскрывающих положения криминальной рискологии. Выделены основные направления её дальнейшего развития в превентивной деятельности, но всё же недостаточно полно раскрыты её теоретические и методологические основы, которые позволили бы ей сформироваться как частной научной теории криминологии. Отсутствие серьезного блока криминологических исследований, посвященных исследованию понятия риска, создает значительные препятствия для повышения эффективности уголовно-правового регулирования [12, с. 188].
Криминологический риск – центральная дефиниция, находящаяся в основе предметной области знаний криминальной рискологии. Её содержание М.М. Бабаев раскрывает следующим образом: «возможная криминогенная опасность, которая характеризуется, как реальная, но еще не реализованная потенциальная угроза».
Согласно Малому академическому словарю под «риском» понимается «возможная опасность чего-либо»7. Социологический словарь раскрывает слово «риск» как «возможная опасность», либо «ситуативная характеристика деятельности, состоящая в неопределенности ее исхода и возможных неблагоприятных последствий в случае неуспеха»8. В Толковом словаре Ожегова9 и Толковом словаре Ушакова10: «риск-возможная опасность».
Так, феномен «опасность» довольно часто фигурирует при раскрытии сущностных характеристик понятия «риск». В рамках уголовной политики Н. Ф. Кузнецова характеризовала опасность, как «определенное состояние объекта в результате общественно вредных изменений в нем, произведенных преступным действием субъекта» [13, с. 43].
С целью выделения основных аспектов, характеризующих понятие «криминологический риск», нами было дано его расширительное толкование.
Криминологический риск – возможная криминогенная опасность, потенциальная угроза наступления общественно вредных изменений, которые при своём дальнейшем бесконтрольном развитии могут привести к криминальным последствиям и сформировать условия для реализации преступной деятельности.
В данном определении выделяются следующие аспекты: 1) криминологический риск ведёт к изменениям социально отрицательного характера, создающего криминогенную ситуацию; 2) криминологические риски можно и необходимо контролировать и минимизировать; только в случае полной бесконтрольной ситуации они приведут к криминальным последствиям; 3) криминологические риски при их реализации переходят в состояние общественной опасности и формируют процесс криминализации; 4) криминологические риски создают условия для совершения преступной деятельности.
Учитывая характерные особенности понятия криминологический риск, необходимо выстраивать комплексный правовой механизм регулирования общественных отношений, в частности, складывающихся в сфере противодействия использования современных информационных систем на основе ИИ в преступных целях.
Наличие криминологических рисков в условиях быстрого развития технологии ИИ представлено в следующих исследованиях.
Характеризирует определение «криминологический риск» Н.В. Ткачева, рассматривая его в рамках развития ИИ: «Это своего рода неблагоприятные последствия, которые могут наступить при применении искусственного интеллекта». В свою очередь, криминологические риски она отождествляет с последствиями морального, этического и правового характера [14, с. 58].
Высокие криминологические риски применения ИИ выделяют И.Р. Бегишев и З.И. Хисамова, представляют их классификацию: прямой криминологический риск – непосредственное воздействие на человека в результате опасности, вызванной применением ИИ; косвенный криминологический риск – непреднамеренные опасности, исходящие от ИИ [15, с. 773].
Иващенко М.А. выделяет новую форму организованной преступности: совершение преступлений с использованием искусственного интеллекта. Также в ходе исследования автор приходит к выводу, что деятельность определенных лиц, создавших искусственный интеллект, и, как итог, действия искусственного интеллекта могут быть общественно опасными и причинять вред охраняемым законом общественным отношениям. В результате, любой искусственный интеллект может совершить общественно опасное деяние в той сфере, в которой он действует [16].
Объектом преступного посягательства может выступать и сама система ИИ, например, вследствие перехвата кода управления беспилотного транспортного средства, что повлечет за собой создание прямой угрозы причинения вреда жизни и здоровью человека.
Большую потенциальную угрозу для достижения преступных целей представляет технология DeepFake. Это методика синтеза изображения и (или) голоса, основанная на искусственном интеллекте. Она использует генеративно-состязательные нейросети (GAN) для соединения и наложения существующих изображений или видео на исходные материалы.
Проведенное группой иностранных ученых исследование на предмет определения возможности выявления и распознавания речевых и аудио-подделок, созданных с помощью технологий DeepFake, привело к следующим результатам: даже в контролируемой среде, где участники были заранее ознакомлены с подложными примерами, - низкий уровень распознаваемости фейковых материалов, а с усложнением процесса и архитектуры технологии DeepFake успех на выявления подделки сводится практически к нулю11. Данные обстоятельства позволяют констатировать существование серьезных криминологических рисков для общества при дальнейшем развитии этой технологии.
Необходимо отметить, что возможности данной технологии уже были использованы в преступной деятельности. В частности, первая практическая преступная реализация технологий ИИ представлена применением именно технологи DeepFake. Мошенники применили метод синтеза и генерации голоса директора банковской компании, создав убедительную звуковую модель копии голоса. Представившись директором данной компании, мошенники дали поручения перевести определенную сумму денег на банковский счет в течение часа, что не вызвало подозрений у сотрудников, так как голос был идентичен оригиналу его носителя.
На данный момент в Китае уже введена уголовная ответственность за генерацию поддельных цифровых изображений, а в Российской Федерации этот вопрос рассматривается на законодательном уровне.
Также одной из особенностей криминологических рисков, исходящих от технологий ИИ, является наличие открытого программного кода для создания собственной искусственной нейросети, что дает возможность обучить и использовать её в преступных целях. Данное положение находит своё отражение в исследовании В.С. Овчинского: «У киберкриминала есть из чего выбрать для создания собственных мощных платформ ИИ. Практически все разработки ИИ с открытым исходным кодом представляют собой контейнеры. Контейнер – это платформа, на которой при помощи API могут монтироваться любые сторонние программы, сервисы, базы данных и т. п. Если раньше каждый при создании собственной программы или сервиса должен был от начала до конца первоначально разработать алгоритмы, а затем, пользуясь тем или иным языком программирования, перевести их в код, то сегодня возможно создавать продукты и сервисы так же, как строители строят дом – из стандартных, доставленных на стройплощадку деталей» [17, с. 150].
Данные примеры, отражающие негативные прогнозы дальнейшего развития технологий ИИ, детерминированы факторами риска, обуславливающими собой возникновение криминологических рисков.
Такими факторами риска, характеризующими технологии ИИ, будут являться:
- открытость (ИИ является публичной технологией, отсутствует какое-либо ограничение в её использовании);
- общедоступность (любой желающий пользователь сети «Интернет» имеет возможность использовать широкий функционал ИИ, например, посредством использования искусственной нейросети);
- открытый код для создания собственной искусственной нейросети;
- простота в использовании (форма реализации ИИ может быть представлена в виде чат-бота, что на интуитивном уровне представляется понятным в его использовании; не требует от пользователя специальных технических знаний);
- имитация человеческого проявления (технологии DeepFake);
- невозможность введение в цифровой код ИИ этических правил (ИИ не воспринимает морально-ценностных правил; для него есть только процесс цифровизации, расчет которого представлен посредствам математических методов);
- возможность обхода цензуры и барьеров недопущения неприемлемых запросов;
- гибкая коммуникативная система (ИИ распознает естественный язык, образы человека и обрабатывает их на высоком уровне, выявляет контекстуальные смыслы речи);
- неясность процесса принятия решений (проблема «черного ящика»);
- автономность в принятии решений (возникает острый вопрос ответственности за генерацию цифрового продукта).
Обсуждение и заключение
НТР, помимо общественного прогресса, несут потенциальные угрозы, обусловленные быстроразвивающимися цифровыми технологиями. Риск-ориентированный подход, в свою очередь, подвергает критическому анализу достижения НТР на предмет выявления рисков, возникающих в связи с их развитием и интеграцией в общественные отношения.
Современная действительность технического прогресса представлена широким развитием технологий ИИ, заключающих существенные криминологические риски их использования в социально-негативных, а именно преступных целях. Изучение технических характеристик, представляющих возможности функционирования ИИ, форму его реализации в цифровом пространстве, исследований уголовно-правового характера в области выделения криминологических рисков его проявления, а также существующую криминальную практику его негативного использования позволило выделить факторы риска, представляющие детерминационный комплекс, обусловливающий наличие криминологических рисков дальнейшего развития технологий ИИ.
1. Babaev M. M. Riski kak komponent determinacionnogo kompleksa prestupnosti // YUridicheskaya nauka i praktika: Vestnik Nizhegorodskoj akademii MVD Rossii. 2018. № 1(41). S. 104-110. – DOIhttps://doi.org/10.24411/2078-5356-2018-00014. – EDN UOGTLY.
2. Bradbury J.A. The Policy Implications of Differing Concepts of Risk. // Science, Technology and Human Values. 1989. Vol. 14. No. 4. P. 381–383.
3. Beck U. Risk Society. Toward a New Modernity. London, SAGE, 1992, P. 264
4. Bek U. Obshchestvo riska: na puti k drugomu modernu / per. s nem. V. Sedel'nika, N. Fedorovoj. Moskva: Progress-Tradiciya, 2000. 383 s. Per. izd.: Beck U. Risikogesellschaft. Frankfurt am Main: Suhrkamp, 1986.
5. Giddens E. Uskol'zayushchij mir: kak globalizaciya menyaet nashu zhizn'. Moskva: Ves' mir, 2004. 120 s.
6. Begishev I. R. Ugolovno-pravovaya ohrana obshchestvennyh otnoshenij, svyazannyh s robototekhnikoj: dis. … d-ra yurid. nauk 12.00.08 - Ugolovnoe pravo i kriminologiya; ugolovno-ispolnitel'noe pravo Kazan', 2022. 506 l.
7. Kudina o., Verbeek p.-p. Ethics from within: Google glass, the Collingridge dilemma and the mediated value of privacy // Science, technology & human values. 2019. Vol. 44, № 2. P. 291-314. DOI: https://doi.org/10.1177%2F0162243918793711
8. Pudovochkin YU.E. Koncept "risk" i problemy ugolovno-pravovoj nauki // Nauchnyj vestnik Omskoj akademii MVD Rossii. 2020. T. 26, № 4(79). – S. 58-67. DOIhttps://doi.org/10.24411/1999-625X-2020-11010. EDN DQARCZ.
9. Voronin V.N. Ugolovno-pravovye riski razvitiya cifrovyh tekhnologij: postanovka problemy i metody nauchnogo issledovaniya // Vestnik Universiteta imeni O.E. Kutafina (MGYUA). 2018;(12):73-80. https://doi.org/10.17803/2311-5998.2018.52.12.073-080.
10. Mozgovaya A.V., SHlykova E.V. «Social'naya priemlemost' riska» kak sociologicheskaya kategoriya // Sociologiya: metodologiya, metody, matematicheskoe modelirovanie. 2010. № 31. S. 30-45. EDN MUCUBT.
11. Babaev M.M., Pudovochkin YU.E. Fenomen riska v kontekste profilakticheskoj politiki (kriminal'naya riskologiya) // Vestnik Sankt-Peterburgskogo universiteta. Pravo. 2019. T. 10, № 1. S. 136-148. DOIhttps://doi.org/10.21638/spbu14.2019.110. – EDN PPNJWZ.
12. Begishev I. R. Kriminologicheskaya klassifikaciya robotov: risk-orientirovannyj podhod // Pravoprimenenie. 2021. T. 5, № 1. S. 185-201. DOIhttps://doi.org/10.52468/2542-1514.2021.5(1).185-201. EDN TBUVGY.
13. Kuznecova N. F. Znachenie prestupnyh posledstvij dlya ugolovnoj otvetstvennosti. Moskva, 1958 // Kuznecova N. F. Izbrannye trudy. Sankt-Peterburg, 2003. 219 s.
14. Tkacheva N. V. Iskusstvennyj intellekt v kontekste izucheniya lichnosti prestupnika // Problemy prava. 2020. № 4(78). S. 56-60. DOIhttps://doi.org/10.14529/pro-prava200409. EDN LMNLDM.
15. Begishev I.R., Hisamova Z.I. Kriminologicheskie riski primeneniya iskusstvennogo intellekta // Vserossijskij kriminologicheskij zhurnal. 2018. T. 12, № 6. S. 767–775. DOI:https://doi.org/10.17150/2500-4255.2018.12(6).767-775.
16. Ivashchenko M.A. Novye formy organizovannoj prestupnosti: kand. yurid. nauk: dis. … kand. yurid. nauk: 12.00.08 – Ugolovnoe pravo i kriminologiya; ugolovno-ispolnitel'noe pravo. Moskva, 2022. 217 s. EDN CEBOPN.
17. Ovchinskij V.S. Kriminologiya cifrovogo mira. Moskva: Norma, 2018. 352 s.
