что называется социотехническими системами
Управление созданием сложной социотехнической системы
Вы будете перенаправлены на Автор24
Социотехническая система
Социотехническая система – это совокупность технологических процессов производства, а также трудовых отношений и институтов.
Социотехнический подход затрагивает следующие сферы общественной жизни и деятельности:
Социальные институты, общество и подструктуры могут рассматриваться как сложные социотехнические системы. Отличительной особенностью данного подхода является исследование двусторонних отношений человека и машин. Сложность проектирования заключается в том, чтобы обеспечить эффективность взаимодействия и тех, и других факторов.
Социотехническая структура обычно образована технической, социальной подсистемами. Техническая подсистема состоит из технологий, инструментов, которые улучшают экономическую эффективность организации. Социальная подсистема состоит из служащих, включает в себя систему поощрений и систему управления.
Организация сама по себе является системой, находящейся в среде. Среда оказывает влияние на нее. Предприятие взаимодействует с государственными и социальными институтами. Чтобы достичь высокого уровня функционирования организации, необходимо гармонизировать ее работу и ее взаимодействие с внешней средой. Изначально техническая и социальная составляющая рассматривались отдельно друг от друга. Техническая часть включала в себя методы и инструменты, позволяющие обрабатывать входные данные и подготавливать их для выхода из системы. Социальные аспекты рассматривали работников всех уровней, взаимодействующих с системой. Позже в систему социальных связей были включены клиенты, поставщики, влиявшие на формальные и неформальные процессы.
Создание сложной социотехнической системы
Сложная социотехническая система отличается тем, что человек в ней в качестве рабочей силы встраивается в технологический процесс. Но производственная связь рассматривается в качестве социального элемента. Причиной этого является тот факт, что система соединяет людей, и ставит в зависимость результат одного работника от результата труда другого работника.
Готовые работы на аналогичную тему
Связь между социальной и технической сферой включает в себя следующие элементы:
Техническая часть также является средством реализации целей предприятия. Она определяет статусно-ролевые функции сотрудников, так как не все работники обладают знаниями для работы на тех или иных участках, поэтому техническая часть влияет на разделение труда. Последовательность производственных операций делит состав работников, определяет направленность работы каждого цеха и подразделения. Техническая оснащенность предприятия влияет на уровень профессионально-квалификационного состава работников. Если уровень технической развитости предприятия низкий, то труд используется преимущественно малоквалифицированный, ручной, физический. Технические условия накладывают отпечаток и на демографические требования к работникам. Условно рутинная повторяющаяся работа лучше выполняется женщинами. Там, где требуется больше физических затрат привлекаются мужчины.
Такие показатели труда как сложность, монотонность, трудоемкость, ритмичность во многом определяются именно технической стороной.
Оптимальность работы технологического оборудования достигается за счет параметров помещения, его конструкцией, освещением, планировкой и другими параметрами. Социотехнические системы нуждаются в единой организации, а значит, в централизации процессов.
Управление сложной социотехнической системой
Каждый элемент социотехнической системы требует определения его функций. Два узла образуют функциональную связь, и таких связей в структуре предприятия множество. Совокупность связанных фаз выражается в создании подразделений и цехов. Единство и в тоже время разделение процессов требуют специального управленческого похода, чтобы сохранять ритмичность и последовательность движения технологического процесса.
Управление сводится к объединению элементарных производственных задач и выявления технологий для каждого производственного звена. Технологический процесс является объектом управления. Централизованный подход позволяет построить его правильно. Централизация строится на принципах:
Властное управление необходимо в том числе и в технологической части работы. Составляя материальную основу трудовых отношений, техническая организация в значительной мере определяет социальную структуру предприятия. Еще в пятидесятые годы исследователи заметили, что рост технологического оснащения еще не является гарантом улучшения экономических показателей. Также работало и одностороннее улучшение положения работников, например, через поощрение или увеличение оплаты труда. Исследователи пришли к выводу, что техническую и социальную составляющую нужно рассматривать в совокупности.
Управление сводится не только к оптимальному взаимодействию двух по природе разных систем, но обеспечению их будущего устойчивого развития. Для развития системы недостаточно отдельного поэтапного улучшения. Социотехнический подход позволяет создать системы, которые будут эффективно функционировать в долгосрочной перспективе. Учет социотехнических факторов является важным в современном мире, где происходит сближение внутри национальных систем и за их пределами.
Производственное взаимодействие на международном уровне должно учитывать оба компонента – технологическую составляющую и социальные элементы, как совокупность факторов, определяющих успешное функционирование системы в будущем.
Социотехнические системы
Социотехнические системы (Sociotechnical systems (STS) в дисциплине «Организационное развитие» научный подход к проектированию трудового процесса в аспекте взаимодействия человека и технико-технологических факторов труда. В более общем смысле термин относится к изучению взаимодействия инфраструктурных элементов общества, предметных реализаций социума, с одной стороны, и человеческого поведения, с другой стороны. Общество, социальные институты и их подструктуры также могут рассматриваться как сложные социотехнические системы.
Концепция социотехнических систем в противоположность теориям технологического детерминизма, утверждавшим одностороннее воздействие технологии на человека в процессе выполнения им трудовых операций, основывается на идее взаимодействия человека и машины. Проектирование технических и социальных условий должно осуществляться таким образом, чтобы технологическая эффективность и гуманитарные аспекты не противоречили друг другу.
Содержание
Структура
Социотехническая система образована следующими подсистемами:
История развития социо-технического анализа
Виды социо-технического анализа
Литература
Полезное
Смотреть что такое «Социотехнические системы» в других словарях:
СОЦИОТЕХНИЧЕСКИЕ СИСТЕМЫ — (SOCIO TECHNICAL SYSTEMS) Термин, предложенный сотрудниками Тавистокского института человеческих отношений (Tavistock Institute of Human Relations). Он отражает тот взгляд, согласно которому эффективность производства возможна лишь при… … Социологический словарь
Научная организация труда — Эта статья или раздел нуждается в переработке. Пожалуйста, улучшите статью в соответствии с правилами написания статей … Википедия
АВТОМАТИЗАЦИЯ — (AUTOMATION) Технологическое изменение в индустрии эпохи модерна было направлено на замену человеческой силы и человеческого контроля механическими средствами. Простые формы механизации предоставляют лишь вспомогательные средства работникам… … Социологический словарь
Мамфорд, Льюис — В Википедии есть статьи о других людях с такой фамилией, см. Мамфорд. Льюис Мамфорд Lewis Mumford … Википедия
PEST-анализ — (иногда обозначают как STEP) это маркетинговый инструмент, предназначенный для выявления политических (Political), экономических (Economic), социальных (Social) и технологических (Technological) аспектов внешней среды, которые влияют на… … Википедия
СОЦИОЛОГИЯ РАБОТЫ И ЗАНЯТОСТИ — (SOCIOLOGY OF WORK AND EMPLOYMENT) Преемница того, что некогда называлось индустриальной социологией. Социологи, работающие в этой области, традиционно занимаются, главным образом, двумя вопросами: (1) исследованием природы социальных отношений в … Социологический словарь
ТЕХНОЛОГИЧЕСКИЙ ДЕТЕРМИНИЗМ — (TECHNOLOGICAL DETERMINISM) Концепция, согласно которой социальное изменение порождается изменениями в производственной технологии (например, такими, как изобретение паровой тяги). В этом свете промышленная революция предстает как совокупность… … Социологический словарь
ТЕХНОЛОГИЯ — (TECHNOLOGY) В том виде, в каком это понятие используется в социологии, оно охватывает все формы производственных технических приемов, включая ручные операции, и не является синонимом понятия машинного оборудования, как это представлено в… … Социологический словарь
ЧЕЛОВЕЧЕСКИХ ОТНОШЕНИЙ ШКОЛА — (HUMAN RELATIONS) Междисциплинарное течение в сфере изучения социальных отношений в индустрии, охватывающее социологию, социальную антропологию и социальную психологию; пользовалось значительным влиянием в научных и менеджерских кругах в период с … Социологический словарь
КРИТИЧЕСКИЙ РАЦИОНАЛИЗМ — направление в западноевропейской философии, пользовавшееся влиянием в 1960 1970 е гг. Главой этого направления был К. Поппер, идеи которого послужили теоретической основой К.р. и разрабатывались его учениками и последователями (Дж. Агасси, Дж.… … Философская энциклопедия
Система социотехническая
Техническая организация составляет материальную основу функционирования социальной организации, является средством реализации ее целей. Однако значение технической организации в жизни социальной организации в целом отнюдь не сводится к ее производительной функции. В производственных организациях она в значительной мере определяет статусно-ролевую структуру. Это проявляется, например, в разделении труда, при котором технологические требования играют решающую роль. Последовательность производственных операций вызывает разделение социального состава организации на ряд специализированных подразделений (цехов), оснащенность средствами труда и уровень их развития определенное наличие тех или иных служб; многочисленность различных функций и групп, связанных с обслуживанием производственного процесса, требует выделения особой сферы труда по координации и управлению. От технической организации в большой мере зависит также профессионально-квалификационный состав коллектива предприятия. Это прежде всего определяется уровнем технической оснащенности, сложностью технологического процесса, масштабами производства. Из низкой развитости технической организации вытекают наличие малоквалифицированного, ручного и физически тяжелого труда, требования к повышению социального образования и культурно-технического уровня работников. Именно развитие техники вызывает появление в сфере производства новых профессий (программисты, инженеры по ЭВМ), привлечение специалистов из других сфер знания (психологи, художники-конструкторы). Технические условия накладывают отпечаток и на некоторые демографические характеристики контингента работников на преобладание, например, «чисто» мужских или женских профессий. Кроме того, техническая организация во многом влияет на характер труда, содержание деятельности различных работников. Такие показатели, как монотонность, сложность, трудоемкость, ритмичность, использование интеллектуальных способностей в значительной степени определяются технической природой труда.
Естественно, что на функционирование организации в той или иной степени влияют и такие элементы технической организации, как конструкция и планировка помещений, освещение, вентиляция, окраска интерьера и т.д. С этим связано интенсивное развитие в последние годы технической эстетики, дизайна с целью наиболее целесообразного приспособления окружающей человека на производстве предметной среды к физиологическим и психологическим особенностям людей. Главным же социально-управленческим следствием технической организации является необходимость централизации. Наличие именно этого организационного комплекса вызывает появление основных элементов единой социальной организации.
Почти каждая отдельная деталь сложного технологического процесса требует выделения в организации специальной функции. Операциональная взаимозависимость двух производственных узлов образует функциональную связь. Совокупность связанных фаз производства находит свое выражение в создании организационных подразделений и т.д. Но множественность, расчлененность и вместе с тем единство технологических циклов порождает необходимость в ритмичном и последовательном движении всего технологического процесса, а значит, и в специфической функции по координации, управлению. Эта функция начинается с объединения элементарных производственных задач и выделения технология звеньев; возникает потребность в новом объединении уже на более высоком уровне и т.д.; наконец, процесс замыкается в общий производственный цикл и объединения каждого уровня сводятся в иерархическую пирамиду с единым центром. Иначе говоря, технологический процесс является той объективной основой, на которой возникает организация формальная предприятия. Централизованный принцип ее построения выступает как следствие ее технологической основы. А отсюда и такие продукты централизации, как принципы единоначалия, ранговых различий, руководства — подчинения, закрепляющие возникающую в этих условиях систему авторитетов. Авторитет и власть на производстве в своем формально-организационном выражении является необходимым следствием авторитета и власти техники. Таким образом, составляя материальную основу человеческих трудовых отношений на производстве, техническая организация в значительной степени определяет социальную организацию производства.
Социологический словарь / отв. ред. Г.В. Осипов, Л.Н. Москвичев. М, 2014, с. 419-421.
Преобразование предприятий / Под ред. Дж. Лоуга, С. Плеханова, Дж. Симмонса. М., 1997; Медынский В.Г., Ильдеменов С.В. Реинжиниринг инновационного предпринимательства. М., 1999; Пригожин А.И. Методы развития организаций. М., 2003; Он же. Дезорганизация. Причины, виды, преодоления. М., 2007.
Развитие социотехнических систем: от PKI и TTP до аудита доверия к ИИ
Аннотация
Статья развивает и актуализирует ряд предыдущих публикаций (1, 2, 3, 4, 5, 6, 7) на D-Russia.ru, посвящённых проблематике цифровой трансформации экономики и управления. В статье делается акцент на обеспечении информационной безопасности (ИБ) в различных существующих и перспективных функциональных системах. Рассмотрено развитие решений от обеспечения безопасности формы представления информации (инфраструктура открытых ключей – ИОК, или PKI, а также доверенная третья сторона – ДТС, или TTP) – до аудита доверия к ИИ (АДИИ), как нового направления исследований и практической реализации. При этом инфраструктура АДИИ должна быть нацелена на обеспечение ИБ прикладных систем, реализующих обработку смыслов (контента, содержания) информации.
Предложена гипотеза о том, что все три инфраструктуры предназначены для поддержки социотехнических систем, необходимые и достаточные признаки выделения которых в отдельную категорию обосновываются далее.
Основные положения статьи изложены во временной ретроспективе, что создаёт предпосылки для формулирования последующих направлений работ в соответствии с новыми вызовами и угрозами цифровой трансформации российской экономики и управления. В этой, перспективной, части статья носит дискуссионный характер, намечаются только некоторые принципиальные положения для дальнейшего изучения и моделирования.
Основные термины и определения
Для целей настоящей статьи предлагаются следующие термины и их определения:
Социотехническая система — человеко-машинная система, в работе которой участвует неограниченное число граждан, вычислительных комплексов и средств защиты; существенным элементом социотехнической системы является юридически значимая регламентация поведения людей с помощью специальных институтов – таких, в частности, как электронная подпись, регламенты использования персональных данных, информационная и физическая безопасность IT-систем и других.
Смысл – информация высокого передела, извлекаемая из больши́х данных путём не-алгоритмической обработки. В отличие от данных, обрабатываемых по алгоритмам для управления отдельно взятыми организациями, смыслы обусловливают мотивы поведения как людей, так и машин, входящих в социотехническую систему. Примеры: медицинская диагностика и представлений об обстоятельствах возникновения болезней, влияние беспилотного транспорта на поведение водителей, «представления» судебной ИИ-системы о классификации юридических случаев и соответствующем правоприменении, мониторинг СМИ и социальных сетей.
Ролевая модель – состав и юридические правила взаимодействия участников социотехнической системы. Правила взаимодействия реализуются в форме регламентов, нормативных-правовых актов, технических стандартов, законов.
Предпосылки (на примере ЭЦП)
Первое практическое применение в России электронная цифровая подпись (ЭЦП) нашла в рамках создания системы защиты для передачи банковской платёжной информации после историй фальшивыми авизо. По такого рода авизо преступники получили более 4 триллионов рублей.
Проект ЭЦП реализовывался в 1993-1996 годах по поручению президента России силами подразделений Банка России и спецслужбы – ФАПСИ при президенте РФ. Во всех 1500+ районных расчётно-кассовых центрах были созданы региональные сети передачи конфиденциальной банковской информации, использующие ЭЦП «Верба». Решение показало свою эффективность.
Можно выделить отдельные характерные черты созданной системы:
Можно констатировать, что проект, направленный на противодействие фальшивым авизо, был прообразом социотехнической системы в масштабе страны при отсутствии широкого круга поставщиков (рынка) безопасных средств криптографической защиты информации (СКЗИ) и государственного регулирования вопросов разработки, производства, реализации и эксплуатации, которое появилось значительно позднее.
Инфраструктура открытых ключей
Как уже было сказано, первым масштабным практическим опытом создания системы защиты для передачи банковской платёжной информации был проект, реализованный в 1993-1996 годах силами Банка России и ФАПСИ при президенте РФ. При этом во всем мире и у нас в стране лавинообразно нарастала ведомственная и корпоративная информатизация, которая требовала (для отдельных наиболее критичных приложений) обеспечения юридической значимости электронного документооборота. Это в свою очередь диктовало необходимость формирования рынка решений СКЗИ и его регулирования (институциализации).
Импульсом, запустившим государственное регулирование нового рынка, стало принятие Федерального закона «Об электронной цифровой подписи» от 10.01.2002 N 1-ФЗ. Целью закона являлось обеспечение правовых условий использования ЭЦП в электронных документах, чтобы ЭЦП признавалась равнозначной собственноручной подписи в документе на бумажном носителе.
Можно отметить, что сформированные законодательные правовые условия, наряду с подзаконными актами назначенных государством регуляторов, могут рассматриваться в качестве правовой основы для предоставления информационно-безопасных сервисов в конкретных функциональных приложениях. К ним можно отнести различные системы электронного документооборота, например, в таможенной или налоговой сфере, а также в области государственных или корпоративных закупок. Эта правовая основа не затрагивает регулирования содержательных аспектов налоговых, таможенных или закупочных процедур, которые определяются отдельными законами, а относится только к форме представления информации, обеспечивая её юридическую значимость.
Таким образом, можно констатировать, что в 2004 году были созданы необходимые нормативно-правовые и организационно-регулятивные условия для формирования и развития в России надёжной инфраструктуры открытых ключей для поддержки функционирования различных отраслей экономики и государственного управления.
Для формирования регулируемого рынка СКЗИ в рамках инфраструктуры открытых ключей Росинформтехнологии в 2004 году поддержало участников рынка СКЗИ о создании специализированной конференции, которая впоследствии получила название PKI-Форум. Этот форум сыграл значительную роль в развитии технологий и приложений с использованием PKI. В сентябре 2021 года в Санкт-Петербурге состоялась XIX международная конференция по проблематике инфраструктуры открытых ключей и электронной подписи, в работе которой приняло участие более 200 делегатов, представляющих российские и иностранные государственные органы и бизнес-структуры. Сформирован проект итоговой декларации.
Можно выделить отдельные характерные черты созданной и продолжающей развиваться инфраструктуры открытых ключей в России:
Есть все основания отнести инфраструктуру открытых ключей вместе с поддерживаемыми прикладными приложениями в России к категории сложных социотехнических систем.
Трансграничное пространство доверия на основе доверенной третьей стороны (TTP)
В ноябре 2004 года на PKI-секции выставки «Охрана и безопасность» на территории Ленэкспо в Санкт-Петербурге Росинформтехнологии предложили польским участникам из компании «Unizeto Technologies S.A.» (в настоящее время компания Certum) реализовать пилотный проект по трансграничным электронным государственным закупкам с участием администрации Белгородской области на основе международного стандарта X.842. В последующие два года в рамках ФЦП «Электронная Россия» был создан макет программно-аппаратного комплекса TTP, который продемонстрировал работоспособность этой технологии не только на национальном, но и на международном уровне. Однако юридическая значимость трансграничного электронного документооборота не могла быть обеспечена в полной мере без соответствующей международной нормативно-правовой и организационно-регулятивной поддержки.
Это как раз тот случай, когда социотехническая система не может выйти на предоставление массовых сервисов без формирования соответствующих нормативно-правовых и организационно-регулятивных условий, в том числе в области стандартизации, формируемых не в национальном правовом поле, а для двусторонних или многосторонних отношений.
Работа по формированию таких условий была сначала проведена в рамках Евразийского экономического союза (ЕАЭС). Результатом стал вступивший в силу в 2015 году Договор о создании ЕАЭС, который предусматривал создание, функционирование и развитие такой новой правовой сущности, как трансграничное пространство доверия, основу которой составляет комплекс TTP. В последующем, в рамках Евразийской экономической комиссии, были разработаны и приняты протоколы, которые позволяют перейти к предоставлению массовых сервисов с использованием TTP. Однако следует отметить, что сам переход к массовым сервисам ещё не состоялся.
Важную роль в переходе к массовым сервисам с использованием TTP играет федеральный закон «Об электронной подписи» от 06.04.2011 N 63-ФЗ в котором появились введённые Федеральным законом от 27.12.2019 N 476-ФЗ:
Важная работа по внедрению приложений трансграничного электронного документооборота проводилась и в других региональных и глобальных международных форматах, таких как СНГ, БРИКС, АТЭС, Европейский союз, СЕФАКТ, ЭСКАТО, Европейская экономическая комиссия ООН, а также в двусторонних отношениях России с различными странами, в том числе с Китаем.
Особо следует отметить начатый в 2017 году проект, проводимый в рамках ЮНСИТРАЛ и нацеленный на решении масштабных задач – основываясь на общих принципах и терминологии, обеспечить единый (или по крайней мере единообразный) правовой режим для частных и публичных систем IdM (систем управления идентификационными данными), а также для широкого спектра сервисов доверия. Как было изложено в докладе доктора Игоря Фургеля на PKI-Форуме 2021 года, в рамках проекта рассматриваются такие правовые вопросы, как:
Кроме того, проект включает:
При этом учитывается баланс между априорным (ex-ante) назначением надёжных сервисов и определением их надёжности постфактум (ex-post), а также их соответствующие юридические последствия.
Отмечается, что при отсутствии глобально действующей международной правовой основы (например, конвенции) особенно важную роль играют трансграничные аспекты IdM и сервисов доверия.
Предыдущая сессия, на которой обсуждался проект положений, прошла в апреле 2021, следующая запланирована на ноябрь 2021. Документы можно см. на официальном сайте ЮНСИТРАЛ.
Приведённая выше информация позволяет выделить отдельные характерные черты создаваемой международной инфраструктуры цифрового доверия, в качестве одной из разновидностей социотехнических систем в контексте настоящей статьи:
Тем не менее, трудности роста не мешают причислить трансграничное пространство доверия к категории социотехнических систем и сформулировать на этом примере основные признаки такого рода систем:
Именно наличие таких системных компонентов, как а) нацеленность на эффективную организацию социума на основе институтов доверия, что предполагает некоторые ограничения по требованиям ИБ, а также б) наличие соответствующих доверенных технических решений, и определяет облик социотехнических систем.
Отметим ещё раз, что имеющиеся аналоги подобных систем работают только с формой представления данных, но не со смыслами, извлекаемыми из данных.
Новые вызовы и угрозы, связанные с широким применением ИИ
Глобальный тренд на всеобщую цифровую трансформацию ставит на повестку дня принципиально новые вызовы и угрозы, связанные с созданием сложных социотехнических систем, обеспечивающих не только безопасную форму представления и оборота информации, но и умеющую безопасно работать со смыслами, содержащимися в больших данных. Это – качественно новая задача. Представляется, что решать её можно по аналогии с формированием и функционирования других успешных (PKI) или ещё не завершённых (TTP) проектов, приведённых как пример в настоящей статье.
Безопасность работы со смыслами не должна отменять традиционные ИБ-технологии, созданные за последние десятилетия, а использовать их достижения для решения принципиально новых задач в рамках модели комплексной ИБ, упрощенная схема которой приведена на рисунке.
Упрощенная модель комплексной ИБ.
При этом различные информационные системы не обязательно должны востребовать все три типа технологий ИБ. Большинство систем общего применения используют только связку логин-пароль для защиты от несанкционированного доступа, или другие иные системы идентификации и аутентификации. Представляется, что они не могут быть причислены к социотехническим системам, условия отнесения к которым были сформулированы выше, поскольку такие системы общего пользования не требуют обязательного нормативно-правового и организационно-регулятивного обеспечения.
Далее целесообразно рассмотреть ролевую модель в рамках проектирования создаваемой инфраструктуры для обеспечения ИБ-технологий, использующих ИИ (см. рисунок).
Ролевая модель взаимодействия субъектов и объектов регулирования с использованием программно-технических средств.
Такая ролевая модель не привязана к конкретной ведомственной, корпоративной или общественной реализации. Логика предлагаемой ролевой модели основана на опыте создания и регулирования изложенных выше ИБ-инфраструктур, таких как PKI и TTP – так проще перейти к практическим шагам по формированию инновационных проектов (программ) в различных областях цифровой трансформации государства и бизнеса. При этом для каждой конкретной реализации потребуется соответствующая адаптация этой модели.
Ниже раскрываются отдельные элементы и взаимосвязи в рамках общей ролевой модели:
1. Важнейшую роль в модели играет регулятор, или совокупность регуляторов – по аналогии с PKI и TTP.
В отдельных случаях ИБ может трактоваться в широком плане, не только как безопасность технологий, но и как безопасность смыслов, что для ИИ-систем государственного масштаба может потребовать специфического регулирования. Это особенно актуально как ответ на рекомендательные сервисы цифровых платформ (не обязательно иностранных), которые не соответствуют социокультурным представлениям и нравственным ориентирам общества. Для реализации этой сложной, многоаспектной и деликатной задачи потребуется, вероятно, инновационный подход к регулированию.
Можно отметить, что роль регулятора в области обеспечения ИБ для прикладных систем с использованием ИИ (предмет регулирование здесь не просто данные, но и методы извлечения смыслов из данных) в России ещё не определены, и даже не вполне осознана необходимость создать такое регулирование.
Для корпоративных и публичных систем с использованием ИИ регулятивная ситуация будет выстраиваться в «облегчённой» версии. В большинстве случаев будет достаточно саморегулирования.
2. Регулятор (в какой бы форме ни осуществлялось регулирование) будет отвечать за работу институтов, обеспечивающих функционирование социотехнических систем любой сложности, и поддержку безопасности социотехнических систем специализированной ИБ-инфраструктурой. (Здесь снова уместна аналогия с темами PKI и TTP, как пример разработки и применения необходимых регулятору нормативно-правовых актов).
3. Важную роль играет оператор социотехнической системы, который может пониматься как юридическое лицо – собственник (владелец) системы в совокупности с категорией уполномоченных лиц, которые от имени оператора реализуют бизнес или административную логику процессов в соответствии с утвержденными (или рекомендованными) регламентами и иными положениями.
4. Необходима отдельная информационная система с условным название «ПАК Аудитор» – совокупность технических и программных средств, реализующих функции аудита доверия к ИИ. В широком плане это инфраструктура аудита доверия к прикладным системам на основе ИИ (АДИИ). Опять-таки уместна аналогия с национальной или международной инфраструктурой открытых ключей, обеспечивающих доверие к соответствующим системам электронного документооборота.
При этом отдельную прикладную системы с использованием ИИ можно упрощённо представить как обычную техническую систему, функционирующую таким образом, что на неё можно поставить набор датчиков, которые отслеживают по заданным извне алгоритмам соответствие определённым параметрам. «ПАК Аудитор» отслеживает выход параметров за установленные границы и сигнализирует об этом уполномоченным лицам оператора.
Здесь кроется едва ли не главная проблема. В обычных технических системах такой алгоритм аудита является тривиальным, но для ИИ-систем необходим будет период выработки таких контрольных параметров в отношении не данных, а смыслов.
Очевидно, что «ПАК Аудитор» должен строиться на основе платформ, использующих доверенную операционную систему и отечественную элементную базу, а также проходить процедуры сертификации (для технических решений) и аккредитации оператора. Подобного рода решения в России имеются. Они были бы обязательны только для систем общегосударственного значения. Для всех других систем возможно установить упрощённые процедуры.
В каком-то смысле «ПАК Аудитор» может рассматриваться, как «удавка» или ограничитель для ИИ-систем на случай их «абнормального поведения», которое может быть вызвано сбоями или целенаправленным воздействием извне. Возможны также инциденты, связанные и с некорректной работой уполномоченных лиц оператора. Их действия должны протоколироваться, и инциденты могут рассматриваться в комиссии по инцидентам.
5. Разработка модели угроз и нарушителя является начальным и традиционным этапом в процедурах обеспечения ИБ. Для отдельных систем может выделяться модель рисков, которая формируется ролевым собственником рисков, если он будет закупать на аутсорсинге ИКТ-сервисы и ИБ-сервисы. Так поступают, например, многие банковские структуры.
6. Выше были сформулированы признаки социотехнических систем (наличие технологий, институциональность, массовые сервисы). «Массовые сервисы» в контексте статьи – это средства анализа массивов больших данных. По мере развития такие средства могут сформировать отдельный рынок
7. Представленная универсальная ролевая модель вполне может стать основой (по крайней мере – фрагментом) целевой модели национальной цифровой экономики.
Выводы
Об авторе: Алексей Домрачев, советник руководителя Научно-технического центра ФГУП «ГРЧЦ».