close

Вход

Забыли?

вход по аккаунту

?

Системный анализ методы и модели построения интеллектуальных систем принятия решений при управлении сложными организационно-техническими комплексами

код для вставкиСкачать
На правах рукописи
Долинина Ольга Николаевна
СИСТЕМНЫЙ АНАЛИЗ, МЕТОДЫ И МОДЕЛИ ПОСТРОЕНИЯ
ИНТЕЛЛЕКТУАЛЬНЫХ СИСТЕМ ПРИНЯТИЯ РЕШЕНИЙ
ПРИ УПРАВЛЕНИИ СЛОЖНЫМИ ОРГАНИЗАЦИОННОТЕХНИЧЕСКИМИ КОМПЛЕКСАМИ
05.13.01 – Системный анализ, управление и обработка информации
(в технической отрасли)
АВТОРЕФЕРАТ
диссертации на соискание ученой степени
доктора технических наук
Саратов – 2018
Работа выполнена в Федеральном государственном бюджетном образовательном
учреждении высшего образования «Саратовский государственный технический
университет имени Гагарина Ю.А.»
Научный консультант:
член-корреспондент РАН РФ, доктор технических
наук, профессор Резчиков Александр Федорович
Официальные оппоненты:
Рапопорт Эдгар Яковлевич, доктор технических
наук, профессор, профессор кафедры «Автоматика
и управление в технических системах» Федерального
государственного
бюджетного
образовательного
учреждения высшего образования «Самарский
государственный технический университет»
Квятковская Ирина Юрьевна, доктор технических
наук, профессор, директор института информационных
технологий,
заведующий
кафедрой
«Высшая
и прикладная математика» Федерального государственного бюджетного образовательного учреждения
высшего образования «Астраханский государственный
технический университет»
Бессмертный Игорь Александрович, доктор
технических наук, доцент, профессор кафедры
вычислительной техники Федерального государственного автономного образовательного учреждения высшего образования «Санкт-Петербургский национальный
исследовательский
университет
информационных технологий, механики и оптики»
Федеральное государственное бюджетное учреждение
науки Институт проблем управления сложными
системами Российской академии наук (г. Самара)
Ведущая организация:
Защита диссертации состоится «17» апреля 2018 г. в 15 часов на заседании диссертационного совета Д 212.242.04 при ФГБОУ ВО «Саратовский государственный
технический университет имени Гагарина Ю.А.» (410054, г. Саратов,
ул. Политехническая, 77, корп. 1, ауд. 414).
С диссертацией можно ознакомиться в научно-технической библиотеке ФГБОУ ВО
«Саратовский государственный технический университет имени Гагарина Ю.А.» и
на сайте www.sstu.ru
Автореферат разослан «
»
2018 г.
Ученый секретарь
диссертационного совета
О.Ю. Торгашова
2
ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ
Актуальность темы исследования. Повышение уровня компьютеризации
сложных организационно-технических систем, таких как промышленные, энергетические и транспортные, безусловно, привело к возрастанию их эффективности. Однако дальнейшее развитие этих систем сдерживается недостаточным качеством
программного обеспечения их систем управления, что приводит к увеличению вероятности возникновения аварий и катастроф.
Один из путей решения этой проблемы связан с разработкой новых, более
совершенных моделей и методов построения интеллектуальных систем принятия
решений для повышения оперативности и качества управления сложными организационно-техническими комплексами.
Создание интеллектуальных систем принятия решений в соответствии с Указом Президента РФ от 07.07.2011 г. № 899 отнесено к приоритетному направлению
развития науки, технологий и техники в Российской Федерации и является одним из
направлений программы «Цифровая экономика Российской Федерации», утвержденной Правительством РФ 28.07.2017 г. В связи с этим данное диссертационное исследование, направленное на создание теоретического и методологического базисов решения проблемы повышения эффективности и качества принятия
решений в интеллектуальных системах управления организационно-техническими
комплексами, имеет важное хозяйственное значение.
Степень разработанности проблемы. Общие принципы и подходы к созданию систем управления сложными системами достаточно широко представлены
в работах В.М. Буркова, Д.А. Новикова, Э. Фейгенбаума, Н.П. Бусленко,
Г.С. Поспелова, Д.А. Поспелова, А.П. Еремеева, О.И. Ларичева, В.А. Ирикова,
А.Ф. Резчикова, Р.И. Макарова, А.Д. Цвиркуна, Р.М. Юсупова, Р. Дорфа, Р. Бишопа
и других известных отечественных и зарубежных ученых. Однако возрастающая
сложность современных промышленных и организационно-технических объектов
вызывает необходимость использования при управлении ими методов системного
анализа и теории искусственного интеллекта, позволяющих осуществить комплексный анализ всего спектра формальных знаний по выработке управляющих воздействий. При создании интеллектуальных систем управления наибольшую сложность
представляет работа со знаниями. Методы их извлечения и формализации в настоящее время достаточно хорошо разработаны, однако методология организации систем поддержки принятия решений, основанных на них, до сих пор остается весьма
ограниченно формализованной, базирующейся в основном на экспертном подходе,
требующем больших временных и финансовых затрат, но не гарантирующей отсутствие ошибок в базе знаний.
Среди трудов, посвященных классификации ошибок в базах знаний экспертных систем и обеспечению их корректной работы, следует отметить работы
И.Г. Поспелова, Л.Я. Поспеловой, С.А. Зыковой, А. Нариньяни, В Скотта,
Б. Нгуэна, Я. Тепанди и М. Стендела. При этом наибольшего успеха добились исследователи, развивающие статические методы обеспечения корректной работы базы знаний, которые не требуют запуска системы на выполнение. Однако, несмотря
на полученные результаты, до сих пор не существует единого подхода к формализации структурных ошибок в базах знаний, выявляемых статическими методами. К
тому же статически корректные базы знаний не гарантируют правильности управленческих решений за счет ошибок в самих знаниях, часто связанных со сложностью предметной области, допускающей дублирующие системы рассуждений.
3
Тестирование базы знаний до сих пор решает ограниченный круг задач по
обнаружению ошибок в них. Известны лишь отдельные попытки автоматизации
методов построения тестов для узкого круга моделей знаний.
Объект исследования – программные средства интеллектуальных систем
принятия решений, используемых при управлении сложными организационнотехническими комплексами.
Предмет исследования – методы и модели построения интеллектуальных
систем принятия решений для управления сложными организационнотехническими комплексами на основе продукционных и нейросетевых баз знаний.
Целью диссертационной работы является решение важной научнотехнической проблемы, заключающейся в разработке задач, моделей и методов построения интеллектуальных систем принятия решений для управления сложными организационно-техническими комплексами, что позволит обеспечить эффективность и
качество функционирования программных средств, а также корректную работу продукционных и нейросетевых баз знаний, положенных в основу построения этих систем.
Для достижения данной цели необходимо решить следующие задачи:
– выполнить анализ состояния работ в области построения ИСПР,
сформировать основные направления исследования в части разработки
методологии повышения эффективности и качества их функционирования;
– построить комплекс математических моделей, позволяющих в широком
диапазоне интервалов времени получать прогнозные значения основных
показателей качества функционирования ИСПР, определить общий подход к
построению данного комплекса моделей;
– предложить и обосновать процедуру построения системы нелинейных
дифференциальных уравнений, основанную на использовании математического
аппарата теории причинно-следственных комплексов и системной динамики
Форрестера, для прогнозирования показателей качества программного обеспечения
ИСПР;
– разработать модели и алгоритмы формирования плана операций по
повышению качества функционирования ПО в виде дерева событий, позволяющие
осуществлять построение плана операций для большого множества вершин и дуг;
– выполнить классификацию и формализацию основных типов ошибок в
базах знаний ИСПР и установить их связь с надежностью, безопасностью и
другими показателями качества функционирования организационно-технических
комплексов;
– разработать подходы к устранению сбоев программного обеспечения
ИСПР, включая тестирование их БЗ, позволяющие выявлять сложный класс ошибок
– «забывание об исключении»;
– провести апробацию методологии повышения эффективности и качества
функционирования ИСПР на примерах реальных объектов.
Научная новизна работы соответствует пунктам 2, 10, 11 и 13 паспорта
специальности 05.13.01 «Системный анализ, управление и обработка информации»
и заключается в следующем:
1. Выполнена формальная постановка задачи повышения эффективности
функционирования интеллектуальных систем принятия решений для организационно-технических комплексов как задачи вариационного исчисления на условный
экстремум, обеспечивающая оптимизацию качества программного обеспечения
этих систем при их функционировании на различных интервалах времени.
4
2. Установлено, что решение поставленной задачи может быть сведено к
синтезу комплексного плана операций по повышению качества программного
обеспечения и анализу выполнимости этого плана при различных управляющих
воздействиях и состояниях внешней среды. Разработаны модели и алгоритмы синтеза данного плана в виде дерева событий – графа, позволяющего находить пути,
приводящие к корневому событию – вершине дерева и устанавливать минимальное
количество комбинаций событий – сечений, которые могут вызвать его.
3. Предложена и обоснована методика проверки выполнимости плана операций с помощью аппарата булевых функций и продукционных моделей, позволяющая представить проверяемый план в виде совокупности дискретных логических
структур, единичный сигнал на выходе которых свидетельствует о возможности
исполнения плана в заданный момент времени.
4. Разработаны математические модели, позволяющие определить вероятности возникновения неблагоприятных сочетаний событий в процессе реализации
плана операций для трех-, четырех-, пяти- и шестиэлементных минимальных сечений, что позволит повысить надежность программного обеспечения интеллектуальных систем. Предложена и обоснована процедура проведения вычислительных экспериментов с математическими моделями минимальных сечений, использованная
для подтверждения адекватности разработанного математического обеспечения.
5. На основе использования математического аппарата системной динамики
Форрестера, разработана процедура формирования системы нелинейных дифференциальных уравнений, обеспечивающая комплексный учет основных внутренних и внешних факторов и их взаимосвязей, определяющих функционирование
интеллектуальных систем принятия решений. Построена система дифференциальных нелинейных уравнений, отражающая изменения характеристик программного
обеспечения интеллектуальных систем принятия решений в процессе ее функционирования.
6. Выполнены классификация и формализация основных типов ошибок в
продукционных и нейросетевых базах знаний, используемых при построении интеллектуальных систем принятия решений, позволяющая сократить количество моделей ошибок, ограничив его числом выделенных классов. Разработаны подходы к
устранению сбоев программного обеспечения интеллектуальных систем принятия
решений, а также тестирования их баз знаний, позволившие выявлять наиболее
сложный класс ошибок – «забывание об исключении», приводящих к наибольшему
материальному ущербу при функционировании интеллектуальных организационнотехнических комплексов.
7. Проведена апробация методологии повышения эффективности и качества
функционирования интеллектуальных систем принятия решений на примерах из
областей энергетики и медицины.
Методология и методы исследования. Для решения поставленных задач
использовались: системный анализ, теория управления, методы искусственного интеллекта и теория принятия решений.
Основные положения, выносимые на защиту:
1. Формальная постановка задачи повышения эффективности функционирования интеллектуальных систем принятия решений для организационнотехнических комплексов, позволяющая выполнить оптимизацию качества программного обеспечения этих систем с учетом взаимосвязи внутренних и внешних
факторов, определяющих поведение системы.
5
2. Подход к решению поставленной задачи, заключающийся в синтезе комплексного плана операций по повышению качества программного обеспечения и
анализе реализуемости этого плана при различных управляющих воздействиях и
состояниях внешней среды. Построение моделей и алгоритмов синтеза данного
плана в виде дерева событий, позволяющего находить пути, приводящие к корневому событию дерева, и определять минимальное количество комбинаций событий,
которые могут его вызвать.
3. Методика проверки реализуемости плана операций на основе использования аппарата булевых функций и продукционных моделей, позволяющая представить этот план в виде совокупности дискретных логических структур, единичный
сигнал на выходе которых указывает на возможность его исполнения.
4. Подход к определению вероятностей возникновения неблагоприятных сочетаний событий на основе решения систем дифференциальных уравнений Колмогорова – Чепмена для трех-, четырех-, пяти- и шестиэлементных минимальных сечений. Процедура проведения вычислительных экспериментов для подтверждения
адекватности разработанного математического обеспечения.
5. Процедура формирования системы нелинейных дифференциальных уравнений, отражающей изменения характеристик программного обеспечения интеллектуальных систем принятия решений в процессе ее функционирования.
6. Классификация и формализация основных типов ошибок в продукционных
и нейросетевых базах знаний, позволяющая сократить количество моделей ошибок.
Подходы к устранению сбоев программного обеспечения интеллектуальных систем
принятия решений, тестирования их баз знаний, обеспечивающие обнаружение
наиболее трудного для выявления типа ошибок – «забывание об исключении».
7. Апробация методологии повышения эффективности и качества функционирования интеллектуальных систем принятия решений на примерах из областей
энергетики и медицины.
Теоретическая и практическая значимость диссертационного исследования заключается в разработке концептуальных основ создания интеллектуальных
систем принятия решений, а также методов отладки баз знаний интеллектуальных
систем принятия решений, повышающих безотказность функционирования сложных организационно-технических комплексов.
Результаты исследования внедрены в ряде организаций, в том числе на предприятиях энергетической отрасли Саратовской области, в клиниках ФГБОУ ВПО
«Саратовский государственный медицинский университет имени В.И. Разумовского», НУЗ «Дорожная клиническая больница на станции Саратов-II ОАО «РЖД»»
(НУЗ ДКБ), а также в учебном процессе ФГБОУ ВО «Саратовский государственный технический университет имени Гагарина Ю.А.», ФГБОУ ВО «Новосибирский
государственный университет экономики и управления».
Личный вклад. Все основные результаты, выводы и положения, выносимые
на защиту, а также информационное и программное обеспечение получены автором
лично или под его руководством. В совместных работах автору принадлежит ведущая роль в разработке общей концепции работы, ее структуры, методик исследований, методологии реализации интеллектуальных систем принятия решений, создании математических моделей и программ на их основе. Автором диссертации разработаны алгоритмы программ, на которые получены свидетельства о государственной регистрации программ для ЭВМ, зарегистрированные под № 2016619717,
2014612271, 2014612272, 2011610038, 2013661540, 2007615261.
6
Реализация результатов работы. Исследования выполнены в соответствии
с планами госбюджетных НИР Саратовского государственного технического университета (СГТУ) имени Гагарина Ю.А.:
1. Проблема 03В.06. Современные методы обработки многомерных данных и
временных рядов (2000-2005 гг.).
2. Проблема 03В.03. Построение методов контроля качества функционирования интеллектуальных систем (2010-2012 гг.).
3. Проект 03В.02. Разработка методов проектирования интеллектуальных систем в слабо формализованных предметных областях для производственных и социально-экономических задач (2013-2015 гг., 2016-2018 гг.).
4. Федеральная целевая программа «Исследования и разработки по приоритетным направлениям развития научно-технологического комплекса России на
2007-2013 годы», мероприятие 5.3 «Развитие системы демонстрации новых достижений и трансфера передового опыта по проблемам развития науки и инноваций».
Результаты диссертационной работы нашли применение при создании интеллектуальных систем принятия решений для реальных организационно-технических
комплексов, в том числе имеющих повышенные требования к надежности принимаемых решений, обеспечению бесперебойной работы приборов и устройств в
энергетике, принятию решений в медицине и других важных для народного хозяйства областях.
Результаты работы использованы также при устранении сбоев программного
обеспечения интеллектуальных систем принятия решений: СВФ-АНАЛИЗ (Экспертная система (ЭС) прогноза дефектов промышленных изделий), NNetwork
(программа реализации нейросетевого эмулятора для разработки ЭС, основанных
на трехслойных персептронах), Glaucoma Complaint (ИСПР прогноза комплаентности офтальмологических больных), NNetwork Tester, NNetwork Translator, NNetwork
Complex (программный комплекс генерации тестов для отладки баз знаний) и
ИСПР прогноза развития нестабильной стенокардии), ИСПР GAZDETECT для
определения причин неисправностей газоперекачивающих агрегатов.
Материалы исследований использованы в учебном процессе при чтении лекций, выполнении курсового и дипломного проектирования студентами кафедры
«Прикладные информационные технологии» ФГБОУ ВО «Саратовский государственный технический университет имени Гагарина Ю.А.»), в лекционных курсах в
ФГБОУ ВО «Новосибирский государственный университет экономики и управления». Разработанное ПО для тестирования ИСПР внедрено и функционирует в
СГТУ, в ООО «Сателлит Софтлабз», ООО «Геофизмаш». Созданные ИСПР для
принятия решений в неотложной кардиологии, прогноза комплаентности успешно
функционируют в клиниках Саратовского государственного медицинского университета им. В.И. Разумовского, НУЗ ДКБ, ИСПР GAZDETECT – на предприятиях
энергетической отрасли РФ (АО «НЕФТЕМАШ»-САПКОН, ООО «СЭПО-ЗЭМ»,
ООО «Геофизмаш», ООО НПО «Поволжская энергетическая компания»).
Достоверность полученных результатов обеспечивается корректным применением методов, подходов и исследований, которые строго обоснованы в научной литературе, апробированы и хорошо себя зарекомендовали при проведении
научных исследований, и подтверждается успешным внедрением разработанных
алгоритмов, программных средств и интеллектуальной системы принятия решений
в различных организациях и предприятиях.
Апробация результатов диссертации. Результаты работы докладывались на
международных научных конференциях «Математические методы в технике и техно7
логиях»: ММТТ-13 (Саратов, 2000); ММТТ-16 (С.-Петербург, 2003); ММТТ-17 (Кострома, 2004); ММТТ-21 (Саратов, 2008); ММТТ-22 (Псков, 2009); ММТТ-23 (Саратов, 2010); ММТТ-24 (Саратов, 2011); ММТТ-25 (Харьков, 2012); ММТТ-26
(Н.Новгород, 2013); ММТТ-27 (Саратов, 2014); ММТТ-28 (Саратов, 2015); Международной научно-технической конференции «Проблемы управления и связи» (Саратов,
2000); международных конференциях по инженерным наукам и образованию ICEE
(Чешская Республика, 2004; Венгрия, 2008; Польша, 2010; ЮАР, 2013; Марокко,
2013); III Всероссийской конференции «Инновационные технологии в обучении и
производстве» (Камышин, 2005); Всероссийской научной школе-семинаре «Методы
компьютерной диагностики в биологии и медицине» (Саратов, 2008); Всероссийской
конференции «Проведение научных исследований в области обработки, хранения, передачи данных и защиты информации» (Ульяновск, 2009); Всероссийской научнопрактической конференции «Инновации и актуальные проблемы техники и технологий» (Саратов, 2010); Всероссийской конференции «Проблемы управления в социально-экономических и технических системах (Саратов, 2010-2017); XVIII Всероссийской
научно-методической конференции «ТЕЛЕМАТИКА» (С.-Петербург, 2011); Международной конференции «Информационно-коммуникационные технологии в образовании, производстве и научных исследованиях» ICIT (Саратов, 2012, 2014, 2016, 2017);
Международной конференции по клауд-вычислениям, обработке больших данных и
надежности ICBDT (Индия, 2013); Международной научно-технической конференции
«Перспективные информационные технологии (ПИТ)» (Самара, 2014, 2017); Международной конференции по компьютерным наукам CSOC (Жлин, Чешская Республика,
2015, 2017); Международной конференции по компьютерным сетям CN (Брунов, Польша, 2015, 2017); V Международном совещании по компьютерным наукам (Москва,
2015); I Открытом статистическом российском конгрессе (Новосибирск, 2015).
Основные публикации. По материалам диссертации опубликовано
56 печатных работ, в том числе 19 статей в ведущих рецензируемых журналах, рекомендованных ВАК Минобрнауки РФ, и 7 – в изданиях, индексируемых в международной базе SCOPUS, 2 монографии и получено 6 свидетельств о государственной регистрации программ для ЭВМ.
Структура и объем работы. Диссертация состоит из введения, шести глав,
заключения, списка использованной литературы, включающего 339 наименований.
Работа изложена на 563 страницах, включая приложения, содержит 205 рисунков и
92 таблицы.
КРАТКОЕ СОДЕРЖАНИЕ РАБОТЫ
Во введении обоснована актуальность темы диссертационной работы, сформулированы ее цель и задачи, показаны научная новизна, практическая значимость
полученных результатов, приводятся положения, выносимые на защиту, описана
структура и приведено краткое содержание диссертации.
В первой главе представлен аналитический обзор работ по проблеме повышения эффективности и качества функционирования интеллектуальных систем
принятия решений (ИСПР) для сложных организационно-технических комплексов.
Приведены примеры аварий и катастроф, произошедших из-за сбоев и отказов
компьютерных систем. Подвергнуты глубокому анализу основные характеристики
качества программного обеспечения ИСПР и условия возникновения отказов в них.
К настоящему времени в научной литературе не существует единственного
принятого определения интеллектуальной системы. Для устранения неоднозначно8
сти в терминологии предложено использовать определение ИСПР как программноаппаратного комплекса, способного решать задачи в слабо формализуемых предметных областях на основе сформированной базы знаний (БЗ), являющейся неотъемлемой составляющей интеллектуальной системы. В работе рассмотрены вопросы
качества программного обеспечения ИСПР как составной части аппаратнопрограммного комплекса системы. Описаны основные характеристики программного обеспечения ИСПР, введены понятия отказа и режимов отказов ИСПР, показаны
различия в трактовках понятий надежности и гарантоспособности ИСПР в отечественных и зарубежных источниках, приведена модель состояний гарантоспособной ИСПР, а также процессная модель обеспечения зрелости ИСПР.
Показано, что среди основных форм представления знаний ИСПР: логических моделей, семантических сетей, фреймов и продукций чаще всего используются для разработки БЗ продукционные системы вида
P = (F, R, G, I),
где F – конечное множество фактов о решаемой проблеме (каждый факт может
быть установленным или неустановленным, совокупность установленных фактов
задает некоторую ситуацию в предметной области); R – множество продукций или
правил, включающая правила вида
rm: ЕСЛИ f i И f j ... И fn ТО fk,,
где rm – имя правила, rmR; fi ,fj...,fn – условия выполнения правила; fk – следствие
правила, fI, fj ,..., fn, fk  F; G – множество целей или терминальных фактов ЭС; I –
интерпретатор правил, реализующий процесс вывода.
Продукционные системы универсальны и позволяют представить любые
экспертные знания; модульность продукций позволяет использовать параллельные вычисления для обработки баз знаний больших объемов, характерных для современных задач.
Другой распространенной формой представления знаний является искусственная нейронная сеть (ИНС) вида персептрона с одним скрытым слоем.
Это связано с тем фактом, что большая часть прикладных задач может быть формализована как задача классификации входных векторов X1, X2, …, Xn по m выходным
классам o1, o2, …, om, а для решения именно таких задач применяются многослойные персептроны. Следует заметить, что Колмогоровым теоретически доказано, что
математическая функция




P( X i )  f   wi22 j2  f   wi11 j1 xi11 j  1j    2j2  ,
(1)
 i1

 i2

– значение in -го входа j n -го нейрона слоя n,  jnn – значение смещения j n -го
где xin j
нейрона слоя n; соответствующая персептрону с одним скрытым слоем, приближает произвольную функцию с погрешностью не более заранее заданной малой величины ε на всей области определения. Из данного утверждения следует, что любую
непрерывную функцию нескольких переменных можно с любой точностью реализовать с помощью трёхслойного персептрона с достаточным количеством нейронов
и нелинейной активационной функцией в скрытом слое. Следствием этого является
то, что на практике в подавляющем большинстве случаев используются персептроны, имеющие только один промежуточный слой нейронов. Исходя из изложенного,
в данной работе рассматриваются только базы знаний наиболее распространенных
типов: продукционного и трехслойного персептрона.
n n
9
Далее выполнен анализ существующих методов отладки баз знаний. Показано, что наиболее описаны графовые методы, выявляющие ошибки, связанные с
нарушением структуры БЗ. Отмечается, что данные методы не доведены до уровня
системного подхода. Рассмотрены методы тестирования: по принципу «белого»
(структурного тестирования) и «черного ящика» (экспертного). Подробно описаны
примеры тестирования различных ИСПР, в основном использующих принцип
«черного ящика», не гарантирующий качества корректности работы БЗ и требующий больших временных и материальных затрат. Показано, что критерии тестирования классического программного обеспечения (ПО) не пригодны для тестирования БЗ, например, критерий покрытия операторов, в случае продукционной
БЗ (ПБЗ) – покрытия продукций, является необходимым, но не достаточным условием успешного тестирования.
Во второй главе рассмотрены новые подходы к повышению качества функционирования сложных организационно-технических комплексов, в соответствии с
которыми разработаны соответствующие математические модели, алгоритмы и
комплексы программ.
Постановка задачи. Задача повышения качества функционирования программного обеспечения при проектировании и эксплуатации интеллектуальных систем заключается в разработке алгоритма определения таких управляющих воздей



ствий u ( t )  U ( t )
 , реализация которых при любых допустимых состояниях

окружающей

среды



x ( t )   X ( t )



позволит
максимизировать
критерий


K  f ( P ( x ( t ), u ( t ))) , характеризующий вероятность сохранения требуемого качеQ
ства функционирования программного обеспечения интеллектуальной системы на
интервале времени t ,t .
 н k
В формализованном виде задача имеет следующую формулировку:
t
к


K   P ( x ( t ), u ( t ))dt  max
1
Q
t
н


(2)
 
F ( x( t ), u ( t ))  0, i  1,n ,
1, i
2
при ограничениях: F ( x( t ), u ( t ))  0, i  1,n
i
граничных условиях:
(t )  
F н ( x (t), u (t)) 0, i  n  1,n ,
i
2
3
(t )  
F k ( x (t), u (t)) 0, i  n  1,n ,
i
3
4
обуслов-
ленных спецификой функционирования объекта управления.
( n  n – известные константы;
1
4


X ( t ) и 

  U ( t ) – области допустимых значений
   
векторов x ( t ) и u ( t ) , соответственно).
Основные этапы решения задачи. Задача (4) принадлежит к классу задач вариационного исчисления на условный экстремум. Ее решение с помощью классиче10
ского математического аппарата теории вариационного исчисления, основанного на
использовании уравнений Эйлера, связано со значительными трудностями, основными из которых являются: высокая размерность задачи; неопределенность ряда



скалярных составляющих вектора состояний окружающей среды x ( t )  
 X ( t ) на


 н k  значительной длины; наличие в составе векторов
временных интервалах t ,t



 и
  U ( t ) как количественных, так и качественных переменx ( t ) 
X
(
t
)
u
(
t
)
 
 




ных, имеющих, в том числе, и нечеткий характер; необходимость решения в режиме реального времени сложной системы нелинейных дифференциальных уравнений

высокого порядка для синтеза u ( t ) .
В связи с этим в основу разрабатываемого алгоритма синтеза вектора

управляющих воздействий u ( t ) положено проверенное на практике утверждение,
согласно
которому
для
решения
задачи
максимизации
критерия


K  f ( P ( x ( t ), u ( t ))) достаточно разработать и реализовать подробный ком1
Q
плексный план операций Pl ( t ) по повышению качества ПО интеллектуальной си-
стемы.
При реализации данного подхода основная сложность решаемой задачи заключается в разработке формальной процедуры проверки выполнимости плана



операций Pl ( t ) при различных значениях x ( t )  
 X ( t ) . Это позволит свести


процедуру решения задачи (2) к периодической проверке выполнимости Pl ( t ) , в
том числе и при неблагоприятном стечении обстоятельств.
В соответствии с терминологией, используемой при разработке моделей и
методов исследования операций, под операцией понимается всякое мероприятие
(система действий), объединённое единым замыслом и направленное к достижению
поставленной цели. Если план в заданный момент времени t выполним, то, следовательно, удалось повысить до максимума надежность рассматриваемого ПО интеллектуальной системы, т.е. решить поставленную задачу. В ином случае необходимо определить причины, препятствующие выполнению данного плана, а также
разработать и осуществить комплекс мероприятий по их устранению.
Для реализации данного эвристического подхода к решению задачи (2) необходимо разработать модели и алгоритмы проверки выполнимости плана операций,
основанные на использовании: аппарата булевых функций, продукционных моделей, дифференциальных уравнений Колмогорова – Чепмена, моделей и методов системной динамики.
Если все указанные выше этапы проверки в сложившихся условиях подтверждают выполнимость плана операций, то Pl ( t ) считается выполнимым и для каждой операции плана определяются величины оптимального набора управляющих

воздействий u ( t ) , которые необходимо реализовать для ее осуществления.
11
Если на том или ином этапе проверки план операций Pl ( t ) окажется невыполнимым, то определяются причины этого и определяются управляющие воздействия, реализация которых позволит его исполнить.
При невозможности в сложившихся условиях обеспечить выполнимость плана операций Pl ( t ) задача (2) не имеет решения, и оптимизация критерия эффективности потребует разработки иного способа решения задачи.
Разработаны модели и алгоритмы синтеза плана в виде дерева (графа) событий G ДС (рисунок 1), отражающего причинно-следственные связи между показателями качества функционирования программных модулей N , i  1,m и наиболее
i
распространенными типами ошибок программного обеспечения ИСПР, влияющими
на качество ее функционирования.
Предложена и обоснована методика проверки выполнимости плана операций
по обеспечению качества программного обеспечения ИСПР с помощью булевых
функций и продукционных моделей, позволяющая представить план в виде совокупности дискретных логических структур, единичный сигнал на выходе которых
подтверждает возможность исполнения плана в заданный момент времени.
Для выполнения проверки представим граф G ДС в виде схемы дискретных
операций Du (рисунок 2), описываемого логической функцией
 (u1,u2 ,...,u140 , e1, e2 ,...,ey )  u1  u2  u3  u4...,u139  u140 ,
где u , u ,...,u и e , e ,...,e – вершины и дуги графа G ДС (u(t ), e(t )) , соответственно.
1 2
137
1 2
y
Рисунок 1 – Верхние уровни дерева событий G ДС , используемого при анализе качества
функционирования ПО: ребра графа являются конъюнктивными ребрами;
ui – характеристика качества программного обеспечения ИСПР
12
Рисунок 2 – Дискретная логическая структура Du , используемая
при проверке выполнимости плана Pl (t ) в момент времени t  t н , t k


При проверке полагается, что, если произошли все события, предшествующие событию u , то произойдет и это событие. Подавая на входы Du нули или едиi
ницы в зависимости от того, выполнены или не выполнены те или иные операции
плана Pl (t ) , соответствующие u ,u ,...,u , определяется возможность его реали1

1

140
зации в любой момент времени t tн ,tk по значению бинарной функции
1, если Pl (t ) может быть выполнен 
( u1 ,u 2 ,...,u140 )  
.
0, если Pl (t ) не может быть выполнен 
Если в результате проверки будет установлено, что в момент времени
t  tн, tk  бинарная функция (u , u ,...,u ) 1, то это означает, что определены ска1 2

137
лярные составляющие вектора u (t ) , которые соответствуют тем действиям, которые необходимо осуществить для выполнения условия u  1, u  1, ..., u  1.
1
2
140
При выполнении  (u ,u ,...,u )  0 план Pl (t ) в момент времени t  tн, tk  не
1
2
140
может быть исполнен, и величина качества функционирования ПО в данный момент времени не является оптимальной. Просматривая пути распространения нулевого сигнала, определяются причины, приведшие к невозможности выполнения
плана Pl (t ) в момент времени t  tн, tk . Условия, связанные с особенностями функционирования ПО, зависящие от состояния окружающей среды и учитывающие
экспертные знания, формализуются в виде продукций, представленных fi на рисунке 2.
Сформированы модели и алгоритмы проверки выполнимости плана операций
с помощью минимальных сечений графа состояний, позволяющие определить веро13
ятность и нарушения исполнения данного плана при неблагоприятном стечении событий. Под сечением графа состояний понимают такое множество событий, при
возникновении которых событие, соответствующее корневой вершине графа G ДС ,
происходит гарантированно. Для минимального сечения удаление любого базового
события (события нижнего уровня) из множества событий, формирующих сечение,
не приводит к гарантированному выполнению события, соответствующего корневой вершине графа. Граф может иметь минимальные сечения различных размерностей. В работе рассмотрены математические модели и алгоритмы, позволяющие
определить вероятности возникновения критических сочетаний событий для минимальных сечений размерностью от 3 до 7. На рисунке 3 приведен граф состояний
для четырехэлементного минимального сечения.
Система дифференциальных уравнений Колмогорова – Чепмена, из решения
которой определяются вероятности возникновения того или иного состояния, для
рассматриваемого случая имеет вид
dP0 ( t )
 (  1   2   3 )  P0 ( t )   1 P1( t )   2 P2 ( t )   3 P3 ( t );
dt
dP1( t )
  1 P0 ( t )(  2   3   1 ) P1( t )  2 P4 ( t )  3 P5 ( t );
dt
. . .
dP7 ( t )
  1 P4 ( t )   2 P5 ( t )   3 P6 ( t )  (  1   2   3 )  P7 ( t ),
dt
(3)
где P (t ), i  0, 7 – вероятности возникновения i-го события на временном интервале
i
t  tн, tk .
В качестве начальных условий для системы уравнений (4) приняты
P0 (tн )  1 и Pi (tн )  1, i  2,7. Определение вероятностей Pi (t ), i  0,7 может быть выполнено как с помощью одного из численных методов решения систем дифференциальных уравнений, например, метода Рунге – Кутты четвертого порядка точности, так и аналитически. Проведены вычислительные эксперименты по определению вероятности реализации сечений размерностью от 3 до 7.
Достоверность результатов проведенных вычислительных экспериментов подтверждена путем их сравнения с результатами аналитического решения системы (4)
1
(μ1μ 2μ0e (μ1  μ 0  μ 2  λ 0  λ1  λ 2 ) tC7  μ0μ1λ2e (μ 0  μ1  λ 0  λ1 ) tC5 
μ1μ 2μ 0
 μ 2λ1μ0e (μ 2  μ 0  λ 0  λ 2 ) tC6  μ1μ 2λ0e (μ 2  μ1  λ1  λ 2 ) tC4  μ0λ1λ2e (μ 0  λ 0 ) tC2 
P7 (t ) 
(4)
 λ0μ 2λ1e (μ 2  λ 2 ) tC1  λ0λ2μ1e (λ1  μ1 ) tC3  λ0λ2λ1C0 ),
где С , i  0,7 – известные константы.
i
Проведенные исследования показывают достаточно высокую степень совпадения результатов решения системы дифференциальных уравнений (3) численным
методом Рунге – Кутты четвертого порядка точности и аналитическим методом.
Кроме того, полученные результаты не противоречат физическому смыслу явлений,
представленных с помощью уравнений (3), что является подтверждением адекватности используемой модели.
14
Рисунок 3 – Граф состояний для четырехэлементного минимального сечения:
 i – интенсивность потока возникновения i-го события; i – интенсивность потока устранения i-го события;
0 – не произошли события, формирующие данное сечение; 1-4 – произошло одно событие, номер которого соответствует номеру вершины;
5-10 – произошли два события, номера которых показаны над соответствующей вершиной графа; 11-14 – произошли три события,
формирующие минимальное сечение, 15 – произошли четыре события, формирующие минимальное сечение
Третья глава диссертации посвящена разработке моделей и методов системной динамики, обеспечивающих повышение качества функционирования
ИСПР при их проектировании и эксплуатации.
Согласно ИСО/МЭК 9126 – 93 и ГОСТ Р ИСО/МЭК 25010-2015 в качестве
основных показателей функционирования ИСПР производственного назначения
выбрано множество m (t ),i  1,33 , представляющее характеристики качества функi
ционирования ПО. Для проведения численного моделирования процесса изменения
mi (t ),i  1,33 делается допущение, что рассматриваемые переменные измеряются в
количественной шкале, и при проведении расчетов используются их нормированные значения, определенные из выражения
m * (t )  m (t ) / m Н , i  1,33 ,
i
i
i
где m (t ) – текущее значение характеристики, определенное в численной шкале;
i
mi Н – нормировочный коэффициент.
Между большинством характеристик m (t ),i  1,33 существует структурно
i
сложный комплекс положительных и отрицательных, линейных и нелинейных,
прямых и обратных связей, значительно влияющих на поведение данных характеристик во времени, что существенно затрудняет разработку адекватной математической модели. Поэтому в качестве формального аппарата, описывающего изменение m (t ),i  1,33 во времени, выбран аппарат системной динамики, предназначенный
i
для решения подобного класса задач.
Для характеристик m (t ),i  1,33 , именуемых в терминах системной динамики
i
системными уровнями, составляются дифференциальные уравнения вида
dm (t)/dt  m (t)  m(t),
где m (t ) – положительный темп скорости переменной m (t ) , включающий все
факторы, вызывающие рост данной переменной; m (t ) – отрицательный темп скорости переменной m(t ) , включающий все факторы, вызывающие убывание данной
переменной).
Вводится допущение, что эти темпы расщепляются на произведение функций, зависящих только от факторов – комбинаций основных переменных, т.е. самих
являющихся функциями системных уровней
m(t)  m( y1(t), ..., yn (t))  f (F1(t), ..., Fk (t))  f1(F1(t)), ...., f k (Fk (t)),
где F j  g j ( yi1(t)....yiS (t)) – факторы, S  S ( j)  n, k  k ( j)  33 – число уровней.
Затем составляется система нелинейных дифференциальных уравнений, из
решения которой определяются значения переменных m (t ),i  1,33 на заданном инi
тервале времени. Таким образом, для решения поставленной задачи необходимо
выполнить следующие исследования:
– определить множество наиболее значимых внешних факторов
Faki (t ),i 1,v , влияющих на переменные mi (t ),i  1,33 ;
16
– построить граф причинно-следственных связей G pss , отражающий взаимосвязи между переменными m (t ),i  1,33 и внешними факторами Fak (t ),i  1,v ;
i
i
– составить матрицу инцидентности графа G pss и на ее основе записать уравнения системной динамики, решение которых позволит определить значения переменных m (t ),i  1,33 на различных временных интервалах;
i
– выбрать вспомогательные функции f (F ) f (F ).... f (F ) , используемые при
1 1 2 2
k
k
расчете переменных m (t ),i  1,33 ;
i
– предложить эффективный с точки зрения сложности алгоритм численного
решения уравнений системной динамики.
Рассмотрим в качестве примера процедуру формирования первого уравнения
системной динамики, характеризующего качество программного обеспечения.
Дифференциальное уравнения, характеризующее изменение уровня функциональных возможностей программного обеспечения (переменная m ( t ) ). Первая
1
строка матрицы A( M  Fak  E ) графа причинно-следственных связей G
pss
, опре-
деляет структуру первого дифференциального уравнения формируемой системы.
Значения элементов матрицы выбраны в соответствии с мнением экспертов о
релевантности причинно-следственных связей, влияющих на моделируемую переменную. Эти значения могут быть изменены при внедрении разрабатываемого математического обеспечения для требуемого уровня качества ПО интеллектуальных
систем управления на конкретном предприятии.
Подграф G
графа причинно-следственных связей G
для системной пеm
1
pss
ременной m ( t ) приведен на рисунке 4.
1
Рисунок 4 – Подграф G
, характеризующий причинно-следственные связи,
m
1
влияющие на величину системной переменной m ( t )
1
17
Тогда для системного уровня m ( t ) дифференциальное уравнение будет
1
иметь вид следующий вид:
dm ( t )
1
1

( B ( t )  D ( t )) ,
1
1
dt
m*
1
где
B ( t )  ( f ( m ( t )) f ( m ( t )) f ( m ( t )) f ( m ( t ))*
1
1 3
2 4
3 15
6 19
* f ( m ( t )))( Fak ( t )  Fak ( t ));
7 22
1
2
D ( t )  ( f ( m ( t )) f ( m ( t )) f ( m ( t )) f ( m ( t )) 
1
8 2
9 5
10 13
11 14
 f ( m ( t )) f ( m ( t )) f ( m ( t )) f ( m ( t ))*
12 16
13 17
14 18
15 26
* f ( m ( t )) f ( m ( t )))Fak ( t ))
16 27
17 30
3
(5)
Нормировка выполняется с помощью множителя 1 / m * , где m * – макси1
1
мальное значение уровня функциональных возможностей рассматриваемого ПО в
выбранной числовой шкале измерений.
В итоге первое дифференциальное уравнение формируемой системы принимает вид
dm1( t )
1

(( f1( m3 ( t )) f 2 ( m4 ( t )) f 3 ( m15 ( t )) f6 ( m19 ( t ))*
*
dt
m1
* f7 ( m22 ( t )))* ( Fak1( t )  Fak2 ( t ))  ( f 8 ( m2 ( t )) f 9 ( m5 ( t ))*
(6)
* f10 ( m13 ( t )) f11( m14 ( t )) f12 ( m16 ( t )) f13 ( m17 ( t )) f14 ( m18 ( t ))*
* f15 ( m26 ( t )) f16 ( m27 ( t )) f17 ( m30 ( t )))Fak3 ( t ))),
где f ( m ( t ) … f ( m ( t ) – полиномы невысоких степеней, определяемые на эта1
3
17
30
пе адаптации математической модели к особенностям функционирования рассматриваемого ПО; Fak ( t ) ... Fak ( t ) – параметры окружающей среды.
1
3
Аналогично построены дифференциальные уравнения, характеризующие
изменение во времени остальных 32 характеристик качества ПО интеллектуальных систем управления сложными организационными комплексами. На рисунке
5 приведены результаты решения полученной в итоге системы из 33 нелинейных
дифференциальных уравнений при различной трудоемкости разработки ПО
ИСПР, используемого при управлении газоперекачивающими агрегатами при
трудоемкости разработки программного обеспечения Fak3=150%, Fak3=100%,
Fak3=120%, позволяющие принимать управленческие решения по изменению
трудоемкости.
18
m1(t) – функциональные возможности,
m2(t) – надежность, m3(t) – практичность,
m4(t) – эффективность, m5(t) –
сопровождаемость, m6(t) – мобильность,
m7(t) – пригодность,
m8(t) – правильность, m9(t) – способность
к взаимодействию, m10(t)–защищенность,
m11(t) – согласованность системы в целом,
m12(t) – завершенность,
m13(t) – устойчивость
к ошибкам, m14(t) – восстанавливаемость,
m15(t) – доступность, m16(t) – понятность,
m17(t)– обучаемость, m18(t) – простота
использования, m19(t) – привлекательность,
m20(t) – противоречивость при выполнении
функций, m21(t) – временная
эффективность,
m22(t) – ресурсоемкость, m23(t) –
согласованность, m24(t) – анализируемость,
m25(t) – изменяемость, m26(t) – стабильность,
m27(t) – тестируемость,
m28(t) – наличие значительных ошибок
в базах знаний, m29(t) – адаптируемость,
m30(t) – простота установки,
m31(t) – сосуществование,
m32(t) – взаимозаменяемость,
m33(t) – недостатки при оформлении
документации
Рисунок 5 – Пример визуализации результатов решения системы
дифференциальных уравнений системной динамики
Четвертая глава диссертации посвящена разработке методологии организации и обеспечению корректной работы БЗ ИСПР.
Предложено устранить разночтения в терминологии по обеспечению корректной работы БЗ путем введения термина отладки БЗ в узком смысле, характеризующего процесс выявления, локализации ошибок в базе знаний, а также ее коррекции, не связанной с выбором нового способа представления знаний. Использована также введенная автором классификация методов отладки БЗ:
 методы статического анализа проверки БЗ на уровне формального контроля качества, не требующие запуска интерпретатора системы;
 динамический анализ или тестирование, заключающееся в прогоне ИСПР
на заданном множестве тестовых данных и сравнение результатов вывода с эталонными, определяемыми экспертами.
Подробно описаны ошибки в ПБЗ, выделены такие классы как неполнота, избыточность, противоречивость. Показано, что, несмотря на имеющиеся работы в данной области, до сих пор отсутствует системный подход к формализации основных типов ошибок. Введено понятие структурной ошибки ei  {E}, – ошибки, выявляемой в
ходе анализа И/ИЛИ графа, где E – множество всех структурных ошибок в ПБЗ.
Основные классы структурных ошибок в ПБЗ представлены на рисунке 6. Для
каждого класса выделены типы ошибок и формализованы на основе теории графов,
предложены алгоритмы их обнаружения без запуска ИСПР на выполнение, реализованные в программном обеспечении «Анализатор баз знаний», показана их вычислительная сложность. Способ устранения ошибки зависит от типа вершины графа,
например, если вершина изолированная (входной факт или цель), то необходимо добавить правила, ведущие к данной вершине; в противном случае эта вершина может
19
быть удалена из БЗ как ошибочно введенная. Для большинства ошибок способ выбирается экспертным путем. База знаний считается неполной, если ее граф не является
связным и внутренне противоречивой, если существует набор фактов Si  C, такой, что
из Si интерпретатором I может быть получен набор фактов Sj  C.
Рисунок 6 – Классы структурных ошибок в продукционных базах знаний
Продукционная база знаний является внутренне противоречивой, если существует набор фактов, Si  C, такой, что из Si интерпретатором I может быть получен
набор фактов Sj  C, где С – множество разрешенных комбинаций фактов. Если
статический анализ осуществлен и ПБЗ не является внутренне противоречивой и не
содержит структурных ошибок, то ПБЗ статически корректна. Однако в ряде случаев ПБЗ может быть статически корректной (непротиворечивой, полной и неизбыточной), но выдавать неверные результаты при запуске интерпретатора. Причина
этого заключается в наличии ошибок в самих правилах ПБЗ, т.е. в противоречивости самой предметной области – внешней противоречивости БЗ. Показано, что если
все факты, которыми оперирует ИСПР, верны одновременно, то никаких противоречий не возникает. Противоречия имеют место из-за таких связей между фактами,
которые запрещают отдельные связи. В некоторых предметных областях существуют несовместимые системы взглядов, причем эта несовместимость может проявляться не сразу. Продукционная БЗ Р является внешне противоречивой в узком
смысле, если существует множество допустимых сочетаний фактов, приводящих к
неверному решению.
Наиболее грубая ошибка в правиле имеет место, если факт f i никогда не является истинным при установленных фактах f1 , f 2 ,..., f k . Чаще всего встречается
случай, когда факт f i , являющийся следствием в продукции, иногда должен, а иногда не должен устанавливаться при наличии активизированных фактов f 1 , f 2 ,..., f k
в условии продукции, и это определяется состоянием других фактов предметной
области.
Характерной чертой ИСПР является то, что БЗ разрабатывается человекомэкспертом, который практически всегда безошибочно выделяет для конкретного
факта f i множество фактов K, которое влияет на его установление. Факты, препятствующие активизации рассматриваемого факта f i , часто не принимаются во вни-
20
мание экспертом. Как следствие, ПБЗ может содержать ошибки, характеризующиеся «забыванием» о границах применимости правил.
Описана формальная модель ошибки типа «забывание об исключении», показано, что модель ошибки типа «критическое сочетание событий» также связана с
неучтенными особенностями предметной области, приводящими к ошибочному заключению, и, по сути, эквивалентна модели типа «забывание об исключении».
Ошибка типа «забывание об исключении» имеет место, если в правиле
rm : Если fi и fj … и fn то fy выполняется всегда, за исключением того случая,
когда в ПБЗ установлен набор фактов
{f1, f2, …, fk}=S C.
(7)
Показано, что анализ графовой структуры продукционной БЗ не позволяет
обнаружить данные классы ошибок, и единственным способом их выявить является
тестирование.
Проведен анализ ошибок в нейросетевой БЗ, приведена их классификация по
причинам возникновения. Описано понятие ошибки в нейросетевой ИСПР, решающей задачу классификации как факта неверного отнесения к классу ok наблюдеp
ния X i  [ x1 , x2 ,..., x p ] , принадлежащего к классу o p : P( X i )  ok  X i  X , где P –
o
функция, реализуемая ИНС, X 1 , X 2 , ..., X n – множество наблюдений, а
O  {o1 , o2 , ..., ot } – множество выходных классов. Формализованы ошибки в
нейросетевых ИСПР, вызванные некорректно проведённым процессом их обучения,
а также ошибки, обусловленные внешней противоречивостью предметной области.
Формализована ошибка типа «забывание об исключении» для ИНС, имеющая
место, когда для некоторых входных данных ИНС на основании установленного
набора фактов f1 , f 2  ,..., f m  некоторого наблюдения X l выдает заключение о принадлежности X l к классу ok X l  X ok , которое на самом деле оказывается неверным из-за того, что X l характеризуется некоторой комбинацией фактов
Fx  f1 , f 2 ,..., f d ,
(8)
нахождение которой однозначно свидетельствует о непринадлежности X l к классу
ok : f 1  f 2 ,...,  f d  X i  X ok .
Наличие Fx является особенностью предметной области, и в случае, если такая
комбинация останется не учтённой при разработке, ИНС будет выдавать при её возникновении неверный результат P( X l )  ok на основании близости X l к классу X ok .
Ошибка ИНС такого типа формализована в следующем виде:
Fx   f 1 , f 2 ,..., f d ,  f 1  f 2 ,..., f d  X i  X ok  P( X i )  ok .
(9)
Наблюдение Xi, характеризующееся наличием (8), называется исключением, а
ошибка (9) ИНС на таком наблюдении носит характер «забывания об исключении»
и может быть обнаружена при помощи тестирования. На основании вышесказанного разработана методология отладки ПБЗ и ИНС ИСПР, которая представлена на
рисунках 7,8.
Эта методология включает в качестве первого этапа приведение ПБЗ к состоянию статической корректности, преобразованию к эквивалентной логической сети
(ЛС) построения тестового множества, проведению тестирования и исправлению
21
ошибок. Методология отладки ИНС (рисунок 8) требует в качестве первого этапа
извлечение решающих правил, остальные же этапы аналогичны этапам ПБЗ.
Рисунок 7 – Методология отладки ПБЗ ИСПР
Рисунок 8 – Методология отладки ИНС ИСПР
Концептуальная модель отладки базы знаний ИСПР представлена на рисунке 9.
Рисунок 9 – Концептуальная модель отладки базы знаний ИСПР
В пятой главе рассмотрены предложенные методы для тестирования продукционных и нейросетевых баз знаний ИСПР.
Под тестовым примером T для продукционной системы P будем понимать набор
фактов с приписанными им истинными значениями. Если, основываясь на этом наборе
фактов, интерпретатор I выдает заключение g  G, где g – результат выполнения тестового примера T над P, то g – результат выполнения тестового примера T над P.
Тест продукционной БЗ – это пара (T, g'), где g' – определение пользователем
правильного результата выполнения тестового примера T. Тестирование заключается
22
в прогоне ИСПР с целью обнаружения ошибок на некотором множестве исходных данных, называемым тестовым множеством.
Показано, что логика ПБЗ, определяемая ее И/ИЛИ графом Г, после проведения статического анализа и приведения БЗ к состоянию статической корректности
может быть задана более наглядно соответствующей Г связной ЛС. Так, например,
графу рисунка 10 соответствует ЛС на рисунке 11.
Рисунок 11 – Логическая структура,
эквивалентная ПБЗ
Рисунок 10 – Пример И/ИЛИ графа ПБЗ
Переход к логико-сетевому представлению ПБЗ позволяет использовать для
построения тестов методы технической диагностики цифровых устройств.
Ошибки типов «забывание об исключении» и «критическое сочетание событий» рассматриваются как неисправность «константный 0» ЛС, которая проявляется
только при одном каком-то наборе значений сигналов в ЛС. В данном случае для построения тестов ошибки «забывание об исключении» и «критическое сочетание событий» могут рассматриваться как ошибка одного типа.
В терминах ЛС тестом, обнаруживающим неисправность типа «забывание об
исключении», является набор установленных и неустановленных фактов, которые
обеспечивают активизацию правила ri и активизацию пути в ЛС от линии ri до одной из выходных линий, которым соответствуют цели ПБЗ. При этом должны быть
установлены факты f1 ,..., fk. Если активизация ri и путей в ЛС невозможна при установленных фактах f1, ..., fk, то тест не существует.
Любой непротиворечивый набор фактов S может быть установлен в P путем
задания, по крайней мере, одного набора входных фактов SC. При этом множество C также должно быть задано относительно входных фактов ПБЗ. Такое представление C можно получить, выполняя обратный логический вывод для всех запрещенных комбинаций, содержащих внутренние факты P. При этом следует отметить, что эксперту психологически проще сформировать множество запрещенных
комбинаций фактов, чем множество разрешенных комбинаций. Множеством запрещенных комбинаций C называется множество всех запрещенных комбинаций
(булеана множества (множества всех подмножеств) F), то есть C  { c1 ,c2 ,...,ck }.
Все вышесказанное составляет базис для построения тестов ПБЗ в виде наборов ее входных фактов.
Возможно также наличие в ПБЗ кратных ошибок, когда неверными могут
быть несколько правил. Полный тест ПБЗ P может быть получен путем объединения тестовых множеств всех правил из множества R. Обозначим через T полученное
23
таким образом множество тестов для P. Несложно убедиться, что T обеспечит обнаружение любых кратных ошибок P типа «забывание об исключении». Логическая
структура, соответствующая Г, не содержит инверсий, следовательно, кратные
ошибки не могут маскировать друг друга.
Тесты ПБЗ строятся в виде D-кубов, представляющих векторы размерностью
n, каждая координата которых имеет одно из значений: 0, 1, x, D или D. В каждом
D-кубе выходная координата равна D, что используется для построения активизированного пути в схеме. Символ D приписывается линии, если она принимает состояние «1» в исправной и состояние «0» в неисправной ЛС. При построении тестов
ЛС используется операция D – пересечения кубов. Для построения тестов множество C допустимых наборов входных фактов представляется в виде наборов кубов.
После приведения этих ограничений к виду кубов входных фактов в результате обратного логического вывода для всех запрещенных комбинаций фактов, содержащих внутренние факты P, множество C разрешенных наборов входных фактов получается с помощью операции вычитания кубов. Показано, что тесты ПБЗ можно
генерировать в виде наборов ее входных фактов.
Для построения тестов ПБЗ используем методы активизации путей, разработанные в технической диагностике. При этом необходимо построить все возможные
тесты для каждой продукции. Кубы, осуществляющие активизацию рассматриваемого правила и активизацию путей, пересекаются с множеством допустимых кубов
входных фактов C. В кубах-результатах все символы «X» заменяются символом
«1». Наиболее целесообразно использовать принятый в технической диагностике
алгоритм PODEM, который предусматривает возврат по входам ЛС после каждого
акта транспортировки сигнала через очередной элемент и гарантирует построение
теста всегда, когда он существует. Полученный в результате возврата куб входных
фактов пересекается с кубом множества C. Если это пересечение пусто, то дальнейшая активизация рассматриваемого пути не проводится.
Алгоритм построения тестов ПБЗ имеет следующий вид:
1. Из множества продукций R выбрать еще не использованную продукцию ri, на линии s установить Da и ввести в стек D-границы элементы, для которых линия s является
входной линией. Если невыбранных продукций нет, то идти к п. 9.
2. Для линии s выполнить процедуру установления Da и определить входные значения. Если есть возможность выбора, то использовать правило выбора (*), оставшихся кандидатов ввести в стек.
3. Для входных значений, полученных в результате выполнения операции установления, выполнить операцию импликации.
4. Для первого значения стека D-границы выполнить D-проход. Элемент с вновь полученным значением D принять за первое значение стека. Если есть возможность выбора, то использовать правило (*), осуществить выбор и оставшихся кандидатов ввести в стек Dграницы. Когда D-проход осуществить не удается, использовать следующее начальное значение. Если стек D-границы пуст, то вернуться к п. 1.
5. Выполнить операцию импликации.
6. Выполнить процедуру продвижения назад по отношению к линиям, для которых
значения выхода элемента определены, а значения входов еще не установлены. При возможности выбора использовать правило (*), остальных кандидатов ввести в стек возврата.
7. Выполнить операцию импликации, назначая входу значение метки, полученное при
выполнении операции возврата. Убедиться в корректности первоначального значения метки.
При положительном результате проверки перейти к п. 6, используя начальное значение стека
возврата. В противном случае D-проход невозможен и следует вернуться к п. 4.
8. Если имеется линия, для которой можно исполнить п. 6, вновь выполнить п. 6 и 7.
24
9. Если D достигает выхода, являющегося целью ПБЗ, то полученный при этом
входной набор фактов считается тестом и осуществляется переход к п. 1, иначе вернуться к п. 4.
Для построения полного множества тестовых наборов для обнаружения неисправностей типа «забывание об исключении» и «критическое сочетание событий»
ПБЗ предлагается следующий алгоритм:
1. Установить искомое множество тестов T пустым: T=.
2. Выбрать очередную продукцию.
3. Установить факты, необходимые для ее активизации. Если их установление противоречит множеству C, то сообщить об ошибке и идти к п. 7.
4. Воспользоваться алгоритмом PODEM для получения множества кубов T1, которое является тестовым для выбранной продукции. Кубы множества T1 пересекаются с кубами множества C по мере их формирования.
5. Пусть T2=T1  C, где «  » обозначает пересечение множеств кубов. В кубах T2
заменить все символы «X» на «1». В полученном списке исключить повторяющиеся кубы.
В результате получится множество кубов T3.
6. Выполнить объединение множеств двоичных наборов T и T3. Результат назначить новым множеством T.
7. Если есть еще продукции, то идти к п. 2.
8. Конец.
Для того чтобы применить описанный метод построения тестового множества к ИНС, необходимо устранить неявный характер экспертной информации, которая извлекается ИНС из обучающего множества и формализуется в виде множества весовых коэффициентов связей между нейронами.
Выполнен анализ существующих алгоритмов извлечения правил из ИНС и
составлена их классификация. Для извлечения продукционных правил из трёхслойного персептрона разработан алгоритм на основе алгоритма GLARE, предложенного С. Гуптой.
Выходными данными являются продукционные правила вида
ЕСЛИ fa ИЛИ fb … ИЛИ fc
…
И fd ИЛИ fe … ИЛИ ff ТО класс сi .
Представление решающего правила в виде логической структуры позволяет
применить описанный выше алгоритм построения тестового множества и провести
тестирование ИНС. Так как ошибки типа «забывание об исключении» и «критическое сочетание событий» покрывают другие типы ошибок, тестовое множество является полным.
Приведён метод генерации полного тестового множества ИНС:
1. Установить искомое множество тестов пустым T=Ø.
2. При помощи алгоритма GLARE извлечь продукционные правила R1 , R2 ,..., Rt из
персептрона P для каждого выходного класса o1, o2, …, ot.
3. Экспертным методом сформировать множество кубов запрещённых комбинаций Cx.
4. Проанализировать продукционное правило Ri для нерассмотренного выходного
класса oi.
5. Преобразовать рассматриваемое продукционное правило к виду ЛС S .
6. Применить алгоритм (*) для схемы S, c учётом множества кубов запрещённых
комбинаций C x ; получить полное тестовое множество T для логической структуры S.
25
7. Рассмотреть очередной тест Ti  T , Ti  Ri , oi  , где Ri – входной D-куб, oi –
ожидаемое выходное значение схемы, обнаруживающей возможную ошибку типа «забывание об исключении», связанную с одновременной установкой фактов f1 , f 2 ,..., f k .
8. Преобразовать куб Ri к входному вектору нейросети X i  [ x1 , x2 ,..., xq ] .
9. Экспертным путём определить выходной класс oi для Xi.
10. Создать i-й тест нейросети X i , oi и включить его в искомое тестовое множество T  T   X i , oi  .
11. Перейти к шагу 4, проанализировав продукционное правило для ещё не рассмотренного выходного класса oj.
12. Завершить генерацию тестов.
Приведены примеры построения тестового множества для продукционной
и нейросетевой БЗ, практическая реализация предложенного метода, экспериментальное исследование эксплуатационных возможностей разработанного алгоритма генерации тестов, а также проверка его работоспособности на примере
медицинской нейросетевой ИСПР прогнозирования комплаентности офтальмологических больных.
Программно алгоритм генерации тестов реализован в виде приложения
«NNetwork Tester». Приводится экспериментальная зависимость времени генерации тестовых наборов от количества нейронов на входном слое для ИНС (рисунок 12) и времени генерации тестов от общего числа фактов и продукций для
ПБЗ (рисунок 13).
tc
tc
Рисунок 12 – Зависимость времени генерации
тестов ИНС от числа нейронов входного слоя
Рисунок 13–- Зависимость времени генерации
тестов ПБЗ от общего числа фактов
и продукций в БЗ
Выявленная в ходе эксперимента зависимость носит нелинейный характер и
может быть приближённо описана для ИНС экспоненциальной функцией вида
y = 64*e 0,2x, для ПБЗ y=2,77e 0,0005x. При размере входного слоя до 600 нейронов
время генерации тестов не превышает 10 с, а для 10000 правил – 2000 с. Большинство существующих ИНС содержат до 600 нейронов на первом слое, а ПБЗ – в
среднем 15000 правил и фактов, что позволяет сделать вывод о широкой практической применимости разработанного метода.
Шестая глава диссертации посвящена применению разработанных методов и
моделей и результатов, полученных в предыдущих главах.
26
Среди важных народно-хозяйственных прикладных областей, где объект исследования – сложное многокритериальное техническое устройство, необходимо
особо выделить газоперекачивающую отрасль, где ошибки в системе управления
могут привести к человеческим жертвам и серьезному материальному ущербу.
Практическое использование предложенных моделей и методов рассмотрено на примере разработанной ИСПР GAZDETECT диагностики причин неисправностей на наиболее распространенных типах в отечественной газовой промышленности газоперекачивающих агрегатов (ГПА) компрессорной станции (КС) промышленного предприятия.
Системы агрегатной автоматики пока недостаточно точно и достоверно указывают первопричину отказа или возникшей аварийной ситуации на ГПА. Чаще
всего эксплуатационный персонал видит только результат – сработавшая защита,
отклонение параметров, а реальная причина «срабатывания» остается неизвестной.
Большое значение, таким образом, имеют человеческий фактор, опытность эксплуатационного персонала, способность анализировать и выявлять потенциально опасные ситуации, обобщать накопленный опыт. В реальных условиях эксплуатации в
силу объективных причин рассчитывать на безошибочность действий и принятие
решений даже опытным персоналом сложно. ГПА характеризуется недостаточно
высокой контролепригодностью, т.е. невозможностью измерения параметров, необходимых для поиска дефектов, а также необходимостью выявления неисправностей
на ранней стадии их развития для предотвращения отказов. Отмечена возможность
сочетания различных причин отказов, в том числе возможность появления критического сочетания событий, влекущих за собой серьезные технические неисправности
ГПА и, как следствие, значительный материальный ущерб. Кроме того, целесообразно интегрировать механизмы прогнозирования технического состояния ГПА с
действующей САУ, накопленными статистическими данными и опытом эксплуатации, чтобы снизить влияние человеческого фактора и по возможности исключить
вероятность совершения ошибок. Разработка ИСПР определения причин неисправностей ГПА и представления рекомендаций по устранению причин отказа оборудования или аварии позволит в значительной мере повысить надежность работы ГПА,
сократить простои оборудования. В главе детально проанализированы причины
возникновения неисправностей ГПА с газотурбинным приводом, классифицированы по группам, приведенным на рисунке 14.
Рисунок 14 – Группы причин неисправностей ГПА
Детально проанализирована статистика отказов по видам неисправностей
ГПА за период 2005-2015 гг. на предприятиях Саратовской области.
Схема принятия решения в случае аварийной ситуации на ГПА с использованием разработанной ИСПР GAZDETECT приведена на рисунке 15. Структурная
схема ИСПР GAZDETECT приведена на рисунке 16.
27
Рисунок 15 – Схема принятия решения в случае аварийной ситуации на ГПА
с использованием ИСПР
Рисунок 16 – Структурная схема подсистем ИСПР GAZDETECT
Для принятия решения используется ретроспективная информация о
произошедших аварийных инцидентах на предприятиях энергетической отрасли
Саратовской области, реализованная в виде базы данных на платформе MS SQL
Server 2012, а также экспертные знания технических специалистов компрессорных
станций ООО «Газпром трансгаз Саратов», инженерного персонала АО
«НЕФТЕМАШ»-САПКОН, ООО НПО «Поволжская энергетическая компания».
Экспертные знания формализованы в виде продукционной базы знаний,
содержащей нечеткие правила вида
где ri
;
,
,
– множество групп причин неисправностей;
– множество приоритетов правил; tn
,
–
множество лингвистических переменных; { f1, f2 ,..., fm }  F, m  1,1403 . В правилах
используются множество СР={cp1, cp2, …, cpk}, k=25 контрольных параметров
ГПА и множество целевых фактов G=G1G2, где G1={g11, g12, …, g1k}, k=526 –
множество причин неисправностей ГПА, а G2={g21,, g22, …, g2p}, p=611 –
28
множество рекомендаций по ликвидации неисправностей. Для принятия решения
ЭС использован алгоритм нечеткого вывода Мамдани. Программное обеспечение
реализовано в среде программирования Visual Studio 2015 на языке C#.
Пример экспертных правил БЗ приведен в таблице 1.
Таблица 1. Пример правил БЗ ИСПР GAZDETECT
Номер
правила
R11
R549
R83
Экспертное правило
ЕСЛИ «Аварийный останов ГПА» по сигнализации «Помпаж ГТД» И сигнализация
«Высокое разрежение на всасывающем
тракте в ГТД» ТО СКОРЕЕ ВСЕГО примерзание байпасного клапана воздухоочистного устройства ИЛИ обмерзание
фильтров ВОУ
ЕСЛИ повреждение байпасного клапана И
Постоянные дожди в течение долгого времени И Температура низкая ТО СКОРЕЕ
ВСЕГО примерзание байпасного клапана
Формализованное
правило
Приоритет
ЕСЛИ f326 И f10
И f347 ТО СКОРЕЕ
ВСЕГО f346
ЕСЛИ f326 И f10
И f347 ТО f1377
80
ЕСЛИ f386 И f79
И f82 ТО СКОРЕЕ
ВСЕГО f388
80
При разработке ИСПР использованы модели и метод повышения качества
принятия решения, описанные ранее. Приведен пример прогнозирования характеристик качества ИСПР при изменении такого важного фактора, как трудоемкость
разработки ПО. Обнаружение ошибок при формировании БЗ ИСПР GASDETECT
выполнено с помощью описанного в главах 4, 5 метода отладки. В результате тестирования ИСПР GASDETECT на получившемся тестовом множестве выяснилось,
что система выдаёт неверную диагностику ряда причин неисправностей ГПА. Таким образом, метод выявил ошибки типа «забывания об исключении», которые
могли привести к большому материальному ущербу, связанному с длительным простоем агрегата и возможному пожару на КС. Приведены примеры ошибочных правил ПБЗ. Так, например, была обнаружена ошибка в правиле r65:
r65: ЕСЛИ Срабатывание защиты САУ ГПА МСКУ (f 303) И Аварийная остановка ГПА
(f 326) И Выпадение аварийного табло «помпаж осевого компрессора» (f 13) ТО Помпаж
осевого компрессора (f132).
Анализ правила r65 показал, что аварийное табло «Помпаж осевого компрессора» выпало не по причине реального помпажа, а по причине неверного срабатывания САУ из-за попадания в воздушный трубопровод постороннего предмета, что
привело к аварийному останову ГПА, материальным убыткам, связанным с беспричинным остановом турбины. Факт возможного неверного срабатывания САУ не
был учтен экспертом при формировании БЗ, что является примером ошибки типа
«забывание об исключении». Таким образом, фактом, препятствующим целевому
факту g1132, является установление факта f91 – попадание в газовоздушный тракт
посторонних предметов. Также выявлено, что экспертами при разработке БЗ не
учитывались особенности погодных условий внешней среды, например длительного косого дождя при достаточно низкой температуре, при определении причин появления неисправностей и соответствующего их устранения, что привело к дополнительным материальным и временным затратам.
После устранения всех выявленных ошибок и переобучения БЗ ИСПР
GASDETECT принята в опытную эксплуатацию на предприятиях энергетической
29
отрасли; ООО «СЭПО-ЗЭМ» и АО «НЕФТЕМАШ»-САПКОН, что подтверждено
соответствующими документами. По результатам опытной эксплуатации за период
2015-2016 гг. установлено, что ИСПР GAZDETECT выдает правильные выводы в
97% случаев, что значительно превышает точность решений, принимаемых техническим персоналом КС.
Разработанные модели, методы и алгоритмы нашли применение также при
разработке и обеспечении качества работы БЗ ИСПР в области медицины: прогноза
комплаентности офтальмологических больных и прогноза развития неотложных заболеваний в кардиологии. Комплаентность как приверженность пациента к выполнению назначенного лечения, является одним из важных показателей в современной медицине, особенно при амбулаторном лечении, когда медицинский работник
не может постоянно наблюдать за пациентом. Для решения задачи определения
комплаентности больных с таким заболеванием как глаукома предложена ИНС вида (1) со 136 нейронами во входном слое, 16 – в промежуточном и 2 – в выходном
слое (рисунок 17).
Рисунок 17 – Схема информационной структуры персептрона ИСПР
прогноза комплаентности
Сгенерированное тестовое множество позволило выявить ошибки в БЗ ИСПР типа «забывание об исключении», связанные с установлением комбинации фактов f , f ,
где f 9 – факт «средний возраст» и f 51 – факт «наличие ишемической болезни сердца», а
также фактов f8, f111, где f8 – факт «молодой возраст» и f111 – факт «наличие катаракты».
Для исправления ошибок в БЗ ИСПР на основе результатов тестирования в
обучающее множество L были включены данные о пациентах молодого возраста,
имеющих катаракту на более поздней стадии, а также фактор наличия сильного
эмоционального стресса. После завершения отладки БЗ ИСПР принята в эксплуатацию в клинике глазных болезней и на кафедре глазных болезней СГМУ имени
В.И. Разумовского; средняя точность прогноза составляет 96%, что значительно
превышает точность среднестатистического врача-офтальмолога.
Для решения задачи прогноза развития неотложных ситуаций в кардиологии,
в значительной мере определяющих трудоспособность и летальность, была разработана ИСПР KORDEX. По официальным данным ВОЗ ежегодно от сердечнососудистых заболеваний в мире умирают 17,5 млн человек, чаще всего смерть
9
30
51
наступает от инфаркта миокарда и инсульта, в то же время 80% преждевременных
инсультов и инфарктов могло быть предотвращено, если бы диагноз был поставлен
вовремя. Нестабильная стенокардия угрожает риском инфаркта миокарда или внезапной смертью (от 15 до 40% случаев). Вместе с тем в литературе достаточно редко встречаются рекомендации по прогнозу развития нестабильной стенокардии для
каждого конкретного случая, в основном описаны лишь некоторые клинические
критерии отнесения пациентов с нестабильной стенокардией к группам повышенного риска. Но даже при этом в них прогноз риска развития инфаркта или внезапной смерти составляет от 30 до 80%, что, безусловно, не является точным прогнозом. Нужно отметить, что инфаркт миокарда и внезапная смерть могут иметь место
и у людей, не соответствующих описанным критериям. Другим опасным заболеванием является пароксизмальная тахиаритмия, где врачебные ошибки в назначении
лечения могут привести к смертельно опасным осложнениям. Разработанная ИСПР
позволяет осуществлять прогноз развития нестабильной стенокардии и определять
возможные осложнения от медикаментозного лечения пароксизмальной аритмии. В
качестве модели представления знаний предложено использовать продукционную
систему, содержащую правила вида
fieldk: ri :Если f i и f j и ... и f k то f l влияние d1l, d2l, fm влияние d1m, d2m, …,fp влияние d1p, d2lp, где fieldk  Field – область применения продукции, k  1,5 , например,
field1=‘ЭКНС1’ (экспресс-анализ для впервые возникшей стенокардии ); dli Dl, где
Dl – множество лингвистических переменных, описывающих влияние фактов, k  1,5 .
Отладка ИСПР KORDEX была проведена при помощи разработанного метода.
Приведены обнаруженные ошибки, являющиеся ошибками типа «забывание об исключении», например, в правиле
r4: ЕСЛИ f1=1 И f10=1 ТО f16=1, т.е. «возраст до 45 лет и выраженная стабильность реакции на нагрузки» ведут к низкой адаптации миокарда к ишемии всегда, кроме случая,
когда пол женский; в этом случае уже комбинация трех рассмотренных факторов позволяет вынести решение о том, что инфаркта в ближайшие часы не будет.
Указанные ошибки были устранены с помощью введения в БЗ ИСПР метаправил, позволяющих ИСПР правильно принимать решение в случае исключений.
Применение ИСПР в условиях практической медицины позволило оптимизировать
процесс госпитализации и сократить средний койко-день больных с нестабильной
стенокардией на 28%, а больных с пароксизмальной тахиаритмией – на 67%. Использование рекомендаций ИСПР по лечению больных с данными заболеваниями
обеспечило уменьшение количества болевых приступов, побочного действия лекарственных препаратов, более быструю стабилизацию ритма сердца. Данная ИСПР
внедрена в ряде лечебных учреждений Саратовской области, что подтверждено соответствующими актами внедрения.
В заключении сформулированы основные научные и практические результаты, полученные при выполнении данной диссертационной работы.
ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ
1. Впервые выполнен системный анализ способов построения ИСПР для
сложных организационно-технических комплексов и предложена основанная на
нем методология повышения эффективности и качества их функционирования. Выполнена формальная постановка задачи повышения качества программного обеспечения интеллектуальных систем при неблагоприятном стечении обстоятельств,
31
установлена ее принадлежность к классу задач вариационного исчисления на
условный экстремум, предложен и обоснован эвристический подход к решению
данной задачи.
2. Решение поставленной задачи сведено к синтезу комплексного плана операций по повышению надежности программного обеспечения и анализу его выполнимости при различных управляющих воздействиях и состояниях среды. Разработаны модели и алгоритмы синтеза комплексного плана операций по повышению
качества программного обеспечения в виде дерева событий, позволившие построить план операций из нескольких сотен вершин и дуг.
3. Предложена методика проверки реализуемости плана операций на основе
использования аппарата булевых функций и продукционных моделей, позволяющая
представить этот план в виде совокупности дискретных логических структур, единичный сигнал на выходе которых показывает возможность его исполнения.
4. Разработаны математические модели, позволяющие определить вероятности возникновения неблагоприятных стечений событий в процессе реализации
плана операций из решения систем дифференциальных уравнений Колмогорова –
Чепмена для трех-, четырех-, пяти- и шестиэлементных минимальных сечений,
что позволяет повысить надежность программного обеспечения интеллектуальных систем. Предложена и обоснована процедура проведения вычислительных
экспериментов с математическими моделями минимальных сечений, использованная для подтверждения адекватности разработанного математического обеспечения.
5. На основе использования причинно-следственных связей и математического аппарата системной динамики Форрестера разработана процедура построения
системы нелинейных дифференциальных уравнений, обеспечивающая комплексный учет основных внутренних и внешних факторов и их взаимосвязей, определяющих функционирование ИСПР. Построена система дифференциальных нелинейных
уравнений, отражающая изменения характеристик программного обеспечения ИСПР в
процессе ее функционирования.
7. Разработаны классификация и формализация основных типов ошибок в
продукционных базах знаний, используемых при построении ИСПР, позволяющая
сократить количество моделей ошибок, ограничив его числом выделенных классов.
Предложены новый подход к отладке баз знаний, новый комплекс алгоритмических
методов генерации тестов для продукционной и нейросетевой – трехслойный персептрон – форм представления знаний, позволяющие выявить наиболее трудный
для обнаружения тип ошибок – «забывание об исключении». Проведены экспериментальные исследования алгоритмов, реализующих разработанные методы генерации тестовых данных для обнаружения и исправления ошибок в базах данных
ИСПР, которые показали высокую эффективность тестирования и практическую
применимость.
8. Представленные в работе модели, методы и алгоритмы построения ИСПР
для сложных организационно-технических комплексов использованы при построении ИСПР в области энергетики и медицины: ООО НПО «Поволжская энергетическая компания», ООО «СЭПО-ЗЭМ», АО «НЕФТЕМАШ»-САПКОН, ООО «Геофизмаш», ООО «Сателлит Софт Лабз», в проекте «Умный город», в клиниках
ФГБОУ ВПО «Саратовский государственный медицинский университет имени В.И.
Разумовского, НУЗ «Дорожная клиническая больница на станции Саратов-II ОАО
«РЖД»».
32
ОСНОВНЫЕ ПУБЛИКАЦИИ ПО ТЕМЕ ДИССЕРТАЦИИ
Публикации в изданиях, рекомендованных ВАК при Минобрнауки России
1. Долинина О.Н. Управление процессом создания программного обеспечения систем
принятия решений по критерию качества / О.Н. Долинина, А.Ф. Резчиков // Системы управления и информационные технологии. 2017. № 3 (69). С. 78-82
2. Долинина, О.Н. Экспертная система диагностики неисправностей газоперекачивающих агрегатов на компрессорных станциях / М.В. Аврамов, П.Г. Антропов, Н.М. Губин,
О.Н. Долинина, И.И. Евдакимов, С.В. Пахтусов // Интеллектуальные системы в производстве.
2017. Т. 15. № 1. С. 20-25.
3. Долинина, О.Н. Формальные модели структурных ошибок в базах знаний интеллектуальных систем / О.Н. Долинина, А.Ф. Резчиков, Н.К. Сучкова // Современные наукоемкие технологии. 2017. № 3. Режим доступа: http://www.top-technologies.ru/ru/article/
view?id=36607 (дата обращения: 13.04.2017).
4. Долинина О.Н. О подходе к управлению сбором бытовых отходов с помощью гибридной интеллектуальной системы проекта «Умный город» / О.Н. Долинина, В.В. Печенкин //
Программные системы и вычислительные методы. 2017. № 3. С. 1-15.
5. Долинина, О.Н. Метод группировки правил в интеллектуальных системах, использующих нечеткий вывод / О.Н. Долинина, Ю.Г. Шварц // Научное обозрение. 2015. № 2.
С.109-118.
6. Долинина, О.Н. Способ диагностики неисправностей газоперекачивающих агрегатов с использованием гибридных интеллектуальных систем / П.Г. Антропов, О.Н. Долинина,
А.К. Кузьмин, А.Ю. Шварц // Вестник Самарского государственного аэрокосмического университета им. академика С.П. Королёва. 2014. № 5-1. С. 75-84.
7. Долинина, О.Н. Отладка искусственной нейросети, основанной на трёхслойном
персептроне, на примере экспертной системы для офтальмологии / А.К. Кузьмин,
О.Н. Долинина // Вестник Астраханского государственного технического университета. Серия: Управление, вычислительная техника и информатика. 2011. № 5. С. 80-90.
8. Долинина, О.Н. Отладка нейросетевой экспертной системы для офтальмологии /
О.Н. Долинина, А.К. Кузьмин // Вестник Саратовского государственного технического университета. 2011. № 4 (62). Вып. 4. С. 248-253.
9. Долинина, О.Н. Метод генерации тестов для отладки баз знаний экспертных систем / О.Н. Долинина // Программная инженерия. 2011. № 5. С. 40-48.
10. Долинина, О.Н. О методе создания экспертных систем / О.Н. Долинина // Научнотехнический вестник Поволжья. 2011. № 4. С. 152-156.
11. Долинина, О.Н. Методы отладки баз знаний систем искусственного интеллекта / О.Н. Долинина // Системы управления и информационные технологии. 2011. № 2 (44).
С. 75-81.
12. Долинина, О.Н. Метод генерации тестов для отладки нейросетевых экспертных
систем / А.К. Кузьмин, О.Н. Долинина // Вестник Тамбовского государственного технического университета. 2010. № 4. С. 34-45.
13. Долинина, О.Н. Модифицированный гравитационный «force-directed» метод динамической укладки социальной сети образовательной организации / О.Н. Долинина,
В.В. Печенкин, В.В. Тарасова, П.П. Шацких // Вестник Саратовского государственного технического университета. 2010. № 4(50). Вып. 2. С. 156-160.
14. Долинина, О.Н. Классификация ошибок в базах знаний экспертных систем /
О.Н. Долинина // Вестник Саратовского государственного технического университета. 2010.
№ 4 (50). Вып. 2. С. 125-130.
15. Долинина, О.Н. Использование графовых моделей для визуализации социальных
сетей образовательной организации / О.Н. Долинина, В.В. Печенкин, В.В. Тарасова // Вестник
Саратовского
государственного
технического
университета.
2009.
№4
(43).
С. 210-214.
16. Долинина, О.Н. Применение методов технической диагностики для отладки баз
знаний нейросетевых экспертных систем / А.К. Кузьмин, О.Н. Долинина // Информационные
технологии. 2009. № 2 (150). С. 34-38.
33
17. Долинина, О.Н. Управление образовательным процессом на основе автоматизированных комбинированных обучающих систем / А.А. Большаков, О.Н. Долинина,
В.В. Шатохин // Вестник Саратовского государственного технического университета. 2008.
№ 2 (35). С. 54-62.
18. Долинина, О.Н. Применение методов технической диагностики для отладки баз
знаний экспертных систем / О.Н. Долинина, А.К. Кузьмин // Вестник Саратовского государственного технического университета. 2008. № 2 (33). С.266-272.
19. Долинина, О.Н. Методы обработки многомерных данных объектов числовой и
нечисловой природы / О.Н. Долинина, Р.Н. Каримов // Вестник Саратовского государственного технического университета. 2006. № 2 (12). С. 100-110.
Публикации в изданиях, индексируемых в базе данных SCOPUS
20. Dolinina, O. The Approach to Provide and Support the Aviation Transportation System
Safety Based on Automation Models / A. Rezchikov, V. Kushnikov, V. Ivaschenko, A. Bogomolov,
L. Filimonyuk, O. Dolinina, E. Kulakova, K. Kachur // Software Engineering Trends and Techniques
in Intelligent Systems: Proc. of the 6th Computer Science On-line Conference 2017 (CSOC2017),
Vol. 3. Springer, 2017. P. 244-255.
21. Dolinina, O. Formal Models of the Structural Errors in the Knowledge Bases of Intellectual Decision Making Systems / О. Dolinina, N. Suchkova // Proc. of the 6th Computer Science Online Conference 2017 (CSOC2017), Vol. 1. Advances in Intelligent Systems and Computing. Springer, 2017. P. 156-168.
22. Dolinina, O. Method of the Debugging of the Knowledge Bases of Intellectual Decision
Making Systems / O. Dolinina // Automation Control Theory Perspectives in Intelligent Systems:
Proc. of the 5th Computer Science Conference 2016 (CSOC 2016). Vol. 3. Springer, 2016. P. 307315.
23. Dolinina, O. The Problem of a Human Factor in Aviation Transport Systems /
A. Rezchikov, O. Dolinina, V. Kushnikov, V. Ivaschenko, K. Kachur, A. Bogomolov, L. Filimonyuk
// Indian Journal of Science and Technology. 2016. V. 9. № 46. Р. 107351.
24. Dolinina, O. Method of the Visual Information Processing based on Grid-Calculations /
O. Dolinina, A. Ermakov, A. Shvarts // Proc. of the 22d Int. Conf., CN 2015, Brunow, Poland. June
16-19. Springer, Computer Networks, 2015. P. 213-222.
25. Dolinina, O. Analysis of Objective Trees in Security Management of Distributed Computer Networks of Enterprises and Organizations / O. Dolinina, V. Kushnikov, E. Kulakova // Proc.
of the 22d Int. Conf., CN 2015. Brunow, Poland. June 16-19. Springer, Computer Networks, 2015.
P. 117-127.
26. Dolinina, O. Algorithms for Increasing of the Effectiveness of the Making Decisions by
Intelligent Fuzzy Systems / O. Dolinina, A. Shvarts // Proc. The 5th International Workshop on Computer Science and Engineering (WCSE 2015). April 15-17. Moscow, Russia, 2015. P. 130-136.
Монографии
27. Долинина, О.Н. Алгоритмы и методы разработки и отладки экспертных систем:
монография / О.Н. Долинина. Саратов: Сарат. гос. техн. ун-т, 2015. 225 с.
28. Долинина, О.Н. Информационные технологии в управлении современной организацией: монография / О.Н. Долинина. Саратов: Сарат. гос. техн. ун-т, 2006. 160 с.
Свидетельства о регистрации электронных ресурсов
29. Свидетельство об официальной регистрации программы для ЭВМ № 2016619717
Программное обеспечение создания каскадных нечетких баз знаний «Fuzzy Cascade» /
О.Н. Долинина, А.Ю. Шварц. Заявка № 2016617166, дата гос. регистрации в Реестре программ для ЭВМ 26.08.2016.
30. Свидетельство об официальной регистрации программы для ЭВМ № 2014612271
NNetwork Translator / О.Н. Долинина, А.К. Кузьмин, А.Ю. Шварц. Заявка № 2013662038, дата гос. регистрации в Реестре программ для ЭВМ 21.02.2014.
34
31. Свидетельство об официальной регистрации программы для ЭВМ № 2014612272
NNetwork Complex / О.Н. Долинина, А.К. Кузьмин, Е.А. Кузьмина. Заявка № 2013662039,
дата гос. регистрации в Реестре программ для ЭВМ 21.02.2014.
32. Свидетельство об официальной регистрации программы для ЭВМ № 2011610038
NNetwork Tester / О.Н. Долинина, А.К. Кузьмин. Заявка №2010616932, дата гос. регистрации
в Реестре программ для ЭВМ 11.01.2011.
33. Свидетельство об официальной регистрации программы для ЭВМ № 2013661540
Программное обеспечение AroundMe / О.Н. Долинина, Е.М. Кулакова, К.П. Качур. Заявка
№ 2013619827, дата гос. регистрации в Реестре программ для ЭВМ 10.12.2013.
34. Свидетельство об официальной регистрации программы для ЭВМ № 2007615261
Программа реализации нейросетевого эмулятора NNetwork / О.Н. Долинина, А.К. Кузьмин,
А.В. Оуграбко; Заявка № 20076114999, дата гос. регистрации в Реестре программ для ЭВМ
27.12.2007.
Публикации в других изданиях
35. Dolinina, O. An approach to the Development of the Control System of the Aviation
Transport Safety Taking into Account the Human Factor / A. Rezchikov, O. Dolinina, V. Kushnikov,
V. Ivaschenko, K Kachur, A. Bogomolov, L. Filimonyuk // International Journal of Engineering Sciences & Research Technology. 2017. 6 (2). February. P. 279-284.
36. Dolinina, O. Method of Dynamic Rout Calculation in the «Smart City» Project /
A. Borozdukhin, O. Dolinina, V. Pechenkin // Computer Technology and Application. 2016. Vol. 7.
Num. 4. April 2016 (ser. Num. 45). Р. 209-215.
37. Долинина, О.Н. Метод отладки баз знаний, основанных на правилах, для экспертных систем / О.Н. Долинина // Българско списание за инженерно проектиране / Машиностроителен факултет, Технически университет. София. Октомври. 2013. № 20. С. 43-51.
38. Долинина, О.Н. Интеллектуальные технологии для решения проблемы диагностики неисправностей газоперекачивающих агрегатов / Н.М. Губин, О.Н. Долинина // Информационно-коммуникационные технологии в науке, производстве и образовании ICIT-2016:
материалы науч-практ. конф. / под ред. О.Н. Долининой. Саратов, 23-28 августа 2016 г. Саратов: ООО Изд-во «Научная книга», 2016. С. 137-142.
39. Dolinina, O. Algorithms for Increasing of the Making Decisions by Intelligent Fuzzy
Systems / O. Dolinina, A. Shvarts // Journal of Electrical Engineering. 2015 (ser. Num. 7). Vol. 3.
№ 1. Р. 30-36.
40. Долинина, О.Н. Методология отладки интеллектуальных информационных систем / О.Н. Долинина // Материалы I Открытого российского статистического конгресса. Новосибирск, 2015. С. 321-329.
41. Долинина, О.Н. Решение проблемы диагностики неисправностей газоперекачивающих агрегатов с помощью гибридной экспертной системы / О.Н. Долинина, Н.М. Губин //
Проблемы управления в социально-экономических и технических системах: сб. науч. статей
по материалам XI Междунар. науч.-практ. конф. Саратов, 2015. С. 50-53.
42. Долинина, О.Н. Разработка интеллектуальной системы диагностики неисправностей газоперекачивающих агрегатов / О.Н. Долинина, А.Ю. Шварц // Математические методы
в технике и технологиях – ММТТ-27: сб. тр. ХХVII Междунар. науч. конф.: в 12 т. Т. 3. Секция 7 / под общ. ред. А.А. Большакова. Тамбов: Тамбов. гос. техн. ун-т, 2014. С. 88-89.
43. Долинина, О.Н. Некоторые аспекты отладки программного обеспечения /
О.Н. Долинина, А.С. Казакова // Проблемы управления в социально-экономических и технических системах: сб. науч. статей. Саратов: Изд. центр «Наука», 2014. С. 39-44.
44. Dolinina, O. Knowledge Representation for Rule-Based Expert Systems / О. Dolinina //
Proc. of the ICEE ICIT 2013 Conference / Cape Peninsula University of Technology, Cape Town,
South Africa. 9-11 December, 2013. Р. 95-100.
45. Dolinina, O. Test Set Generation Method for Debugging of Neural Network-based Expert Systems / О. Dolinina, A. Kuzmin // Рroc. of Int. congress on Inf. Technologies ICIT-12 (Information & Communication technologies in education, manufacturing & Research). 6-9 June 2012. Saratov, Russia, 2012. Р. 53-59.
35
46. Dolinina, O. Method of Rules Extraction for Expert Systems Based on Perceptron /
О. Dolinina, А. Shvarts // Рroc. of Int. congress on Inf. Technologies ICIT-12 (Information & Communication technologies in education, manufacturing & Research). 6-9 June 2012. Saratov, Russia,
2012. Р. 71-77.
47. Dolinina, O. Development of Expert System PharmExs for Purchasing of First Aid
Medicine against Colds / О. Dolinina, D. Sokolov // Рroc. of Int. congress on Inf. Technologies ICIT12 (Information & Communication technologies in education, manufacturing & Research). 6-9 June.
Saratov, Russia. 2012. Р. 89-95.
48. Долинина, О.Н. Метод генерации тестов для отладки нейросетевых экспертных
систем с учетом ошибок типа «Забывание об исключении» / О.Н. Долинина, А.К. Кузьмин //
ТЕЛЕМАТИКА’2011: тр. XVIII Всерос. науч.-метод. конф. СПбГУ ИТМО. 2-23 июня 2011 г.
СПб., 2011. С. 344-347.
49. Долинина, О.Н. Классификация алгоритмов извлечения правил из искусственных нейронных сетей / О.Н. Долинина, К.Д. Васюк, А.К. Кузьмин // Инновации и актуальные
проблемы техники и технологий: материалы Всерос. науч.-практ. конф. молодых ученых.
В 2 т. Т. 1 / под общ. ред. А.А. Большакова. Саратов: Сарат. гос. техн. ун-т, 2010. С.66-70.
50. Долинина, О.Н. Нейросетевой подход к решению задачи комплаентности пациентов / О.Н. Долинина, В.В. Тарасова, А.К. Кузьмин // Методы компьютерной диагностики в
биологии и медицине – 2008: материалы ежегод. Всерос. науч. школы-семинара / под ред.
проф. Д.А. Усанова. Саратов: Изд-во Сарат. гос. ун-та, 2008. С.72-75.
51. Долинина, О.Н. Контроль качества баз знаний нейросетевых экспертных систем /
О.Н. Долинина, А.К. Кузьмин // Математические методы в технике и технологиях – ММТТ21: сб. тр. XXI Междунар. науч. конф. В 11 т. Т. 2. Секция 6 / под общ. ред. В.С. Балакирева.
Саратов: Сарат. гос. техн. ун-т, 2008. С. 268-270.
52. Долинина, О.Н. Математические многокомпонентные временные модели газораспределения / О.Н. Долинина, Р.Н. Каримов, А.А. Рейтер // Логистика и экономика ресурсосбережения и энергосбережения в промышленности: сб. науч. тр. Междунар. науч.-практ.
конф. МНПК «ЛЭРЭП -2007». Саратов, 2007. Т. 2. С.28-37.
53. Долинина, О.Н. Задачи прогноза развития нестабильной стенокардии методом
нейронной сети / О.Н. Долинина, А.К. Кузьмин, А.В. Оуграбко, А.О. Юдин // Технологии Интернет – на службу обществу: сб. статей по материалам Всерос. науч.-практ. конф. / Сарат. гос.
техн. ун-т. Саратов, 2006. С. 133-137.
54. Долинина, О.Н. Диагностика многомерных объектов нечисловой природы /
О.Н. Долинина, В.П. Токарев // Инновационные технологии в обучении и производстве: материалы III Всерос. конф. Камышин, 2005. Т. 2. С. 209-212.
55. Dolinina, O.N. Use of knowledge-based trainers and expert systems in urgent medicine /
О.N. Dolinina, J.G. Shwartz // New Media and Telematic Technologies for Education in Eastern European Countries / Ed. by P. Kommers, A. Dovgiallo, Twente Univ. Press, Enschede, 1997. P. 299304.
56. Долинина, О.Н. Проблемы разработки медицинских экспертных систем /
О.Н. Долинина, Р.Н. Каримов, А.Ю. Шварц // Здравоохранение РФ. 1994. № 1. С. 7-9.
Подписано в печать 15.01.2018
Формат 60×84 1/16
Бум. офсет.
Усл. печ. л. 2,0
Уч.-изд. л. 2,0
Тираж 100 экз.
Заказ 1
Бесплатно
Саратовский государственный технический университет имени Гагарина Ю.А.
410054, Саратов, Политехническая ул., 77
Отпечатано в Издательстве СГТУ. 410054, Саратов, Политехническая ул., 77
Тел.: 24-95-70; 99-87-39, е-mail: izdat@sstu.ru
36
1/--страниц
Пожаловаться на содержимое документа