close

Вход

Забыли?

вход по аккаунту

?

Устойчивость полносвязной и звёздной структур нейронных сетей.

код для вставкиСкачать
УДК 517.929
УСТОЙЧИВОСТЬ ПОЛНОСВЯЗНОЙ И ЗВЁЗДНОЙ СТРУКТУР
НЕЙРОННЫХ СЕТЕЙ1
Т.Н. Хохлова2
Представлены результаты исследования устойчивости нейронных сетей полносвязной и звёздной структуры, описываемых матричным дифференциальным уравнением с запаздыванием. Посредством метода конуса устойчивости получены теоретические выводы для анализа устойчивости исследуемых моделей в зависимости от значений параметров в случае произвольного количества нейронов в сети.
Ключевые слова: дифференциальное уравнение с запаздыванием, асимптотическая устойчивость, нейронная сеть.
Рассмотрим вопрос об устойчивости таких стандартных конфигураций нейронных сетей, как
полносвязная сеть и звезда. Пользуясь методом конуса устойчивости [1], получим для этих моделей необходимые и достаточные условия устойчивости и неустойчивости, определяемые значениями коэффициентов моделей и количеством нейронов в сети. Распространённой моделью, описывающей динамику нейронных сетей, является модель
(1)
xɺ (t ) + Ax(t ) + Bx(t − τ ) = 0, t ≥ 0 ,
где x(t ) – вектор состояния системы, A и B – матрицы размером n × n, n > 2 , τ > 0 – запаздывание. Метод конуса устойчивости применим для этой модели в случае, если A и B – совместно
триангулируемые матрицы.
Это уравнение моделирует динамику нейронных сетей Хопфилда [2]. Матрица A описывает
собственную реакцию нейрона на внешнее воздействие, а матрица B характеризует реакцию
нейрона, связанную с его взаимодействием с соседними нейронами.
В полносвязной системе нейронов изменение состояния конкретного нейрона зависит от состояния всех остальных нейронов сети. Граф, соответствующий данному соединению нейронов,
изображён на рис. 1.
Рис. 1. Полносвязная система нейронов
Полагаем, что взаимодействие нейрона с самим собой происходит мгновенно, а с остальными нейронами сети – с запаздыванием τ > 0 . Тогда динамику взаимодействия нейронов в данной
сети можно описать уравнением (1) с матрицами
1 0 … 0
 0 −b … −b 




0 1 ⋯ 0
−b 0 ⋯ −b 
A= E =
,B=
.
(2)
⋮ ⋮ ⋱ ⋮
 ⋮
⋮ ⋱ ⋮ 




0 0 ⋯ 1
 −b −b ⋯ 0 
1
2
Работа поддержана грантом 1.1711.2011 Министерства образования и науки.
Хохлова Татьяна Наилевна – аспирант кафедры математического анализа, Южно-Уральский государственный университет.
E-mail: tanechkakhokhlova@gmail.com
Серия «Математика. Механика. Физика», выпуск 7
195
Краткие сообщения
Для уравнения (1) с матрицами (2) верна следующая теорема.
Теорема 1. Пусть матрицы имеют размер n × n, n > 2 .
1
1
1. При −
<b<
уравнение (1) с матрицами (2) асимптотически устойчиво при
n −1
n −1
любом τ > 0 .
1
2. При b >
или b < −1 уравнение (1) с матрицами (2) неустойчиво при любом
n −1
τ >0 .
1
3. При −1 < b < −
существует τ 0 > 0 , такое, что уравнение (1) с матрицами (2) усn −1
тойчиво при τ ∈ (0,τ 0 ) и неустойчиво при τ ∈ (τ 0 , +∞ ) .
Теорема 1 позволяет описать области устойчивости и неустойчивости исследуемой сети в зависимости от числа нейронов и запаздывания τ .
Теперь обратимся к звёздной сети. В этом случае в центре находится один нейрон, который
связан со всеми остальными, причём сигнал центрального нейрона передаётся к остальным с запаздыванием τ и интенсивностью a , а от периферии к центру с запаздыванием τ и интенсивностью b . Граф, соответствующий данному соединению, изображен на рис. 2.
Рис. 2. Соединение нейронов в виде звезды
Данная система n-го порядка описывается уравнением (1) с матрицами
 1 0 … 0
0 b … b




0 1 ⋯ 0
a 0 ⋯ 0


A= E =
,B=
.
(3)
⋮ ⋮ ⋱ ⋮
⋮ ⋮ ⋱ ⋮




0 0 ⋯ 1
 a 0 ⋯ 0
Для уравнения (1) с матрицами (3) верна следующая теорема.
Теорема 2. Пусть матрицы имеют размер n × n, n > 2 .
1
1. При 0 < ab <
уравнение (1) с матрицами (3) асимптотически устойчиво при люn −1
бом τ ≥ 0 .
1
2. При ab >
уравнение (1) с матрицами (3) неустойчиво при любом τ ≥ 0 .
n −1
3. При ab < 0 и ( n − 1) ab < sin ω (τ ) , где ω (τ ) есть наименьший положительный корень уравнения τ = ω tg(ω ) , уравнение (1) с матрицами (3) асимптотически устойчиво.
4. При ab < 0 и ( n − 1) ab > sin ω (τ ) уравнение (1) с матрицами (3) неустойчиво.
196
Вестник ЮУрГУ, № 34, 2012
Хохлова Т.Н.
Устойчивость полносвязной и звёздной структур
нейронных сетей
На представленных графиках (рис. 3, 4) в плоскости параметров (a, b) изображены области
устойчивости и неустойчивости звёздной конфигурации нейронной сети для различного числа
нейронов n . Устойчивость в первой и третьей четвертях диагностируется теоретически, а во второй и четвёртой определяется численно при разных значениях запаздывания.
Рис. 3. Области устойчивости звёздной нейронной сети
из четырёх нейронов
Рис. 4. Области устойчивости звёздной нейронной сети
из семи нейронов
Серия «Математика. Механика. Физика», выпуск 7
197
Краткие сообщения
Литература
1. Khokhlova, T.N. Stability cone for linear delay differential matrix equation / T.N. Khokhlova,
M.M. Kipnis, V.V. Malygina // Appl. Math. Letters. – 2011. – V. 24. – P. 742–745.
2. Dreissche, van den P. Global attractivity in delayed Hopfield neural network models / P. van den
Dreissche, X. Zou // SIAM J. Appl. Math. – 1998. – V. 58, №6. – P. 1878–1890.
Поступила в редакцию 6 сентбря 2012 г.
STABILITY OF COMPLETE-CONNECTED AND STELLAR STRUCTURE
OF NEURAL NETWORKS
T.N. Khokhlova
1
Results on stability investigation of full graph and star neural networks described by matrix delay
differential equation are given. Due to stability cone method theoretical results for stability analysis of
models discussed are obtained for different parameter values and arbitrary number of neurons in the
network.
Keywords: delay differential equation, asymptotic stability, neural network.
References
1. Khokhlova T.N., Kipnis M.M., Malygina V.V. Stability cone for linear delay differential matrix
equation. Appl. Math. Letters. 2011. Vol. 24. pp. 742–745.
2. Dreissche, van den P., Zou X. Global attractivity in delayed Hopfield neural network models.
SIAM J. Appl. Math. 1998. Vol. 58, no. 6. pp. 1878–1890.
1
Khokhlova Tatyana Nailevna is Post-graduate student, Mathematical Analysis Department, South Ural State University.
E-mail: tanechkakhokhlova@gmail.com
198
Вестник ЮУрГУ, № 34, 2012
Документ
Категория
Без категории
Просмотров
4
Размер файла
351 Кб
Теги
нейронные, структура, полносвязной, звёздной, сетей, устойчивость
1/--страниц
Пожаловаться на содержимое документа