close

Вход

Забыли?

вход по аккаунту

?

КОНЦЕПЦИЯ ЭНТРОПИИ в СИСТЕМНОМ АНАЛИЗЕ

код для вставкиСкачать
КОНЦЕПЦИЯ ЭНТРОПИИ
В
СИСТЕМНОМ АНАЛИЗЕ
Попков Ю.С.
Институт системного анализа
Российской академии наук
МФТИ
09 апреля 2013
Энтропийная мера
1. Неопределенности S
2. Информации I =H0-H
ШКОЛА
?
H H0
*
H H
1
11
*
0
3. Поведенческой мотивации max H = max P
?
Риски
РАО ЕЭС 1.5%
Газпром 1.2%
Р&K 18%
Котировки
РАО ЕЭС 12%
Газпром 8%
Рога и Копыта 28%
2
ТЕОРИЯ МАКРОСИСТЕМ
3
Системные эффекты
Физическая система
Биологическая система
Звездные структуры
Транспортная система
Экономическая система
fast slow
4
Индивидуальные и коллективные свойства
Устойчивое
распределение
Решения
Население
Производители
Потребители
…
Устойчивое
распределение
Априорные
вероятности
Макроуровень
коллективное поведение максимум энтропии
Микроуровень
индивидуальное
поведение
Элементы со
стохастическим
поведением
5
Феноменология равновесных состояний макросистемы
М А К Р О С И С Т Е М А
Макроуровень
Макросостояние N { N 1 , , N m }
Микроуровень
ресурсы
6
Определение и классификация макросистем
G i емкость подмножества Si
li емкость состояния в подмножестве Si
m количество подмножеств
Классы элементов и подмножеств
Подмнож /
Элементы
D
I
D
DD
DI
I
ID
II
Макросостояние
DI – различимы
I - неразличимы
Классы статистик (емкость состояний li)
li=1
Ферми
li=∞
Эйнштейн
Li-любая
(элементов мало)
Больцман
1≤ li≤ ∞
Парастатистика
N {N1,
, N m}
7
Примеры функций распределения
вероятностей макросостояний
DD-парамакросистема
ID-парамакросистема
неравные априорные вероятности
неравные априорные вероятности
равные априорные вероятности
равные априорные вероятности
8
Вариационный принцип
Модели стационарных состояний макросистем
A) С полным использованием ресурсов
H ( N ) max
k ( t , N ) qk ,
k 1, r
Б) С неполным использованием ресурсов
H ( N ) max
k ( t , N ) qk ,
k 1, r
9
Феноменология неравновесных состояний макросистем
x (1) { x1 ( t ),..., x n ( t )} вектор
состояния
блоков
U s ( t ) u s ( x ( t )) универсаль
ный
продукт
Y ( t ) [ y si ( t ) | s , i 1, n ] потоки
универсаль
ного продукта
компоненты
в блоках
между блоками
процесс
самовоспроизведение
распределение
элементы
cпецифические x(t)
неспецифические Y(t)
природа
детерминированная
стохастическая
временная шкала
медленная
быстрая
время релаксации
slow
fast
10
Модель неравновесных состояний макросистемы
(динамическая система с энтропийным оператором)
•
Состояния блоков
x ( t ) L ( x ( t ), Y ( t ))
*
L м атериальны й поток;
L ( x , Y ) непреры вно-диф ф еренцируем ая вектор-ф ункция;
t ш кала "м едленного" врем ени.
•
Локально-стационарные состояния распределения потоков универсального
продукта
H (Y , x ) m ax
*
x s (t )
Априорная
вероятность
Емкость
a si
G si
xi (t )
Y F (x)
*
Y локально-стационарное
*
распред еление потоков
универсальный продукт
Запасы
g
универсальный продукт
универсального прод укта
Функции
потребления
( x, Y )
Ресурсные ограничения
F (x)
11
Динамическая система с
энтропийным оператором
*
x ( t ) L ( x , y ( x )),
x R , y R
n
*
m
Энтропийный оператор
y ( x ) arg m ax{ H ( y , x ) | y F ( x ), x R , y R } 0
*
n
m
y
12
Задачи энтропийного программирования
H (x) m
x
i
ln
i
ln
m
i 1
,
aie
i 1
x
xi
xi
ai
x X X x : x 0 b i x i ln b i x i ,
x X X x : 0 x q a i , , a n и bi , , bn - параметры
Энтропийно-линейное
программирование (ЭЛП)
Tx Энтропийно-квадратичное
программирование (ЭКП)
Tx F ( x ) ,
Vx p
0 *
0 p
Vx P ( x ) p
F ( x) x' F x,
k
*
P ( x) x' P x
k
k
h
k
F x , P x - симметричн
A
k '
F x A
k
k
,
u A x, d
k
k
Tx u
(2)
u
1
h
ые матрицы
B
P B
h
h
k
Vx d
, , u
h
l
;
u
d
(2)
(2)
d
u
1
1
, , u
, , d
h
(2)
r l
d
1
, , d
r l
u , u
k
d , d
h
l
k '
h '
h
B x
A x u 0; B x d
k
h '
h
0,
.
, k 1, l ,
, h 1, r l .
13
Мультипликативные алгоритмы с
(p,q)-активными переменными
Активные переменные (p,q) – заданы
1. Циклический выбор активных переменных (l=10, r=15)
итерация
0
1
2
3
4
5
6
номер перемен. z
1, l
1, 2
3, 4
5, 6
7, 8
9, 10
1, 2
...
p=2
номер перемен. μ
1, r l
1, 2
3, 4
1, 2
3, 4
1, 2
3, 4
...
q=2
2. По максимальной невязке
k z , s
s
1 B z
z , k ( s ) arg max z , ,
h ( s ) arg max z , ,
s
k
,
s
s
s
h
j
k
h
1 h z , s
s
s
p 1
s
s
q 1
s
s
3. По минимальной и максимальной невязке
z
;
max
( s ) arg max k z , ;
ki
max
( s ) arg max h
hi
kj
hj
Алгоритмы по
двойственным переменным
s
s
s
,
s
z
min
( s ) arg min k z , s
min
( s ) arg min h
s
Алгоритмы по
прямым переменным
s
s
,
Смешанные
алгоритмы
14
МАТЕМАТИЧЕСКАЯ
ДЕМОЭКОНОМИКА
15
Население и экономика
Труд
Фонды
Товар
Система «население-экономика»
Экономика
Население
Природные
ресурсы
Потребление
товаров
Трудоспособное
население
Труд
Потребление
Экономика
Население
16
Почему энтропия?
Феноменология
Население
Экономика
Воспроизводство Миграция
Производство Население
Миграционное и репродуктивное
поведение человека
Экономическое поведение
производителей и потребителей
Факторы:
• экономические
• экологические
• культурологические
• религиозные
• т.п.
Факторы:
• прибыль
• риск
• транспортные издержки
• т.п.
17
Энтропийная модель
«Население»
dK n
dt
Gn K n (Y nj Y jn ) S n
MC
(t ) ,
n 1, N
j
- воспроизводство
- внутренняя миграция
- внешняя миграция
Модуль «Воспроизводство»
Gn
- матрица поло-возрастной структуры рождаемости, старения и смертности ( B n , D n , D n )
W
M
W
Внешняя миграция
MC
Sn
- сальдо внешней миграции (экзогенная переменная)
18
Энтропийная модель
«Население»
Модуль «Внутренняя миграция»
Принципы:
локальных равновесий и максимизации энтропии
Y arg m ax{ H (Y , K , Z ) | Y M ( K , Z )}
Н – энтропия распределения миграционных потоков Y
Z – воздействие метасистемы
M – допустимое множество распределений миграционных потоков
Реализация:
энтропийно-линейное программирование
N
H (Y , K , Z ) Yij ln
n, j
t
knj
Y nj
m ax
ea nj ( K , Z )
( K , Z )Y nj q k ( K , Z ),
Y
k 1, r
n, j
a nj ( K , Z ) – априорные вероятности выбора n-мигрантом региона j
t knj ( K , Z ) – удельные расходы k-го ресурса
q k ( K , Z ) – запас k-го ресурса
19
Модель
«Экономика»
Пространственная экономика
Потребность
Предложение
Рынок
труда
Ресурсы
Производство
Выпуск
Потоки
Распределение
занятых
Рынок
товаров
20
Энтропийная модель «Рынок товаров»
Ui – выпуск в i-м регионе
Fij – поток «товаров» из i-й в j-й регион
Энтропийная модель
H ( F ) f ij ln
ij
f ij U i ,
f ij
m ax
v ij (U i , U j )
i 1, N
j
f ij ij T тра н сп о ртн ы е ра сх о д ы ,
ij
ij ра ссто я н и е м е ж д у i и j ре ги о н а м и
f ij с kij q k (U i , U j ) д о п о л н и те л ьн ы е ре сурсы
ij
k 1, r
21
Модель рынка труда 1
Когорты
1924
Рынок труда
w(c,t)
w ( c , t ) когортная структура занятости
( c , t ) квазиэластичноть занятости
t
Работающие
(c, t ) 1925
2000
dw ( c , t )
w (c, t )
dt
t T [ t 0 , t1 ]
c
Предложение
S(c,t)
1
Потребность
RE(c,t)
w ( c , t )[1 ( c , t )], c C t ,
wˆ ( c , t 1) 0, если wˆ ( c , t 1) 0.
w ( c , t 1) wˆ ( c , t 1)
N ( t 1)
N ( t 1) ,
c ( C t \ t )
если wˆ ( c , t 1) 0,
c ( C t \ t ),
гд е
wˆ ( c , t 1)
1 w ( t 1)
B
22
Модель рынка труда 2
Квазиэластичность
(c, t ) (c, t ) (c, t ) (c, t )
собственная
конкурентноспособность
exp( c ),
c Ct
сравнительная
конкурентноспособность
x* (c, t ) exp( | c l |) *
x
(
l
,
t
)
lC t \ c
спрос-предложение
R E (t ) S (c , t ) S (t ) S (t ) H ( X ) m ax
x ( c , t ) R (t )
E
lC t
0 x (c, t ) S (c, t )
c Ct
э н тр о п и й н ы й о п е р а то р
23
Модель рынка труда 3
Эксперимент: 9 стран Европейского Союза 1983-1996 гг.
24
КОМПЬЮТЕРНАЯ
ТОМОГРАФИЯ
25
Энтропийное восстановление
томографических изображений
( i , j ) ф ункция плотности изображ ения
E ( i , j ) ф ункция плотности априорного изображ ения
Вертикальная проекция
(i , j ) h
i
hi i
i 1, n
j
Горизонтальная проекция
(i , j ) v
j
v j jn
j 1, m 1
i
0 ( i , j ) 1,
0 E (i , j ) 1
Энтропия
n ,m
(i, j )
i , j 1
E (i , j )
H F ( , E ) ( i , j ) ln
(1 ( i , j )) ln(1 ( i , j )) m ax
* ( E ) arg m ax( H F ( , E ) | D ) энтропийны й оператор
26
Процедуры энтропийного
восстановления изображений
A) Статические процедуры
Б) Динамические процедуры
Обратная связь
Обратная связь
27
Некоторые типы обратных связей
• Обратная связь по текущему параметру
1
t 1
t
t
t 1
t
t 1
t
E
L ( E , * ); * * * *
t 1
• Обратная связь по текущим среднему и дисперсии
E
t 1
L ( E , * , d * );
t
t
t
t 1
d*
d* t
1
t 1
d
t
*
t 1
( * * )
t
2
28
Пример энтропийного восстановления
томографических изображений
29
ЭНТРОПИЙНОЕ РОБАСТНОЕ
ОЦЕНИВАНИЕ
И
ФИЛЬТРАЦИЯ
30
Энтропийное оценивание
Линейная статическая модель данных
матрица
Параметры
Шум
Линейная рандомизированная модель данных
...
...
случайная
величина
...
...
...
интервалы
...
...
случайная
величина
...
интервалы
31
робастное энтропийное оценивание
Параметры
Задача
Шум
робастного энтропийного оценивания
при условиях
при наихудшем шуме
32
Пример
5 параметров:
шум:
1 измерение:
Исходные данные
1
2
3
4
5
1
2
4
2
1
0,1
0,2
0,3
0,2
0,1
Результаты для
0.0837
0.2211
0.3904
0.2211
0.0837
0.8369
2.2113
3.9037
2.2113
0.8369
Монте Карло 200 испытаний
33
Энтропийная робастная фильтрация
I. Непрерывный случай
Стационарные случайные процессы:
полезный;
шум;
наблюдаемый;
Линейный фильтр:
где
импульсная характеристика фильтра
Энтропийная мера близости
Условия минимума:
Линейное приближение:
34
Энтропийная робастная фильтрация
II. Дискретный робастный энтропийный фильтр
• Динамическая модель полезного сигнала
• Модель наблюдаемого сигнала
матрицы
матрицы
Рандомизированная модель
случайные величины
...
...
…
…
...
...
…
…
...
...
…
…
35
II. Дискретный робастный энтропийный фильтр
при условиях
36
ВЕРЕН ли ПРИНЦИП
МАКСИМИЗАЦИИ ЭНТРОПИИ
?
37
Стохастическая имитация модельных процессов
Метод Монте-Карло
стохастическая
стохастическая
Оператор
осреднения
микросостояние
Микродинамика
«Быстрая»
макросостояние
Макродинамика
«Медленная»
38
СПАСИБО ЗА ВНИМАНИЕ
39
Документ
Категория
Презентации
Просмотров
28
Размер файла
3 820 Кб
Теги
1/--страниц
Пожаловаться на содержимое документа