close

Вход

Забыли?

вход по аккаунту

?

USING DESIGN PATTERNS FOR DESIGN OF SOFTWARE …

код для вставкиСкачать
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
ПРИМЕНЕНИЕ
НЕЙРОЭВОЛЮЦИОННОГО ПОДХОДА
ДЛЯ РЕШЕНИЯ ЗАДАЧ
КЛАССИФИКАЦИИ И
АППРОКСИМАЦИИ
Цой Ю.Р., Спицын В.Г.
Кафедра вычислительной техники
Томский политехнический университет
http://qai.narod.ru
qai@mail.ru
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
Содержание
1. Нейроэволюционный подход.
2. Плюсы и минусы нейроэволюционного подхода.
3. Обучение с учителем.
4. Неточная оценка нейронных сетей.
5. Задачи адаптивного поведения и управления.
6. Многоагентные системы.
7. Игровые стратегии.
8. Проект N.E.R.O.
9. Настройка клеточных автоматов.
10. Заключение.
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
1. Нейроэволюционный подход (1/2)
Применение эволюционных алгоритмов для
настройки и обучения искусственных нейронных
сетей (Gruau, 1994; Yao, 1999):
- обучение НС при фиксированной структуре;
- настройка структуры НС;
- настройка параметров алгоритма обучения;
- настройка параметров активационных функций;
- фильтрация обучающих данных;
- комбинирование вышеперечисленных задач.
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
1. Нейроэволюционный подход (2/2)
Некоторые названия:
- Neurogenesis (D. Whitley);
- EDNA – Evolutionary Design of Neural Architectures
(K. Balakrishan & V. Honavar);
- GANN – Genetic Algorithms to Neural Networks
optimization (P. Koehn);
- EANN – Evolutionary Artificial Neural Networks (X.
Yao);
- Neuroevolution (R. Miikkulainen).
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
2. Плюсы и минусы нейроэволюционного
(НЭ) подхода
Плюсы:
+ упрощение использования
нейросетевых технологий;
+ возможность автоматической
настройки параметров НЭ
алгоритма;
+ возможность использования
любых активационных
функций нейронов;
+ возможность оценки ИНС
без информации о значении
выходных сигналов сети.
Минусы:
- отсутствие гарантии
сходимости эволюционного
алгоритма;
- утрата контроля над процессом
поиска решения;
- проблема конкурирующих
решений (competing
conventions problem, N.
Radcliff, 1990; 1991).
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
классификация
3. Обучение с учителем
Название
проблемы
Ошибка,
NEvA-2
Структура ИНС,
NEvA-2,
N H : NC
Ошибка,
Proben1 docs
Структура ИНС,
Proben1 docs,
NH : NC
cancer1
2,29885 %
2,3 : 26,8
1,32 %
6 : 48
cards1
11,6279 %
1,1 : 100,1
13,37 %
0 : 102
diabetes1
37,5 %
1 : 16,111
24,1 %
4 : 24
gene1
31,694 %
1,9 : 361,7
13,64 %
0 : 360
glass1
19,4969 %
1,5 : 53,8
32,7 %
8 : 120
heart1
20,4348 %
1 : 70,9
19,72 %
8 : 296
horse1
20,5128 %
1,429 : 169,29
29,19 %
4 : 244
mushroom1
4,08666 %
1,2 : 249
0%
0 : 250
soybean1
7,36842 %
1,1 : 1560,2
9,06 %
24 : > 2000
thyroid1
4,85185 %
1,3 : 65,6
2,32 %
24 : > 450
building1
0,693222
1,1 : 43,3
0,78
0 : 42
flare1
0,676483
1,2 : 73,1
0,52
0 : 72
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
4. Неточная оценка нейронных сетей
При использовании нейроэволюционного подхода для оценки
ИНС необязательно использовать значения ее выходных
сигналов. Достаточно использовать характеристику,
отражающую внешнюю, качественную сторону
функционирования НС.
Следствие: Для обучения достаточно оценивать результат
последовательности выходных сигналов НС.
Отмеченные особенности позволяют:
- упростить применение ИНС для решения задач, связанных с
моделированием, адаптивным управлением и поведением;
- расширить спектр задач, решаемых с использованием НС.
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
5. Задачи адаптивного поведения и
управления
Состояние объекта
управления
ИНС
Действие
Состояние
среды
-
балансировка шеста (шестов) – время балансирования (в тактах);
преследование жертвы – количество успешных преследований;
управление рукой-манипулятором – пройденное расстояние;
управление мобильным роботом Khepera – пройденное расстояние;
управление моделью ракеты – высота ракеты.
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
6. Многоагентные системы (1/2)
Оценка
Действие
Эволюция
Популяция агентов
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
6. Многоагентные системы (2/2)
жертва
хищник
Наследственность в
эволюционирующей системе
является источником корреляции
между «соседними»
поколениями. Таким образом,
эволюция может рассматриваться как процесс с памятью.
Глубина памяти зависит от
давления отбора, интенсивности мутаций, стратегии
формирования нового поколения и других параметров
эволюционных алгоритмов.
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
7. Игровые стратегии
Игры: го (на досках 5х5, 7х7), крестики-нолики.
Го – возможно, самая сложная и глубокая игра с
простыми правилами.
Оценка нейронной сети – количество выигрышей в
серии игр.
Возможно использование конкурирующей коэволюции (competitive co-evolution) для
самообучения НС, а также применение техники
rowing eye.
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
8. Проект N.E.R.O. (Neuro-Evolution of
Robotic Operatives) (1/2)
Используется алгоритм rtNEAT (real-time NeuroEvolution of
Augmenting Topologies) Кеннета Стенли.
Особенности:
- Искусственный интеллект агентов представлен
эволюционирующими в реальном времени нейронными сетями.
- Игрок на специальном полигоне тренирует своих агентов для
будущих боев.
- Поведение агентов зависит от развития игровой ситуации.
Агенты оцениваются в зависимости от схожести их поведения с
«эталонным» поведением, заданном пользователем.
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
8. Проект N.E.R.O. (Neuro-Evolution of
Robotic Operatives) (2/2)
Рисунки взяты с официального сайта проекта N.E.R.O.: http://nn.cs.utexas.edu/NERO/
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
9. Настройка клеточных автоматов (1/3)
Клеточные автоматы (КА) - это децентрализованные,
распределенные в пространстве системы, состоящие из
большого числа идентичных простых компонент с
локальной связанностью.
Каждая клетка характеризуется состоянием, которое
изменяется в зависимости от окрестности клетки
заданного радиуса.
Правила изменения состояний клеток задаются таблицей
правил.
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
9. Настройка клеточных автоматов (2/3)
S1 S2
S3
DS
S4 S0
S5
S0(t)
S6 S7
S8
ИНС
S0(t+1)
mS
r=1
ИНС используется для аппроксимации таблицы правил
клеточного автомата для решения задач моделирования.
Оценка НС – степень схожести поведения КА, под
управлением НС, с поведением «эталонного» КА.
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
9. Настройка клеточных автоматов (улучшение
качества изображений) (3/3)
Изображение
DI(x,y)
I(x,y)
ИНС
I*(x,y)
Исходное
Обработанное
Iavg
Рассматривается попиксельная обработка изображений.
Оценка ИНС зависит от качества обработанного
изображения.
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
10. Заключение (1/2)
Нейроэволюционный подход:
Удобство использования против отсутствия твердых гарантий на
получение результата.
Основные преимущества:
- возможность использования неточных оценок работы НС;
- адаптивность;
- возможность использования одного алгоритма для решения широкого
круга задач.
Возможное решение многих проблем нейроэволюционного подхода:
Разработка новых эволюционных операторов и способов
представления информации.
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
10. Заключение (2/2)
«… Самыми плодотворными для развития наук
являются области, оставленные в
пренебрежении по той причине, что они были
«ничьей территорией» между различными
сложившимися науками.»
Норберт Винер
«Кибернетика, или Управление
и связь в животном и машине»
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Цой Ю.Р., Спицын В.Г. «Применение нейроэволюционного подхода
для решения задач классификации и аппроксимации»
Спасибо за внимание!
XIII Всероссийский семинар «Нейроинформатика и ее приложения»
7-9 октября, 2005г., Красноярск
Документ
Категория
Презентации
Просмотров
2
Размер файла
1 160 Кб
Теги
1/--страниц
Пожаловаться на содержимое документа