close

Вход

Забыли?

вход по аккаунту

?

3 (2)

код для вставкиСкачать
 Структурные меры информации.
Такие меры определяются подходом к оценке особенностей структуры сообщений.
Различают геометрическую, комбинаторную, аддитивную меру Хартли.
Геометрической мерой определяется количество информации в заданной структуре сообщений (например, информационная ёмкость).
Единицей геометрической меры, то есть минимальная неделимая часть структуры сообщений является квант.
Информационная ёмкость может быть представлена числом, показывающим какое количество квантов содержится в полном массиве информации.
Пример. Задан трехмерный массив XTN. Минимальные единицы Δ_X, Δ_T, Δ_N.
Количество элементов:
m_X=X/Δ_X ; m_T=T/Δ_T ; m_N=N/Δ_N ;
M= m_X*m_T*m_N - емкость информации в квантах для заданного информационного массива.
Комбинаторная мера информации.
Данная мера часто применяется, когда требуется оценить возможность передачи информации при условии различных комбинаций информационных мер.
Заметим, что образование комбинаций из информационных компонентов - есть одна из форм кодирования.
С помощью этой меры оценивается комбинаторное свойство потенциала структурного разнообразия информационных массивов. Комбинирование элементов информационных массивов базируется на основных понятиях комбинаторики.
Сочетания.
В комбинации сочетаний важно помнить, что учитывается состав. Существуют комбинации с повторениями и без повторений.
Q_c - число сочетаний;
h - общее количество элементов;
l - число элементов в комбинации.
Без повторений:Q_c=h!/(l!*(h-l)!) ;
с повторениями: Q_СП=((h+l-1)!)/(l!*(h-l)!).
Перестановка.
Существенен порядок перестановки.
Q_П - число перестановок;
h - общее количество элементов;
α, β, γ - количество повторений элементов комбинации.
Без повторений:Q_П=h! ;
с повторениями: Q_ПП=((α+ β+γ)!)/(α!*β!*γ!).
Размещение.
Важен состав и порядок.
Существенен порядок перестановки.
Q_Р - число размещений;
h - общее количество элементов;
l - число элементов в комбинации.
Без повторений:Q_Р=h!/(h-l)! ;
с повторениями: Q_РП=h^l(общее количество элементов).
Для формального представления структуры информационного массива используем его трехмерную схему.
Исходя из этой модели используютследующие характеристики:
h - алфавит (глубина) или основание системы счисления;
l - длина кода (размерность сообщений).
Для практического удобства использования структурной меры информации Хартли предложил использовать аддитивную логарифмическую меру, которая позволяет вычислить количество информации в битах.
I_x=〖log〗_2 h^l=l*〖log〗_2 h.
Пример.
Если h=2, l=1 ,то I_x=1*〖log〗_2 2=1 бит.
Аддитивная мера Хартли заключается в том, что она позволяет суммировать количество информации по разрядам отдельных элементов информационного массива.
Заметим, что мера Хартли определяет информационную ёмкость.
С практической точки зрения процесс предоставляет возможность определить количество в конкретном информационном сообщении, которое является случайным из всего набора комбинаций в рамках заданного информационного массива.
Для решения этой задачи используют статические меры количества информации. Поскольку она определяется вероятностью появления конкретного элемента в структуре сообщения. В качестве статической меры используют понятие энтропии, которая характеризует неопределенность, учитывающую в свою очередь вероятность появления конкретного элемента в сообщении, а значит и информационность этого сообщения в целом. Причем наиболее частые события, имеющие вероятность, несут малое количество информации (их энтропия мала).Редкие события являются более информативными, имеющими более высокую энтропию.
I≡1/P, где I- количество информации
P- вероятность.
Документ
Категория
Без категории
Просмотров
11
Размер файла
19 Кб
Теги
1/--страниц
Пожаловаться на содержимое документа