close

Вход

Забыли?

вход по аккаунту

?

Сравнение оценок параметров специальной модели кривой дожития для выборки с интервальным цензурированием.

код для вставкиСкачать
Сер. 10. 2009. Вып. 2
ВЕСТНИК САНКТ-ПЕТЕРБУРГСКОГО УНИВЕРСИТЕТА
УДК 519.233.2
А. И. Коробейников
СРАВНЕНИЕ ОЦЕНОК ПАРАМЕТРОВ СПЕЦИАЛЬНОЙ МОДЕЛИ
КРИВОЙ ДОЖИТИЯ ДЛЯ ВЫБОРКИ
С ИНТЕРВАЛЬНЫМ ЦЕНЗУРИРОВАНИЕМ
1. Введение. Пусть X – случайная величина, имеющая смысл времени до наступления какого-либо события, обычно называемого отказом. Функцией дожития называется зависимость вероятности отсутствия отказа к некоторому моменту времени t:
S (t) = P (X > t) .
Мы будем рассматривать специальную модель кривой дожития в виде произведения
экспоненты на косинус:
π S (x; η, τ ) = 1 − F (x; η, τ ) = exp (−ηx) cos
x , η > 0, 0 < x < τ,
(1)
2τ
здесь F (x) – функция распределения случайной величины X.
Эта модель была впервые предложена в работе [1]. Формальным основанием для
ее использования в биометрии служит разработанный в [2] лагранжево-гамильтоновый
механизм для биологической систематики, согласно которому компоненты в виде произведения экспоненты на косинус являются решением системы, описывающей взаимодействие факторов органа и организма. Модель применялась для описания динамики
хронического гломерулонефрита [1], раневых процессов [3], хронического генерализованного пародонтита [4].
Анализ данных типа «времени жизни», как правило, сопряжен с серьезными трудностями, делающими невозможным применение стандартных статистических методов
обработки данных: обычно реализация интересуемой случайной величины X непосредственно не наблюдается, вместо этого доступно менее информативное значение некоторой функции от X – случайная величина X цензурирована.
Как правило, наличие цензурирования ведет к достаточно большой потере информации о выборке. Особенно сильно это проявляется при работе с параметрическими
моделями: заметная смещенность оценок параметров даже при оценивании по выборкам достаточно большого размера, влияние механизма цензурирования на статистические свойства оценок, отсутствие асимптотической нормальности и т. п. В таких
ситуациях значительный интерес представляют робастные оценки параметров, устойчивые к существенной потере информации о выборке, возможно, за счет некоторой
потери эффективности. Например, в работе [5] исследуются оценки, минимизирующие расстояние Хеллинджера между теоретическим и эмпирическим распределениями,
Коробейников Антон Иванович – аспирант кафедры статистического моделирования математикомеханического факультета Санкт-Петербургского государственного университета. Научный руководитель: докт. физ.-мат. наук, проф. С. М. Ермаков. Количество опубликованных работ: 6. Научные
направления: теория вероятностей, математическая статистика. E-mail: asl@math.spbu.ru.
c А. И. Коробейников, 2009
35
для которых была обнаружена большая устойчивость этих оценок к выделяющимся наблюдениям по сравнению с оценками максимального правдоподобия.
В п. 5 настоящей работы будет произведено сравнение оценок параметров специальной модели кривой дожития (1) в наиболее типичном для приложений случае интервального цензурирования (п. 2), полученных двумя способами: классические оценки
максимального правдоподобия и робастные оценки, использующие непараметрическую
оценку функции распределения (п. 3).
2. Модель интервального цензурирования. Как было отмечено раньше, наблюдать непосредственно время отказа X, как правило, невозможно по тем или иным
объективным причинам. Часто вместо этого можно наблюдать пару случайных величин (L, R), такую, что
−∞ L < X < R +∞.
Например, врача может интересовать время до наступления рецидива некоторого заболевания. В таком случае все, что возможно наблюдать — это момент, в который
произошла диагностика. Поскольку момент диагностики, вообще говоря, может быть
достаточно сильно отдален от момента проявления рецидива, то данный факт необходимо учитывать при построении статистической модели и получении достоверных
выводов. Более того, диагностика может лишь констатировать наличие или отсутствие
интересуемого явления, а наблюдение над индивидом по каким-либо причинам может
закончится до наступления рецидива.
Так, если обозначить через X момент рецидива, Y – момент последней диагностики,
то величина (L, R) может быть задана как
(−∞, Y ) , X Y,
(L, R) =
(Y, +∞) , X > Y.
Для независимых X и Y эта модель известна как интервальное цензурирование первого
типа [6] и пара (L, R) обычно представлена в виде информации о текущем состоянии
(Y, I), где I – индикатор интересуемого события.
Естественным обобщением данной модели является интервальное цензурирование
k-го типа [7]. В таком случае предполагается наличие k отдельных моментов диагностики Y1 < · · · < Yk , не зависящих от X, и доступна информация, какому из интервалов
(−∞, Y1 ], . . . , (Yk , +∞) принадлежит реализация X.
На практике, однако, нечасто можно наблюдать возможность применения модели
интервального цензурирования k-го вида при k 2 в чистом виде: маловероятно, что
число наблюдений состояния индивида будет всегда одинаковым. Отдельные индивиды
могут выбывать из процесса наблюдения до окончания эксперимента, по тем или иным
причинам пропускать диагностику и т. д.
В связи с этим представляется правдоподобной модель интервального цензурирования смешанного типа, когда количество моментов наблюдений состояния может меняться от индивида к индивиду, и которая при фиксированном индивиде (а значит,
при фиксированном числе наблюдений) представляет собой модель цензурирования
k-го типа. Тем самым, фактически наблюдается случайная величина, распределенная
как смесь с компонентами, представленными в виде моделей цензурирования k-го типа
для некоторого k.
Дадим формальное описание модели интервального цензурирования. Для этого
достаточно определить зависимость пары наблюдаемых случайных величин (L, R)
от ненаблюдаемой X. Нам понадобится набор вспомогательных случайных величин.
36
Пусть K – неотрицательная целочисленная случайная величина. Для k = 1, 2, . . . поk
ложим Yk = {Yk,j }j=1 – набор случайных величин и Yk,1 < · · · < Yk,k . Кроме того,
положим формально Yk,0 = −∞, Yk,k+1 = +∞. Всюду далее будем предполагать, что
набор (K, Y1 , Y2 , . . . ) от X не зависит.
Рассмотрим событие {K = k}. Для набора Yk введем вектор индикаторов Γ (Yk ) =
&k
(Γ1 , . . . , Γk+1 ) c Γj = I {X Yk,j−1 }. Положим J =
j=1 Γj . Наконец, определим
(L, R) = (Yk,J−1 , Yk,J ).
Фактически набор Yk задает случайное разбиение числовой оси на полуинтервалы: R = (−∞, Yk,1 ] ∪ (Yk,1 , Yk,2 ] ∪ · · · ∪ (Yk,k , +∞). Случайная величина J – это номер
полуинтервала, которому принадлежит X: X ∈ (Yk,J−1 , Yk,J ], а (L, R) – его концы.
Итак, при фиксированном k имеем
⎧
(−∞, Yk,1 ) ,
X Yk,1 ,
⎪
⎪
⎪
⎨(Y , Y ) , Y < X Y ,
k,1
k,2
k,1
k,2
(L, R) =
(2)
⎪
·
·
·
⎪
⎪
⎩
(Yk,k , +∞) , Yk,k < X.
Величина X имеет смысл случайного времени до наступления некоторого события
(в частности, времени элиминации объекта, времени наработки на отказ). Случайная
величина K – это количество наблюдений за состоянием индивида, а случайный набор
YK – набор временных точек, в которых производится наблюдение за состоянием индивида. Например, периодический контроль состояния индивида на протяжении всего
периода проведения эксперимента может быть представлен в виде следующей модели:
j−1
j−1
Δi , K = max j 1 :
Δi < T ,
(3)
Yk,j =
i=1
i=1
где T – общая продолжительность наблюдений, а Δi – промежутки времени между
отдельными моментами контроля состояния индивида.
3. Оценки параметров модели. Пусть X1 , . . . , Xn – n независимых одинаково распределенных случайных величин – набор времен до наступления интересуемого события. Функция распределения F для Xi задается формулой (1). Пусть
(L1 , R1 ) , . . . , (Ln , Rn ) – наблюдаемые цензурированные случайные величины, определенные в соответствии с формулой (2).
Запишем эмпирическую функцию правдоподобия для выборки с интервальным цензурированием (формально полагаем F (−∞) = 0, F (+∞) = 1):
Ln (F ) =
n
'
[F (Rj ) − F (Lj )] =
j=1
Ее логарифм равен
ln (F ) =
n
'
PF (Ij ).
(4)
j=1
n
log PF (Ij ).
(5)
j=1
Здесь символом PF (Ij ) обозначена вероятность события {Xj ∈ Ij } для интервала Ij .
Всюду далее будем обозначать символом θ вектор параметров модели: θ = (η, τ ), соответственно функцию распределения – Fθ . Пространство параметров Θ представляет
собой декартово произведение полупрямой на вещественную прямую: Θ = R+ × R.
37
Рассмотрим разные способы получения оценок двумерного параметра θ:
1) Оценивание методом максимального правдоподобия:
θ̂n = arg max ln (Fθ ) = arg max
θ∈Θ
θ∈Θ
n
log Pθ (Ij ).
(6)
j=1
2) Оценивание при помощи следующей двухшаговой процедуры:
а) вычисление оценки максимального правдоподобия для функции распределения
Fθ
F̂n = arg max ln (G),
(7)
G∈G
где G – класс всех функций распределения с носителем [0, ∞).
б) получение оценки θ̃n посредством минимизации расстояния между F̂n и параметрическим семейством F = {Fθ : θ ∈ Θ}
θ̃n = arg min d F̂n , F = arg min d F̂n , Fθ
(8)
F ∈F
θ∈Θ
для некоторой «функции расстояния» d (·, ·).
Статистические свойства (например, состоятельность) оценок θ̂n неизвестны, что
вынуждает искать альтернативные методы построения оценок параметров модели. Отметим, что в некоторых так называемых нерегулярных случаях оценки максимального
правдоподобия могут не обладать свойством состоятельности [8].
Способ построения оценок θ̃n был выбран нами не случайно. Пусть B – борелевская
сигма-алгебра на R. Введем на B меру μ:
μ (B) =
∞
k=1
P (K = k)
k
P (Yk,j ∈ B | K = k),
B ∈ B.
(9)
j=1
Пусть ρ – метрика пространства L1 (μ), т. е. для F1 , F2 ∈ G:
+∞
|F1 (t) − F2 (t)| dμ(t),
ρ (F1 , F2 ) =
0
тогда при E(K) < ∞ имеет место сходимость ρ(F̂n , F ) → 0 (п.н.) [9].
Таким образом, после первого шага предложенной процедуры имеем оценку функции распределения F̂n с известными статистическими свойствами. Второй шаг процедуры осуществляет «проектирование» оценки F̂n на параметрическое семейство F , что
позволяет надеяться на достаточно хорошие свойства оценок θ̃n .
Сами по себе задачи оптимизации (6), (8) не являются чем-то нестандартным: мы
имеем дело с конечномерной задачей оптимизации в евклидовом пространстве. Задача
(7) существенно отличается от этих двух задач (например, непосредственно из условия не ясно, при каких условиях существует хотя бы приближенное решение задачи),
остановимся на ней подробнее.
4. Построение непараметрической оценки функции распределения. Для
нахождения оценки F̂n непосредственно из уравнения (7) необходимо максимизировать
логарифм функции правдоподобия ln (F ) по функциональному пространству G, тем
самым, задача оптимизации (7) является бесконечномерной.
38
Следуя [10], сведем сложную бесконечномерную задачу к гораздо более простой
конечномерной задаче. Кроме того, одновременно получим условия существования решения и выделим класс функций распределения, в котором его следует искать.
4.1. Редукция.
Определение 1. Интервал H назовем внутренним подинтервалом (в англоязычной литературе иногда используется термин «максимальное пересечение» — maximal
n
intersection) для набора интервалов {Ij }j=1 , если выполняются следующие условия:
(
1) H представим в виде пересечения интервалов j∈α Ij для некоторого набора
индексов α ⊆ {1, . . . , n};
2) для всякого номера j либо H ∩ Ij = H, либо H ∩ Ij = ∅.
Заметим, что если H, H – два различных внутренних интервала, то H ∩ H = ∅.
В работе [11] рассматривается теоретико-графовый подход к построению набора
n
всех внутренних подинтервалов для данного набора интервалов {Ij }j=1 . Показано, что
внутренние подинтервалы соответствуют максимальным кликам графа пересечений
для данного набора интервалов.
Поведение оценки максимального правдоподобия F̂n описывается леммами из [11].
Лемма 1. Пусть H = {H1 , . . . , Hm } – набор всех внутренних подинтервалов для
{Ij }nj=1 . Тогда любая функция распределения из G, возрастающая вне H, не может
быть оценкой максимального правдоподобия для функции распределения F .
Лемма 2. При фиксированных значениях PF (Hi ) функция правдоподобия (5) не
зависит от поведения функции распределения F внутри каждого интервала Hi .
Эти леммы имеют очень важный смысл, с точки зрения процедуры вычисления
оценки F̂n . Лемма 1 позволяет свести сложную бесконечномерную оптимизационную
задачу (7) по всему пространству G к аналогичной, но уже по некоторому подпространству G. Лемма 2, с одной стороны, фактически означает, что оценкой максимального
правдоподобия для F является целый класс эквивалентности функций распределения и нет никакой дополнительной информации для того, чтобы выбрать конкретного
представителя из этого класса, с другой – позволяет при построении оценки F̂n ограничиться поиском исключительно в классе скачкообразных на H функций и тем самым
получить конечномерную оптимизационную задачу.
Действительно, имеется ровно m интервалов, где функция F̂n может производить
скачки, потому для ее определения достаточно найти величину этих скачков.
Для i = 1, . . . , m положим pi = PF (Hi ) и p = (p1 , . . . , pm ). Тогда для j = 1, . . . , n
имеем
m
m
pi I {Hi ⊆ Ij } =
pi αij .
PF (Ij ) =
i=1
i=1
После этого можно переписать выражение для функции правдоподобия (4) и ее
логарифма (5) в терминах величин pi и αij :
m
n
n
'
'
PF (Ij ) =
pi αij ,
Ln (F ) = Ln (p1 , . . . , pm ) =
j=1
ln (F ) = ln (p1 , . . . , pm ) =
n
j=1
log PF (Ij ) =
j=1
n
j=1
i=1
log
m
pi αij .
i=1
Таким образом, вычисление оценки максимального правдоподобия F̂n можно свести
к следующей двухшаговой процедуре:
39
1) Редукция. Вычисление набора H всех внутренних подинтервалов. Это можно сделать за O (n log n) операций и O (n) памяти [12].
2) Оптимизация. Решение конечномерной оптимизационной задачи
(10)
p̂ = arg max ln (p1 , . . . , pm ) = arg max ln (p),
P
здесь
p∈P
P=
p∈R
m
: pi 0, i = 1, . . . , m;
m
pi = 1 .
i=1
Таким образом, получаем m-мерную выпуклую задачу оптимизации.
После шага редукции несложно доказать теорему о существовании решения оптимизационной задачи (построению решения посвящeн п. 4.2).
Теорема 1. Величина p̂, определенная уравнением (10), существует.
Д о к а з а т е л ь с т в о. Полагая log(0) = −∞, продолжим логарифм по непрерывности на расширенную числовую прямую R̄ = R ∪ {−∞}. Тогда логарифм функции
правдоподобия ln (p) является непрерывной функцией, заданной на непустом компакте
P ⊂ Rm и принимающей значения в R̄. Тем самым существует максимум ln (p) на P, и
величина p̂, являющаяся точкой максимума ln (p), в действительности существует. 4.2. Оптимизация. EM-алгоритм. Для решения задачи оптимизации (10) будем применять EM-алгоритм [13]. В силу лемм 1, 2, «полные данные» представляют
собой знание, какому интервалу Hi принадлежит наблюдение с номером j. Это, естественно, не эквивалентно знанию точного времени отказа Xj : в некотором смысле механизм цензурирования диктует выбор информативной
модели для полных данных.
&n
Обозначим βij = I {Xj ∈ Hi } и ni =
j=1 βij . Тогда естественной моделью для
полных данных является мультиномиальная модель на H с вектором вероятностей
(p1 , . . . , pm ). Запишем логарифм (ненаблюдаемой) функции правдоподобия для полных
данных lnc (p1 , . . . , pm ):
lnc (p) = lnc (p1 , . . . , pm ) =
m
ni log pi , p = (p1 , . . . , pm ) ∈ P.
(11)
i=1
Общая схема EM-алгоритма. EM-алгоритм решает задачу максимимизации логарифма функции правдоподобия для неполных данных (10) неявно, применяя для
этого логарифм функции правдоподобия для полных данных (11). Так как величины
ni не наблюдаются, следовательно, не наблюдается и lnc (p), то используется условное
математическое ожидание lnc (p) по отношению к наблюдаемым случайным величинам
αij . Приведем (k + 1)-тую итерацию
$ EM-алгоритма:
%
E-шаг. Вычислить функцию Q p; p(k) , где
Q p; p(k) = Ep(k) (lnc (p) | H) .
(k+1)
М-шаг. Выбрать
точку максимума
% в качестве следующего приближения p
$
функции Q p; p(k) :
Q p(k+1) ; p(k) Q p; p(k) , ∀p ∈ P.
Всюду далее символом Ep(k) (·) будет обозначаться математическое ожидание с использованием вектора параметров p(k) .
40
E- и M-шаги алгоритма последовательно выполняются до тех пор, пока последовательность p(k) не достигнет стационарной точки.
Теорема 2. Применение процедуры EM-алгоритма приводит к увеличению значения функции правдоподобия, т. е.
ln (p(k+1) ) ln (p(k) ),
k = 0, 1, 2, . . . .
Д о к а з а т е л ь с т в о. Следует из общей теории EM-алгоритма [13, 14]. EM-алгоритм для оценивания F̂n . Для того чтобы применить EM-алгоритм
к $максимизации
функции lnc (p), необходимо получить выражение для функции
%
(k)
.
Q p; p
Заметим, что lnc (p) линейна по ni , которые, в свою очередь, являются простой суммой βij . Из определения βij непосредственно имеем
Ep(k) (βij | H) = Ep(k) (I {Xj ∈ Hi } | H) = P (Xj ∈ Hi | Xj ∈ Ij ) =
(k)
αij pi
.
m
(k)
αij pi
i=1
Отсюда, суммируя по j = 1, . . . , n, получаем
μi (p
(k)
) = Ep(k) (ni | H) =
n
Ep(k) (βij | H) =
j=1
n
(k)
αij pi
&m
j=1
i=1
(k)
.
αij pi
$
%
После этих приготовлений несложно вывести явное выражение для функции Q p; p(k)
m
Q p; p(k) = Ep(k) (lnc (p) | H) =
μi (p(k) ) log pi .
i=1
$
%
M-шаг EM-алгоритма заключается в максимизации функции Q p; p(k) по пространству P. Этот максимум несложно получить в явной форме. Рассмотрим функцию
f (p1 , . . . , pn , λ) =
m
μi (p(k) ) log pi − λ
i=1
m
pi .
i=1
Приравняем частные производные f (p1 , . . . , pn , λ) по p1 , . . . , pm к нулю:
∂f
μi (p(k) )
μi (p(k) )
=
− λ = 0 ⇒ pi =
.
∂pi
pi
λ
Суммируя pi по i = 1, . . . , m, находим
1=
m
i=1
pi =
m
μi (p(k) )
i=1
λ
⇒λ=
m
μi (p(k) ) = n.
i=1
Окончательно для пересчета pi имеем явную формулу
n
(k)
1
μi (p(k) )
αij pi
(k+1)
=
pi
=
.
&m
(k)
n
n j=1
αij p
i=1
(12)
i
41
Замечание 1. EM-алгоритм, вообще говоря, не всегда сходится к F̂n . В работе
[15] приведены условия типа Куна–Таккера, позволяющие проверить, действительно
ли данный вектор (p1 , . . . , pm ) является решением задачи (10).
EM-алгоритм был выбран из-за простоты описания и реализации, он хорошо работал в интересующих нас случаях и на практике всегда сходился к оценке максимального
правдоподобия F̂n .
Существуют другие методы решения оптимизационной задачи (10). Среди наиболее
часто используемых отметим метод ICM (Iterative Convex Minorant) [17]. Детальный
обзор методов вычисления непараметрической оценки максимального правдоподобия
функции распределения можно найти в [11].
5. Экспериментальное сравнение свойств оценок. Интересующие нас свойства
оценок (состоятельность и скорость сходимости к истинным значениям параметров)
изучались на модельных выборках.
Для моделирования значения параметров были выбраны совпадающими с оценками, полученными в работе [18] для реальных данных из кардиологии: η = 0.125, τ = 16.
Цензурирование производилось по схеме, представленной в формуле (3): промежутки
времени Δi между отдельными моментами контроля состояния индивида имели экспоненциальное распределение со средним 1. Общая продолжительность наблюдений T
равнялась 8, таким образом, случайная величина K − 1 имела пуассоновское распределение с параметром λ = 8.
На рис. 1 изображены модельная кривая дожития и ее непараметрическая оценка
(размер выборки n = 1000). Отметим, что скачок в точке x = 8 связан с отсутствием
какой-либо информации о времени отказа для тех индивидов, у которых оно больше 8.
Рис. 1. Модельная кривая дожития (точечная линия) и ее оценка Ŝn+ (сплошная)
Объем выборки n варьировался от 500 до 5000 с шагом 50 и от 5000 до 10 000 с шагом
100 (в связи с высокой трудоемкостью вычисления оценок при больших объемах выборки). Моделирование производилось 100 раз, соответственно для каждого значения
n получалась выборка из m = 100 оценок.
5.1. Вычислительная процедура. Все вычисления производились в пакете R
версии 2.7.0 [19] на четырехпроцессорном компьютере под управлением ОС Linux. Ввиду значительной вычислительной сложности задачи (время, необходимое для получения одной реализации оценок параметров, достигало нескольких минут для достаточно больших объемов выборки n) моделирование производилось параллельно на всех
процессорах компьютера. Для организации процедуры распределения задач по отдельным процессорам использовались пакеты snow и Rmpi [20].
42
Остановимся подробнее на деталях процедуры оптимизации (а значит, и процедуры
вычисления оценок) для каждого вида оценок отдельно.
Оценки η̂n , τ̂n . Несложно видеть, что целевая функция в задаче оптимизации (6)
не является вогнутой по паре переменных (η, τ ). Следовательно, возможно существование нескольких локальных максимумов логарифма функции правдоподобия. Однако
функция (5) оказывается вогнутой по η.
Лемма 3. При фиксированном значении аргумента τ логарифм функции правдоподобия (5) является вогнутой функцией аргумента η.
Д о к а з а т е л ь с т в о. Действительно,
ln (η, τ ) =
n
log L(j)
n (η, τ ) =
j=1
n
ln(j) (η, τ ),
j=1
π π
Lj − exp (−ηRj ) cos
Rj .
L(j)
n (η, τ ) = F (Rj ) − F (Lj ) = exp (−ηLj ) cos
2τ
2τ
(j)
(j)
Функция ln = log Ln вогнута по η, так как
$π %
$π %
exp (−η(Rj + Lj )) cos 2τ
Rj cos 2τ
Lj (Rj − Lj )2
∂ 2 (j)
l
=
−
$
%
%%2 0.
$
$
∂η 2 n
exp (−ηRj ) cos π Rj − exp (−ηLj ) cos π Lj
2τ
2τ
И ln (η, τ ) является вогнутой функцией аргумента η как сумма вогнутых. Для нахождения глобального максимума функции (5) применялась следующая процедура мультистарта:
1. Выбор начальной точки. Поскольку параметр τ имеет смысл «максимальной
продолжительности жизни», то для него, как правило, всегда можно указать
оценку сверху T̄ :
а) перебор значения τ по узлам сетки на отрезке T, T̄ с некоторым шагом
h: τk = T + kh, 0 k (T̄ − T )/h;
б) поиск точки максимума функции gk (η) = ln (η, τk ). Обозначим ηk =
arg max gk (η).
2. Результатом шага 1 является набор точек (ηk , τk ), k = 0, 1, . . . . В силу леммы 3,
точка ηk является (возможно, не единственной) точкой глобального максимума
функции gk (η). Точки (ηk , τk ) использовались в качестве начального приближения для поиска максимума логарифма функции правдоподобия (5) по двум
переменным при помощи встроенного в пакет R алгоритма L-BFGS-B [21]. Результатом работы алгоритма является точка (локального) максимума (ηk∗ , τk∗ ).
3. Из всего набора точек (ηk∗ , τk∗ ) выбиралась одна, доставлявшая функции (5)
максимальное значение. Отметим, что в подавляющем большинстве случаев
двумерная процедура максимизации шага 2 сходилась к одной и той же точке
максимума.
Оценки η̃n , τ̃n . Как было отмечено выше (лемма 2), оценка максимального правдоподобия F̂n , вообще говоря, не единственная: решением оптимизационной задачи (10)
является целый класс эквивалентности функций распределения. Однако всегда можно
указать такую функцию F̂n+ , принадлежащую данному классу, что для любой оценки
максимального правдоподобия F̂n выполняется F̂n F̂n+ всюду: для этого достаточно
взять кусочно-постоянную функции со скачками на левых концах внутренних подинтервалов соответственно.
43
Использовалась функция расстояния d (·, ·) в виде
m
2 1/2
+
d F , F̂n =
Fθ (ai ) − F̂n (ai )
,
(13)
i=1
где ai – левый конец i-го внутреннего подинтервала.
Вопрос оптимального выбора расстояния между непараметрической оценкой функции распределения F̂n и параметрическим семейством F в данной работе не рассматривается и, естественно, требует дополнительного исследования. По-видимому, правильный выбор метрики может позволить снизить дисперсию оценок параметров.
Процедура вычисления оценок естественным образом включает в себя такие шаги:
1. Вычисление оценки максимального правдоподобия F̂n при помощи EM-алгоритма. Итерации (12) продолжаются до тех пор, пока результат текущего шага
перестанет отличаться от предыдущего. Таким образом, критерием прекращения
2
&m (k)
(k−1)
< ε для некоторого малого
итераций на шаге k является условие i=1 pi − pi
значения ε. Для вычисления оценок использовали ε = 10−10 .
После этого для полученного вектора (p1 , . . . , pm ) проверялись условия типа Куна–
Таккера из работы [15]. Предполагается, что при их невыполнении
запус
EM-алгоритм
(0)
(0)
кается заново с другим значением вектора начальных данных p1 , . . . , pm (отметим,
что в рассматриваемом случае этого не наблюдалось никогда).
2. Решение задачи оптимизации (8). Поскольку функция (13) не является выпуклой,
то применялась процедура
мультистарта с перебором начальной точки по узлам сетки
на прямоугольнике T, T̄ ×[0, η̄]. Для нахождения точки минимума при фиксированном
начальном приближении использовался встроенный в пакет R алгоритм L-BFGS-B.
Оценка сверху η̄ параметра η находилась следующим образом. Заметим, что для
q = P (X > T ) имеет место
)
q = 1 − Fθ (T ) = exp (−ηT ) cos
πT
2τ
*
⇒η=−
q
1
1
$ % − log q.
log
T
T
cos πT
2τ
Величину q можно оценить при помощи F̂n+ . Отметим, что точка T является регулярной (в смысле [9]), т. е. для меры μ из формулы (9) имеет место
μ {(T − ε, T ]} > 0, ∀ε > 0,
и F̂n+ (T ) →a.s. Fθ (T ) [9] (вообще говоря, для выбранной модели цензурирования все
точки полуинтервала (0, T ] являются регулярными). Таким образом,
1− F̂n+ (T ) служит
состоятельной оценкой для q и можно положить η̄ = − T1 log 1 − F̂n+ (T ) .
5.2. Скорость сходимости и дисперсия оценок. Для исследования состоятельности и скорости сходимости оценок строились графики зависимости оценки станчто
дартного отклонения оценок η̂n , τ̂n и η̃n , τ̃n от объема выборки n. Предполагали,
√
оценки параметров имеют типичную скорость сходимости порядка OP (1/ n), поэто√
му для построения зависимостей оценки были центрированы и нормированы на n
(для сравнения на рис. 2, а изображена зависимость стандартного отклонения оценок
параметров без дополнительной нормировки).
Из изображения зависимостей стандартного отклонения оценок от объема выборки
на рис. 2 очевидно, что наличие интервального цензурирования не изменило скорость
сходимости оценок максимального правдоподобия η̂n . Оценки η̃n демонстрируют такие
же скорость сходимости и сравнимую дисперсию.
44
Для оценок τ̂n , τ̃n естественно ожидать достаточно большую дисперсию: общая продолжительность наблюдений T < τ , а, значит, достаточно заметная часть выборки
представляла собой полуинтервалы вида (8, +∞) (при данных значениях параметров
и механизме цензурирования такие наблюдения составляли порядка 36% от общего
объема выборки).
Рис. 2. Зависимость стандартного отклонения оценок η̃n и η̂n от объема выборки
Заметим, кроме того, что носитель распределения зависит от параметра τ , поэтому
в случае оценивания методом максимального правдоподобия в ситуации без цензурирования оценка τ̂n демонстрировала бы сверхсходимость (т.√е. стандартное отклонение
оценки имело бы порядок OP (1/n) против обычного OP (1/ n)). Наличие же цензурирования привело к пропаданию сверхсходимости.
√
√
На рис. 3 изображена зависимость n std (τ̃n ) и n std (τ̃n ) от объема выборки.
В целом асимптотические свойства оценок параметра τ сходны со свойствами оценок для η. Отметим, кроме того, что цензурирование привело к существенной потере
информации: после нормировки на объем выборки стандартное отклонение оценок оказалось достаточно большим, вследствие этого применять на практике оценки параметров по цензурированной выборке следует с большой осторожностью даже если объем
выборки велик.
Открытым остается вопрос о сравнении дисперсий оценок параметров: видно, что
дисперсии сравнительно близки, однако неизвестно, является ли различие между ними
статистически значимым.
5.3. Чувствительность оценок к выделяющимся наблюдениям. Кроме наличия цензурирования, для данных типа времени жизни характерна неоднородность:
45
в выборке могут присутствовать выделяющиеся наблюдения, для которых либо неверна
предполагаемая модель кривой дожития, либо ее параметры отличаются от параметров, характерных для остальной части выборки.
Рис. 3. Зависимость
√
n std (τ̃n ) и
√
n std (τ̂n ) от объема выборки
В связи с этим оценки параметров должны обладать свойством робастности: они
не должны быть чувствительными к выделяющимся наблюдениям.
Типичным случаем является неоднородность по моменту начала наблюдений: часть
выборки получает дополнительный сдвиг. Для сравнения оценок в таком случае моделировалась смесь распределений: с параметров η = 0.125, τ = 16 и η = 0.125, τ = 17
с дополнительным сдвигом влево на 1. Таким образом, правый конец носителя распределений компонентов смеси совпадал. Были использованы выборки из m = 500 оценок,
каждая из которых была получена по выборке из n = 1000 наблюдений, при этом доля
наблюдений, взятых из второй компоненты смеси, составила 0.05.
Отметим, что подобного рода неоднородности достаточно характерны для обработки реальных данных из биологии, медицины и т. п.
Для сравнения оценок использовалась относительная эффективность [22, 23]
RE(θ̂1 , θ̂2 ) =
D(θ̂1 )/E (θ̂12 )
D(θ̂2 )/E (θ̂22 )
.
По результатам моделирования были получены следующие величины относительной
эффективности оценок:
RE (η̂n , η̃n ) ≈ 1.2,
RE (τ̂n , τ̃n ) ≈ 1.9.
Таким образом, оценка τ̂n более чувствительна к наличию выделяющихся наблюдений в выборке. Было отмечено, что, несмотря на меньшую дисперсию, оценка заметно
смещена относительно истинного значения параметра. Оценка τ̃n , напротив, обладает
большей дисперсией, но менее чувствительна к неоднородности выборки. Тем самым
обосновано использование оценок τ̃n и η̃n для обработки реальных данных, в которых присутствуют выделяющиеся наблюдения. Как правило, в подобных приложениях
робастность оценок параметров существенно важнее, нежели уменьшение дисперсии
оценок.
Схожие результаты были получены и для других комбинаций параметров при сохранении общего принципа внесения неоднородности в выборку.
46
Автор благодарит рецензента за ценные замечания, существенно улучшившие статью.
Литература
1. Барт А. Г., Бондаренко Б. Б., Бойко В. И. Математический анализ течения ХГН // Гломерулонефрит / под ред. С. И. Рябова. М.: Наука, 1980. С. 213–225.
2. Калинин О. М. О единых математических трактовках в биологической систематике и динамике
популяций и о связи диффузии с нелинейными уравнениями // Проблемы кибернетики. 1972. Вып. 25.
С. 107–117.
3. Барт А. Г. Анализ медико-биологических систем. Метод частично-обратных функций. СПб.:
Изд-во С.-Петерб. ун-та, 2003. 280 с.
4. Мадай Д. Ю., Барт А. Г., Рыжак Г. А. и др. Репаративная эффективность вилона при лечении больных пожилого и старческого возраста с хроническим генерализованным пародонтитом и
сопутствующими возрастными соматическими заболеваниями. Великий Новгород: Изд-во Новгород.
гос. ун-та. им. Ярослава Мудрого, 2006. 26 с.
5. Beran R. J. Minimum Hellinger distance estimates for parametric models // Ann. Stat. 1977. Vol. 5.
P. 445—463.
6. Groeneboom P., Wellner J. A. Information Bounds and Nonparametric Maximum Likelihood
Estimation. Basel: Birkhäuser, 1992. 126 p.
7. Wellner J. A. Interval censoring case 2: alternative hypotheses // Analysis of Censored Data /
H. Koul, J. V. Deshpande (eds.). Proc. of the Workshop on Analysis of Censored Data. IMS Lecture Notes,
Monographs Ser. 1995. Vol. 27. P. 271—291.
8. Cheng R. C. H., Traylor L. Non-Regular maximum likelihood problems // J. R. Stat. Soc. Ser. B.
1995. N 57. P. 3–44.
9. Schick A., Yu Q. Consistency of the GMLE with mixed case interval censored data // Scand. J. Stat.
2000. Vol. 27. P. 45–55.
10. Turnbull B. W. The empirical distribution function with arbitrarily grouped, censored and truncated
data // J. R. Stat. Soc. Ser. B. 1976. Vol. 38. P. 290—295.
11. Gentleman R., Vandal A. C. Computational algorithms for censored data problems using intersection
graphs // J. Comput. & Graph. Stat. 2001. Vol. 10. P. 403–421.
12. Maathuis M. H. Reduction algorithm for the NPMLE for the distribution of bivariate intervalcensored data // J. Comput. Graph. Stat. 2005. Vol. 14. P. 352—362.
13. Dempster A. P., Laird N. M., Rubin D. B. Maximum likelihood data from incomplete data via the
EM algorithm // J. R. Stat. Soc. Ser. B. 1977. N 39. P. 1–38.
14. McLachlan G. J., Krishnan T. The EM Algorithm and Extensions. New York: Wiley, 1997. 274 p.
15. Gentleman R., Geyer C. J. Maximum likelihood for interval censored data: Consistency and
computation // Biometrika. 1994. Vol. 81. P. 618–623.
16. Nettleton D. Convergence properties of the EM algorithm in constrained parameter spaces // Canad.
J. of Stat. 1999. N 27. P. 639–648.
17. Jongbloed G. The iterative convex minorant algorithm for nonparametric estimation // J. Comput.
Graph. Stat. 1998. Vol. 7. P. 301—321.
18. Коробейников А. И., Бондаренко Б. Б., Алексеева Н. П. Оценка критических периодов в кривых дожития // Тез. Всерос. науч.-практ. конференции «Высокотехнологичные методы диагностики
и лечения заболеваний сердца и крови». Артериальная гипертензия. 2008. Т. 14, № 1. С. 26.
19. R Development Core Team. R: A language and environment for statistical computing // R Found.
for Stat. Comp. Vienna, Austria, 2008. URL: http://www.R-project.org.
20. Hao Yu Rmpi: Interface (Wrapper) to MPI (Message-Passing Interface) // R package version 0.5-5.
2007. URL: http://www.stats.uwo.ca/faculty/yu/Rmpi.
21. Zhu C., Byrd R. H., Nocedal J. Algorithm 778: L-BFGS-B, FORTRAN routines for large scale bound
constrained optimization // ACM Transactions on Mathematical Software. 1997. Vol. 23, N 4. P. 550–560.
22. Huber P. J. Robust statistical procedures // SIAM Regional Conference Ser. in Appl. Math. 1977.
N 27. 56 p.
23. Хьюберт П. Дж. Робастность в статистике / пер. с англ.; под ред. И. Г. Журбенко. М.: Мир,
1984. 303 с.
Статья рекомендована к печати проф. Л. А. Петросяном.
Статья принята к печати 25 декабря 2008 г.
Документ
Категория
Без категории
Просмотров
9
Размер файла
436 Кб
Теги
цензурированием, выборки, сравнение, кривой, интервальных, специальный, модель, оценок, дожития, параметры
1/--страниц
Пожаловаться на содержимое документа