Дискретное распределение почти без памяти

Ian · Сообщение **Ian** » 14 май 2020, 07:15

Случайная величина обладает свойством

P(\xi >2T|\xi>T)=P(\xi >T), \forall T>0.Найти ее функцию распределения.
Конечно, годится экспоненциальное, оно "без памяти", вероятность, что отказ не случится в промежуток длины T, если до этого не случился -постоянна. Но есть и дискретные распределения с таким свойством, экзотические какие-то. Только я даже матожидание их не могу элементарно посчитать.

zykov · Сообщение **zykov** » 14 май 2020, 23:37

Я так понимаю, что если $f(T)=P(\xi >T)$ , то $\forall T>0 : f(2T)=f^2(T)$ .
Значит для любого выбранного $T_0>0$

можно на

определить как угодно $f(T)$

(можно разрывно), так чтобы она не возрастала, $0 < f(T) < 1$

и $f^2(T_0) \leq \lim_{T \to 2T_0} f(T)$ .
Это однозначно определит $f(T)$

для всех

(с дельта-функциями плотности в местах разрывов).
На бесконечности оно будет экспоненциально убывать. В нуле будет стремится к $1$

.

Ian · Сообщение **Ian** » 15 май 2020, 07:39

Да, а самым трудным оказалось доказательство, что

f(0)=1, то есть что носитель СВ на положительной полуоси. Если бы для

T=0 равенство было задано, то

f(0)=f^2(0) но и тогда почему

f(0)\ne 0. И тут я вспомнил, что условная вероятность просто не определена при условии того, вероятность чего 0.
Теперь, если

P(1<\xi <2)=0,

f(1)=q,\;f(2)=q^2, то чему же равно q? (

zykov · Сообщение **zykov** » 15 май 2020, 07:47

Если для определенности выбрать $T_0=1$

и задать

на

, то матожидание можно посчитать так:
$E[T]=-\int_0^{+\infty} t f'(t) \; dt = -\sum_{n=-\infty}^{+\infty} \int_{2^n}^{2^{n+1}} t f'(t) \; dt = -\sum_{n=-\infty}^{+\infty} \int_1^2 2^{n+1} t f'(2^n t) \; dt =$
$= -\sum_{n=-\infty}^{+\infty} \int_1^2 2^{n+1} t f^{2^n-1}(t) f'(t) \; dt = -\int_1^2 [\sum_{n=-\infty}^{+\infty} 2^{n+1} f^{2^n-1}(t)] \; t f'(t) \; dt = -\int_1^2 t \; g(f(t)) \; f'(t) \; dt$
Так что $g(x) = \sum_{n=-\infty}^{+\infty} 2^{n+1} x^{2^n-1} = \frac{2}{x}\sum_{n=-\infty}^{+\infty} 2^n x^{2^n}$ при $$0<x<1$$

.
Что-то Вольфрам эту сумму не берет...

zykov · Сообщение **zykov** » 15 май 2020, 07:49

Ian писал(а):Source of the post то чему же равно q?

Любому числу более 0, менее 1.

zykov · Сообщение **zykov** » 15 май 2020, 08:15

zykov писал(а):Source of the post Так что $g(x) = \sum_{n=-\infty}^{+\infty} 2^{n+1} x^{2^n-1} = \frac{2}{x}\sum_{n=-\infty}^{+\infty} 2^n x^{2^n}$ при .

Если $G_{n_1}(x) = \sum_{n=n_1}^{+\infty} x^{2^n}$ , то $g(x)=2G'_{n_1}(x)+\frac{2}{x}\sum_{n=-\infty}^{n_1-1} 2^n x^{2^n}$ .
При сильно отрицательном $$n_1$$

будет $\sum_{n=-\infty}^{n_1-1} 2^n x^{2^n} \approx 2^{n_1}$ .
Т.е. $g(x)=2 \lim_{n_1 \to -\infty} G'_{n_1}(x)$ .

zykov · Сообщение **zykov** » 15 май 2020, 08:53

Вот график $E[T]$

от

:

: E[T] vs q; expect_T.png (10.59 KiB) 26845 просмотра

(Суммирование было от -50 до 50, этого достаточно - далее хвосты очень маленькие.)

Ian · Сообщение **Ian** » 15 май 2020, 14:35

zykov писал(а):
Ian писал(а):Source of the post то чему же равно q?

Любому числу более 0, менее 1.

Согласен, вопрос был дурацкий.
....
Но при малых q матожидание должно быть очень мало, очевидно? А где это на графике?

zykov · Сообщение **zykov** » 15 май 2020, 14:45

Ian писал(а):Source of the post Но при малых q матожидание должно быть очень мало

Там в

за скобки выносится $\frac{1}{q}$ .
Из-за этого при малых $q$

матожидание растёт.

Ведь $q$

- это не плотность вероятности, а кумулятивная величина. А сама плотность (вес дельта функции) будет $q-q^2$

.

zykov · Сообщение **zykov** » 15 май 2020, 14:59

Да, чего-то у меня не сходится. Где-то напутал наверно.
Вот посчитал напрямую для дискретного случая:
$\sum_{n=-50}^{50} 2^{n} (q^{2^{n-1}} - q^{2^n})$

: E[T] vs q; expect_T2.png (8.89 KiB) 26814 просмотра

UPD: исправил сумму

Ian · Сообщение **Ian** » 15 май 2020, 18:42

У меня было

E_{\xi}=\sum_{n=-\infty}^{\infty}2^{n}\left(q^{2^{n-1}}-q^{2^{n}}\right)

Преобразование Абеля:

E_{\xi}=\sum_{n=-\infty}^{\infty}q^{2^{n-1}}\left(2^{n}-2^{n-1}\right)=\sum_{n=-\infty}^{\infty}2^{n-1}q^{2^{n-1}}=\sum_{n=-\infty}^{\infty}2^{n}q^{2^{n}}
эта функция неэлементарная. возрастающая при

0<q<1 , численный расчет дает

q\sim 0,236\Leftrightarrow E_{\xi}=1

zykov · Сообщение **zykov** » 15 май 2020, 23:50

Да, так и получается.
Вот кстати в непрерывном случае, если распределение экспоненциальное и выбрать так же параметр $q = P(\xi >1)$ , то матожидание будет $E[T] = -\frac{1}{\log q}$ .
Вот график:

: E[T] vs q; expect_T3.png (9.2 KiB) 26814 просмотра

zykov · Сообщение **zykov** » 16 май 2020, 00:04

Вот забавный график - отношение матожидания для дискретного случая к матожиданию экспоненциального распределения, т.е. упомянутая выше сумма умноженная на $-\log q$ :

: E[Tdiscrete] / E[Texp] vs q; expect_T_log_rat.png (51.79 KiB) 26814 просмотра

Т.е. относительные отклонения имеют малый порядок около $10^{-5}$ , довольно стабильную амплитуду, частота колебаний растёт по мере приближения к 1.
Причина осциляций видимо в том, что график $q-q^2$

имеет максимум при $q=0.5$

. По мере того как мы меняем $q$

этот максимум (точнее один из $q^{2^n}$ ) то попадает на целое $n$

, то оказывается между целыми.

UPD: $1.442695 \approx 1/\ln 2$

zykov · Сообщение **zykov** » 16 май 2020, 01:15

zykov писал(а):Source of the post то попадает на целое , то оказывается между целыми

Вот график $x(q)$

- решение уравнения $q^{2^{x(q)}}=0.5$ :

: phase; expect_T_phase.png (16.95 KiB) 26809 просмотра

Похоже на фазу этих колебаний.
$x(q)=\frac{\log{\left( -\frac{\log{(2)}}{\log{(q)}}\right) }}{\log{(2)}}$

zykov · Сообщение **zykov** » 16 май 2020, 06:22

zykov писал(а):Source of the post Причина осциляций видимо в том

Собственно, если рассмотреть функцию $s(q)=\sum_{n=-\infty}^{\infty}q^{2^{n-1}}(2^{n}-2^{n-1})=\sum_{n=-\infty}^{\infty}2^{n-1}q^{2^{n-1}}=\sum_{n=-\infty}^{\infty}2^{n}q^{2^{n}}$ , то очевидно, что $s(q^{2^m})=2^{-m} s(q)$ для целого $m$

.
Т.е. например достаточно обсчитать $s(q)$

на

и это даст $s(q)$

на

по этой формуле.
Это же даст периодичность $2^{-\phi(q)} s(q)$ в мастштабе $\phi(q) = -\log(-\log(q))$ с периодом $\log 2$ по $\phi$ .

zykov · Сообщение **zykov** » 16 май 2020, 08:16

Для

получается такая аппроксимация:
$s(q) \approx -\frac{1}{\ln 2 \cdot \ln q} (1+k_1 \cos(2\pi(-\log_2(-\log_2 q) - \phi_1)))$ .
Примерно $k_1 \approx 0.98844413513 \times 10^{-5}$ и $\phi_1 \approx 0.389870103578$ .
Относительная ошибка около $10^{-11}$ .

UPD: Следующая гармоника $k_2 \cos(4\pi(-\log_2(-\log_2 q) - \phi_2))$ .
Примерно $k_2 \approx 0.915423 \times 10^{-11}$ и $\phi_2 \approx -0.171532$ .
Дальше только ошибки округления (double float числа имеют точность около $10^{-16}$ ).

zykov · Сообщение **zykov** » 16 май 2020, 10:49

Интересно, что амплитуды гармоник так быстро убывают...

Ian · Сообщение **Ian** » 17 май 2020, 08:20

Теперь можно оправдать название " распределение почти без памяти". Можно характеризовать случайную величину интегральной функцией распределения

F_{\xi}(t)=P(\xi<t), а можно и введенной нами

f(t), между ними соотношение

f(t)=F_{-\xi}(-t), но

f(t)\ne 1-F_{\xi}(t) только на дискретном множестве. Зафиксируем

q=f(1)=e^{-1}, тогда можно утверждать, что график

f_0(t)=e^{-t}- распределения без памяти - можно накрыть системой прямоугольников, два угла каждого на графике, а проекции на ось

[1;2],[2;4];[0,5;1].. и тп. Тогда будет накрыт и график любой

f(t), удовлетворяющей условию задачи, и при взгляде издали -распределения близки. Что можно использовать при испытаниях на отказ, для N испытываемых элементов проверять, сколько отказало через 1сек; 2сек; 4 сек; ...65536 сек;...- а остальное время не волноваться. Тогда. если распределение моментов отказа будет близко к найденному - делаем вывод, что оно "почти без памяти", то есть отказ связан не с усталостью комплектующих, а со случайными факторами.

zykov · Сообщение **zykov** » 18 май 2020, 02:57

zykov писал(а):Source of the post посчитать так:
$E[T]=-\int_0^{+\infty} t f'(t) \; dt = -\sum_{n=-\infty}^{+\infty} \int_{2^n}^{2^{n+1}} t f'(t) \; dt = -\sum_{n=-\infty}^{+\infty} \int_1^2 2^{n+1} t f'(2^n t) \; dt =$
$= -\sum_{n=-\infty}^{+\infty} \int_1^2 2^{n+1} t f^{2^n-1}(t) f'(t) \; dt = -\int_1^2 [\sum_{n=-\infty}^{+\infty} 2^{n+1} f^{2^n-1}(t)] \; t f'(t) \; dt = -\int_1^2 t \; g(f(t)) \; f'(t) \; dt$
Так что $g(x) = \sum_{n=-\infty}^{+\infty} 2^{n+1} x^{2^n-1} = \frac{2}{x}\sum_{n=-\infty}^{+\infty} 2^n x^{2^n}$ при .

Тут немного напутал. Для непрерывного случая должно быть так:
$E[T]=-\int_0^{+\infty} t f'(t) \; dt = -\sum_{n=-\infty}^{+\infty} \int_{2^n}^{2^{n+1}} t f'(t) \; dt = -\sum_{n=-\infty}^{+\infty} \int_1^2 2^{2n} t f'(2^n t) \; dt =$
$= -\sum_{n=-\infty}^{+\infty} \int_1^2 2^{2n} t f^{2^n-1}(t) f'(t) \; dt = -\int_1^2 [\sum_{n=-\infty}^{+\infty} 2^{2n} f^{2^n-1}(t)] \; t f'(t) \; dt = -\int_1^2 t \; g(f(t)) \; f'(t) \; dt$
$g(x) = \sum_{n=-\infty}^{+\infty} 2^{2n} x^{2^n-1} = \frac{1}{x}\sum_{n=-\infty}^{+\infty} 2^{2n} x^{2^n}$

Например если $f(t) = e^{-t}$ , то
$-\int_1^2 [\sum_{n=-\infty}^{+\infty} 2^{2n} f^{2^n-1}(t)] \; t f'(t) \; dt = \int_1^2 [\sum_{n=-\infty}^{+\infty} 2^{2n} e^{-(2^n-1)t}] \; t e^{-t} \; dt = \sum_{n=-\infty}^{+\infty} 2^{2n} \int_1^2 t e^{-2^n t} \; dt =$
$= \sum_{n=-\infty}^{+\infty} ((2^n+1)e^{-2^n} - (2^{n+1}+1)e^{-2^{n+1}}) = \lim_{n \to +\infty} ((2^{-n}+1)e^{-2^{-n}} - (2^n+1)e^{-2^n}) = 1-0=1$

zykov · Сообщение **zykov** » 18 май 2020, 05:06

zykov писал(а):Source of the post Для получается такая аппроксимация:
$s(q) \approx -\frac{1}{\ln 2 \cdot \ln q} (1+k_1 \cos(2\pi(-\log_2(-\log_2 q) - \phi_1)))$ .

Насчёт того, почему два логарифма по базе 2.
Потому что внешний логарифм соответствует $2^n$

. Можно выбрать другую базу (например натуральный логарифм), тогда в фазе будет просто дополнительный множитель.
Для внутреннего логарифма выбор базы ещё менее важен. Другая база просто даст сдвиг по фазе, т.е. просто другую точку отсчёта. Но база 2 немного удобнее, т.к. тогда для $q=0.5$

(центр между 0 и 1) фаза будет нулевой.

Портал Естественных Наук, версия 1.1