Empirical distribution function

From Wikipedia, the free encyclopedia

In statistics, an empirical distribution function is a cumulative probability distribution function that concentrates probability 1/n at each of the n numbers in a sample.

Let $X_1,\ldots,X_n$ be iid random variables in $\mathbb{R}$ with the cdf F(x).

The empirical distribution function $F n (x)$ based on sample $X_1,\ldots,X_n$ is a step function defined by

$F_n(x) = \frac{ \mbox{number of elements in the sample} \leq x}n = \frac{1}{n} \sum_{i=1}^n I(X_i \le x),$

where I(A) is the indicator of event A.

For fixed x, $I(X_i\leq x)$ is a Bernoulli random variable with parameter p = F(x), hence $n F n (x)$ is a binomial random variable with mean nF(x) and variance nF(x)(1 − F(x)).

[edit] Asymptotical properties

By the strong law of large numbers,

$F_n(x)\to F(x)$ almost surely for fixed x.

In other words,

F n (x)

is a consistent unbiased estimator of the cumulative distribution function F(x).

By the central limit theorem,

$\sqrt{n}(F_n(x)-F(x))$

converges in distribution to a normal distribution N(0, F(x)(1 − F(x))) for fixed x.

The Berry–Esséen theorem provides the rate of this convergence.

By the Glivenko-Cantelli theorem $F_n(x)\to F(x)$ uniformly over x, that is

$\|F_n(x)-F(x)\|_\infty\to 0$ with probability 1.

The Dvoretzky-Kiefer-Wolfowitz inequality provides the rate of this convergence.

Kolmogorov showed that

$\sqrt{n}\|F_n(x)-F(x)\|_\infty$ converges in distribution to the Kolmogorov distribution, provided that F(x) is continuous.

The Kolmogorov-Smirnov test for goodness-of-fit is based on this fact.

By Donsker's theorem,

$\sqrt{n}(F_n-F)$ , as a process indexed by x, converges weakly in $\ell^\infty(\mathbb{R})$ to a Brownian bridge B(F(x)).

[edit] See also

Dzisiaj spotkają się Izrael, Palestyńczycy i Hamas

Ambasador Egiptu w INZ Maged Abdelaziz poinformował, że przedstawiciele Izraela, Autonomii Palestyńskiej i sprawującego władzę w Strefie Gazy Hamasu zgodzili się spotkać w czwartek w Kairze aby przedyskutować egipsko-francuską propozycję rozejmu.

Donosił tej samej osobie co ojciec Hejmo

Dzisiejszy nuncjusz apostolski w Polsce apb Józef Kowalczyk, którego tajne służby PRL zarejestrowały bez jego wiedzy jako kontakt informacyjny, przekazywał informacje temu samemu rezydentowi wywiadu co ojciec Konrad Hejmo - donosi "Rzeczpospolita".

Strzelanina w szkole w Budapeszcie

Zamaskowany mężczyzna zastrzelił w środę wieczorem dyrektora i jednego z nauczycieli szkoły w przemysłowej dzielnicy Csepel, w Budapeszcie - poinformowała węgierska policja.

Kalisz: Kaczyńskiego i Ziobrę wezwę na końcu

Szefa PiS Jarosława Kaczyńskiego i byłego ministra sprawiedliwości Zbigniewa Ziobrę wezwę na końcu. Będą się odnosili do materiału zebranego w sprawie, a nie wygłaszali "tyrady ziobrotokowe" - mówi w wywiadzie dla "Rzeczpospolitej" szef sejmowej komisji śledczej badającej okoliczności śmierci Barbary Blidy Ryszard Kalisz.

Izrael nasilił działania zbrojne w Strefie Gazy

Dzisiaj nad ranem Izrael nasilił ofensywę swych wojsk na południu Strefy Gazy. Według relacji świadków, granicę Strefy przekroczyły dziesiątki izraelskich czołgów kierując się w stronę miasta Rafah, położonego w pobliżu granicy z Egiptem.

906 niezarejestrowana strona no host brak hosta brak hosta

Encyklopedia

Empirical distribution function

From Wikipedia, the free encyclopedia

[edit] Asymptotical properties

[edit] See also