Prawo wielkich liczb
Z Wikipedii
Definicja intuicyjna:
zwiększając liczbę doświadczeń opartych na zdarzeniach losowych, możemy oczekiwać rozkładu wyników coraz lepiej odpowiadającego rozkładowi prawdopodobieństw zdarzeń (na przykład, przeprowadzając wielką liczbę rzutów symetryczną monetą, możemy oczekiwać że stosunek liczby "wyrzuconych" orłów do liczby wszystkich rzutów będzie bliski 0,5 (wartości prawdop.); tym większe są na to szanse im większa jest liczba rzutów)
Słabe prawo wielkich liczb to twierdzenie matematyczne mówiące, że jeśli Xi są niezależnymi zmiennymi losowymi o identycznym rozkładzie z wartością oczekiwaną μ i skończoną wariancją, to dla każdego ε > 0
.
Słownie: niezależnie od wyboru szerokości przedziału wokół wartości oczekiwanej, prawdopodobieństwo dla dużych n będzie dowolnie bliskie 1.
Innymi słowy, ciąg zmiennych losowych 
zbiega według prawdopodobieństwa do wartości oczekiwanej μ zmiennej losowej Xi. Dowód słabego prawa wielkich liczb opiera się na nierówności Czebyszewa.
[edytuj] Dowód
Wartość oczekiwana i wariancja podlegają następującym prawom:
,
,
jeśli X i Y są zmiennymi losowymi niezależnymi,
,
,
a więc:
Co oznacza, że dla każdego 
:
A skoro wariancja dąży do zera, szansa że dana wartość będzie poza bardzo dowolnie małym przedziałem (jak udowodniliśmy wokół μ) również dąży do zera.
Mocne prawo wielkich liczb to twierdzenie matematyczne, które mówi że 
. Innymi słowy, ciąg zmiennych losowych jest zbieżny , prawie wszędzie do wartości oczekiwanej μ zmiennej losowej Xi.
Istnieją też ogólniejsze wersje tych twierdzeń dla zmiennych losowych, które nie są niezależne, bądź mają nieskończoną wariancję.
[edytuj] Historia
Najprostsza i historycznie najwcześniejsza postać prawa wielkich liczb to Prawo Bernoulliego sformułowane przez szwajcarskiego matematyka Jakoba Bernoulliego w książce Ars Conjectandi (1713). Prawo Bernoulliego orzeka, że:
„Z prawdopodobieństwem dowolnie bliskim 1 można się spodziewać, iż przy dostatecznie wielkiej liczbie prób częstość danego zdarzenia losowego będzie się dowolnie mało różniła od jego prawdopodobieństwa.”
Bernoulli nazwał je „Złotym twierdzeniem”, ale matematycy przyjęli dla niego nazwę „Twierdzenie Bernoulliego”. Dopiero w 1835 roku francuski naukowiec Siméon Denis Poisson opisał je pod nazwą „Prawo wielkich liczb”. Obecnie twierdzenie to znane jest pod nazwami „Twierdzenie Bernoulliego”, jak i „Prawo wielkich liczb”, jednak ta druga nazwa jest częściej stosowana.
