Sprawdzian krzyżowy

Z Wikipedii

Sprawdzian krzyżowy (lub walidacja krzyżowa, kroswalidacja, sprawdzanie krzyżowe) - metoda statystyczna, polegająca na podziale próby statystycznej na podzbiory, a następnie przeprowadzaniu wszelkich analiz na niektórych z nich (zbiór uczący), podczas gdy pozostałe służą do potwierdzenia wiarygodności jej wyników (zbiór testowy, zbiór walidacyjny).

Teoria sprawdzianu krzyżowego została zapoczątkowana przez Seymoura Geissera. Pozwala ona bronić się przed tzw. błędem trzeciego rodzaju i właściwie ocenić trafność prognostyczną modelu predykcyjnego. Bez jej zastosowania nie można być pewnym, czy model będzie dobrze działał dla danych, które nie były wykorzystywane do jego konstruowania (zob. overfitting).

Spis treści 1 Rodzaje 1.1 Prosta walidacja 1.2 K-krotna walidacja 1.3 Leave-one-out 2 Przypisy 3 Bibliografia 4 Zobacz też 5 Linki zewnętrzne

[edytuj] Rodzaje

[edytuj] Prosta walidacja

Jest to najbardziej typowy rodzaj walidacji, w którym próbę dzieli się losowo na rozłączne zbiory: uczący i testowy. Zwykle zbiór testowy stanowi mniej niż 1/3 próby^[1]. Niektórzy nie zaliczają tego typu walidacji do metody sprawdzianu krzyżowego.

[edytuj] K-krotna walidacja

W tej metodzie, oryginalna próba jest dzielona na K podzbiorów. Następnie kolejno każdy z nich bierze się jako zbiór testowy, a pozostałe razem jako zbiór uczący i wykonuje analizę. Analiza jest więc wykonywana K razy. K rezultatów jest następnie uśrednianych (lub łączonych w inny sposób) w celu uzyskania jednego wyniku.

[edytuj] Leave-one-out

Jest to odmiana walidacji K-krotnej, gdy N-elementowa próba jest dzielona na N podzbiorów, zawierających po jednym elemencie. Stosowana często dla małych zbiorów danych.

Przypisy

[edytuj] Bibliografia

• Jacek Koronacki, Jan Ćwik: Statystyczne systemy uczące się. Warszawa: Wydawnictwa Naukowo-Techniczne, 2005, s. 90. ISBN 83-204-3157-3. 

[edytuj] Zobacz też

• overfitting
• resampling
• bootstrap

[edytuj] Linki zewnętrzne

• (en) Implementacja naiwnej metody Bayesowskiej ze sprawdzianem krzyżowym w języku Visual Basic (zawiera pliki wykonywalne i kod źródłowy)
• (en) Ogólna implementacja sprawdzianu k-fold (darmowy open source; zawiera wersję rozproszoną, wykorzystującą jednocześnie wiele komputerów, co może wielokrotnie przyspieszyć obliczenia)