Jak odhalit a ošetřit odlehlé hodnoty (outliers) v datech

Máte sesbíraná data z dotazníku, vytvořili jste datovou matici v Excelu a chystáte se na první výpočty. Než ale spustíte statistické testy, měli byste provést důležitou kontrolu, kterou mnoho studentů a začínajících výzkumníků podceňuje – hledání odlehlých hodnot (tzv. outliers).

I pouhá jedna špatně zapsaná hodnota dokáže kompletně „rozbít“ průměry, zkreslit výsledky t-testů a vést k úplně chybným závěrům celé závěrečné práce. Podívejme se krok za krokem na to, co odlehlé hodnoty jsou, jak je odhalit a co s nimi dělat.

Co je odlehlá hodnota a jak vzniká

Odlehlá hodnota je pozorování (nebo celkový záznam respondenta), které se nápadně liší od ostatních dat v souboru. V zásadě mohou mít tři různé příčiny:

  • Technická chyba (překlep): Respondent (nebo vy při přepisování papírových dotazníků) se uťukne na klávesnici. Například u věku místo 25 napíše 250, nebo u měsíčního příjmu přidá o jednu nulu navíc.
  • Jiné chování odlišné subpopulace: Data jsou v pořádku, ale dotyčný respondent se chová zcela odlišně než zbytek vzorku (např. v průzkumu firemních nákladů na IT uvede malá firma výdaje 5 000 Kč, ale gigant jako Alza či Škoda Auto uvede miliardy).
  • Reálný extrémní jev: Hodnota je naprosto správná a představuje extrémní, avšak reálný případ (např. v dotazníku na počet přečtených knih za rok uvede vášnivý čtenář hodnotu 120).

1. Jak odlehlé hodnoty detekovat?

Než začnete data jakkoliv mazat, musíte je bezpečně identifikovat. K tomu slouží dva hlavní přístupy – grafický a statistický.

A. Grafické metody (Oko je nejlepší přítel)

  • Krabicový graf (Boxplot): Ideální a nejrychlejší nástroj v Excelu, SPSS, JAMOVI  dalších software. Boxplot ukazuje medián a kvartily. minimální a maximální hodnoty. Hodnoty, které leží vně „vousů“ (whiskers) grafu (zpravidla dále než 1,5násobek mezikvartilového rozpětí), software automaticky označuje jako potenciální odlehlé hodnoty.
  • Histogram: Pomůže vám vidět celkové rozdělení dat. Pokud má histogram extrémně dlouhý „ocas“ na jedné straně, pravděpodobně v něm outlieři schovaní jsou.

B. Statistické metody (Pro exaktní posouzení)

  • Metoda IQR (Interkvartilové rozpětí): Vychází z rozdílu mezi třetím (Q3) a prvním (Q1) kvartilem. Spodní a horní hranice přijatelných hodnot se počítá jako:
    • Spodní hranice = Q1 – 1,5 * IQR
    • Horní hranice = Q3 + 1,5 * IQR

    Vše, co leží mimo tento interval, je podezřelé.

  • Z-skóre (Standardizované skóre): Hodí se pro data s normálním rozdělením. Z-skóre vyjadřuje, o kolik směrodatných odchylek leží daný bod od průměru. Za odlehlé se obvykle považují hodnoty, jejichž absolutní hodnota Z-skóre je větší než 3.

2. Strategie řešení: Co s odlehlými hodnotami dělat?

Jakmile odlehlou hodnotu odhalíte, nesmíte ji bezhlavě smazat jen proto, „že kazí graf“. Postupujte podle následujícího klíče:

Typ situaceDoporučený postupPoznámka
Zjevná chyba/překlep
(věk 300 let, záporná cena)
Opravit nebo smazatPokud víte, co byla správná hodnota (např. překlep v desítkách), opravte ji. Pokud ne, celý řádek respondenta vymažte.
Reálný extrém
(velmi vysoký příjem, specifický případ)
Ponechat, transformovat nebo použít robustní metodyPokud jde o platná data, smazáním byste zkreslili realitu. Často pomáhá logaritmická transformace dat nebo použití neparametrických testů.
Hodnota je středem vašeho zájmu
(např. detekce anomálií, extrémní chování)
Vždy ponechatPokud zkoumáte specifické chování (např. nejloajálnější zákazníky), jsou pro vás outlieři tou nejcennější částí dat.

 

Shrnutí pro vaši závěrečnou práci

Ošetření odlehlých hodnot je nutnou součástí čištění dat před samotnou inferenční statistikou. V metodice své bakalářské či diplomové práce nezapomeňte stručně zmínit, jak jste s odlehlými hodnotami nakládali. Komise v oponentních posudcích velmi oceňuje, když student prokáže, že svá data kriticky zkontroloval.

Potřebujete pomoci s přípravou datové matice, čištěním dat nebo volbou správných testů pro Váš výzkum? Ozvěte se mi a ráda Vám s analýzou pro Vaši práci pomohu.