Skrytý Markovův model: Porovnání verzí

'''Skrytý Markovův model''' (angl. HMM) je statistický Markovův model, který modeluje systém za předpokladu, že jde o Markovův proces se skrytými (nepozorovanými) stavy. HMM může být znázorněn pomocí nejjednodušší [[:en:dynamic Bayesian network|dynamické Bayesovy sítě]]. Matematické základy modelu vyvinul [[:en:Leonard E. Baum|L. E. Baum]] spolu se svým týmem spolupracovníků.<ref>{{cite journal|last=Baum|first=L. E.|author2=Petrie, T.|title=Statistical Inference for Probabilistic Functions of Finite State Markov Chains|journal=The Annals of Mathematical Statistics|year=1966|volume=37|issue=6|pages=1554–1563|url=http://projecteuclid.org/DPubS/Repository/1.0/Disseminate?handle=euclid.aoms/1177699147&view=body&content-type=pdf_1|accessdate=28 November 2011|doi=10.1214/aoms/1177699147}}</ref><ref>{{cite journal|last=Baum|first=L. E.|author2=Sell, G. R.|title=Growth transformations for functions on manifolds|journal=Pacific Journal of Mathematics|year=1968|volume=27|issue=2|pages=211–227|url=http://www.scribd.com/doc/6369908/Growth-Functions-for-Transformations-on-Manifolds|accessdate=28 November 2011|doi=10.2140/pjm.1968.27.211}}</ref><ref>{{cite journal|last=Baum|first=L.E.|title=An Inequality and Associated Maximization Technique in Statistical Estimation of Probabilistic Functions of a Markov Process|journal=Inequalities|year=1972|volume=3|pages=1–8}}</ref> Problematika velmi úzce souvisí s dřívější prací [[:en:Ruslan L. Stratonovich|Ruslana L. Stratonoviche]], který pracoval na lineárním [[:en:filtering problem (stochastic processes)|problému filtrování]],<ref name=Stratonovich1960>{{cite journal|author=Stratonovich, R.L.|year=1960|title=Conditional Markov Processes|journal=Theory of Probability and its Applications|volume=5|pages=156–178|doi=10.1137/1105015}}</ref> a jako první popsal [[:en:Forward–backward algorithm|dopředně-zpětný algoritmus]].

V jednodušších [[:en:Markov model|Markovových modelech]] (jako je [[:en:Markov chain|Markovův řetězec]]), je stav systému viditelný pozorovateli, tudíž pravděpodobnost změny stavu je jediný parametr modelu. Naopak ve ''skrytých'' Markovových modelech stav není pozorovateli viditelný, ale výstup, který je na stavu závislý, viditelný je. Každý stav má pravděpodobnostní vliv na výstup systému. Tedy posloupnost výstupů skrytého Markovova modelu vypovídá o posloupnosti vnitřních stavů, která tuto posloupnost vygenerovala. Přívlastek 'skrytý' se tedy vztahuje na posloupnost vnitřních stavů, kterými model prošel, nikoliv na parametry modelu (model se nazývá 'skrytý', ačkoliv jsou jeho parametry dány přesně a jsou známé.).

Skryté Markovovy modely jsou známé zejména na poli rozpoznánírozpoznávání časových vzorů. Mezi ně spadá například rozpoznánírozpoznávání řeči, rozpoznání rukou psaného písma, rozpoznání gest,<ref>Thad Starner, Alex Pentland. [http://www.cc.gatech.edu/~thad/p/031_10_SL/real-time-asl-recognition-from%20video-using-hmm-ISCV95.pdf Real-Time American Sign Language Visual Recognition From Video Using Hidden Markov Models]. Master's Thesis, MIT, Feb 1995, Program in Media Arts</ref> a [[:en:part-of-speech tagging|POS taging]]. Využití nalézá také v [[:en:bioinformatics|bioinformatice]].

Ve své diskrétní formě lze skrytý Markovův proces znázornit zobecněním [[:en:Urn problem|problému urnuren]], ve kterém je každý objekt před dalším krokem navrácen do své originální urny.<ref>{{cite journal |author=[[:en:Lawrence Rabiner|Lawrence R. Rabiner]] |title=A tutorial on Hidden Markov Models and selected applications in speech recognition |journal=Proceedings of the [[:en:IEEE]] |volume=77 |issue=2 |pages=257–286 |date=February 1989 |url=http://www.ece.ucsb.edu/Faculty/Rabiner/ece259/Reprints/tutorial%20on%20hmm%20and%20applications.pdf |doi=10.1109/5.18626}} [http://www.cs.cornell.edu/courses/cs481/2004fa/rabiner.pdf]

</ref> Uvažujeme následující příklad: v místnosti, do které pozorovatel nevidí, je duch. Místnost obsahuje urny X1, X2, X3, ... . Každá z uren obsahuje známý počet různých míčků. Míčky jsou označené y1, Y2y2, y3, ... . Duch náhodně vybere jednu z uren a vytáhne z ní náhodný míček. Míček následně položí na přepravní pás, který jej vyveze ven. Pozorovatel tedy vidí posloupnost vytažených míčků, ale není mu známa posloupnost uren, ze kterých bylo taženo. Duch k výběru urny využívá následující postup: výběr urny pro vytažení ''n''-tého míčku závisí pouze na náhodném čísle a na výběru urny pro vytažení (''n''&nbsp;−&nbsp;1−1)-ho míčku. Výběr míčku tedy přímo nezávisí na jinýchsekvenci urnáchpředešlých uren ze kterých bylo taženo, nežale pouze na téurně, prvníze předchozíkteré abyl vytažen n-1 míček. A proto se jedná o [[:en:Markov process|Markovův proces]]. Tento proces popisuje horní část obrázku 1.

Samotný Markovův proces nemůže být pozorován (lze pozorovat pouze sekvenci výstupů), a proto se tomu to procesu říká skrytý Markovův proces. Znázorňuje to spodní část obrázku 1, ze kterého je patrné, že v každém stavu může být tažen míček y1, y2, y3 nebo y4. Tedy ačkoliv pozorovatel zná rozmístění urn a právě viděl posloupnost tří vytažených míčků, nemůže si být jistý, ze které urny duch vytáhl třetí míček. Lze pouze určit pravděpodobnosti s jakými byl třetí míček z jednotlivých uren vytažen.