Learning for Nonstationary Dirichlet Processes

0090636 - ÚTIA 2008 RIV GB eng J - Journal Article
Quinn, A. - Kárný, Miroslav
Learning for Nonstationary Dirichlet Processes.
[Učení nestacionárních Dirichletových procesů.]
International Journal of Adaptive Control and Signal Processing. Roč. 21, č. 10 (2007), s. 827-855. ISSN 0890-6327. E-ISSN 1099-1115
R&D Projects: GA AV ČR 1ET100750401
Grant - others:MŠk ČR(CZ) 2C06001
Program: 2C
Institutional research plan: CEZ:AV0Z10750506
Keywords : Nestacionární procesy * učení * Dirichletovy procesy * zapomínání
Subject RIV: BB - Applied Statistics, Operational Research
Impact factor: 0.776, year: 2007
http://library.utia.cas.cz/separaty/2007/as/karny-learning for nonstationary dirichlet processes.pdf

The Dirichlet process prior (DPP) is used to model an unknown probability distribution, F: This eliminates the need for parametric model assumptions, providing robustness in problems where there is significant model uncertainty. Two important parametric techniques for learning are extended to this non-parametric context for the first time. These are (i) sequential stopping, which proposes an optimal stopping time for online learning of F using i.i.d. sampling; and (ii) stabilized forgetting, which updates the DPP in response to changes in F; but without the need for a formal transition model. In each case, a practical and highly tractable algorithm is revealed, and simulation studies are reported.

Dirichletův proces se používá pro modelování neznámého rozložení F. To umožňuje se vyhnout předpokladu o jejím parametrickém rozlišení a zajišťuje odolnost v úlohách s vysokou neurčitostí. Článek rozšiřuje použití dvou technik známých z parametrického odhadování do neparametrického kontextu. Konkrétně (i) průběžné zastavování volící okamžik zastavení průběžného odhadování F z nezávislých vzorků; (ii) stabilizované zapomínání, které respektuje pomalé časové změny F bez jejich podrobnějšího modelování. V obou případech je navrženo algoritmické řešení a jeho chování je ilustrováno simulačními příklady.
Permanent Link: http://hdl.handle.net/11104/0151461