Optimality conditions for maximizers of the information divergence from an exponential family

0098126 - ÚTIA 2008 RIV CZ eng J - Článek v odborném periodiku
Matúš, František
Optimality conditions for maximizers of the information divergence from an exponential family.
[Podmínky oprimality pro informační divergenci od exponenciální rodiny.]
Kybernetika. Roč. 43, č. 5 (2007), s. 731-746. ISSN 0023-5954
Grant CEP: GA AV ČR IAA100750603
Výzkumný záměr: CEZ:AV0Z10750506
Klíčová slova: Kullback-Leibler divergence * relative entropy * exponential family * information projection * log-Laplace transform * cumulant generating function * directional derivatives * convex functions * first order optimality conditions * polytopes
Kód oboru RIV: BA - Obecná matematika
Impakt faktor: 0.552, rok: 2007

The information divergence of a probability measure P from an exponential family E over a finite set is defined as infimum of the divergences of P from Q over Q in E. All directional derivatives of the divergence from E are explicitly found. To this end, behaviour of the conjugate of a log-Laplace transform on the boundary of its domain is analysed. The first order conditions for P to be a maximizer of the divergence from E are presented, including new ones when P is not projectable to E.

Informační divergence pravděpodobnostní měry P od exponenciální rodiny E se definuje jako infimum informačních divergencí P od Q cez Q v E. Pro diskrétní E byly explicitně nalezeny všechny směrové derivace informační divergence of E. Za tím účelem bylo studováno chování konjugované funkce k log-Laplacově transformaci. Byly nalezeny všechny podmínky optimality prvního řádu.
Trvalý link: http://hdl.handle.net/11104/0157116