Two Expectation-Maximization Algorithms for Boolean Factor Analysis

0369641 - ÚI 2015 RIV NL eng J - Journal Article
Frolov, A. A. - Húsek, Dušan - Polyakov, P.Y.
Two Expectation-Maximization Algorithms for Boolean Factor Analysis.
[Dva EM algoritmy pro Booleovskou faktorovou analýzu.]
Neurocomputing. Roč. 130, 23 April (2014), s. 83-97. ISSN 0925-2312. E-ISSN 1872-8286
R&D Projects: GA ČR GAP202/10/0262
Grant - others:GA MŠk(CZ) ED1.1.00/02.0070; GA MŠk(CZ) EE.2.3.20.0073
Program: ED
Institutional research plan: CEZ:AV0Z10300504
Keywords : Boolean Factor analysis * Binary Matrix factorization * Neural networks * Binary data model * Dimension reduction * Bars problem
Subject RIV: IN - Informatics, Computer Science
Impact factor: 2.083, year: 2014

Methods for the discovery of hidden structures of high-dimensional binary data are one of the most important challenges facing the community of machine learning researchers. There are many approaches in the literature that try to solve this hitherto rather ill-defined task. In the present, we propose a general generative model of binary data for Boolean Factor Analysis and introduce two new Expectation-Maximization Boolean Factor Analysis algorithms which maximize the likelihood of a Boolean Factor Analysis solution. To show the maturity of our solutions we propose an informational measure of Boolean Factor Analysis efficiency. Using the so-called bars problem benchmark, we compare the efficiencies of the proposed algorithms to that of Dendritic Inhibition Neural Network, Maximal Causes Analysis, and Boolean Matrix Factorization. Last mentioned methods were taken as related methods as they are supposed to be the most efficient in bars problem benchmark. Then we discuss the peculiarities of the two methods we proposed and the three related methods in performing Boolean Factor Analysis.

Výzkum metod pro analýzu skrytých struktur binárních dat vysoké dimenze je jednou z nejvýznamnějších výzev současnosti v oblasti strojového učení. Je navržen obecný generativní model binárních dat pro Booleovskou Faktorovou analýzu (BFA) a na něm založené dva algoritmy BFA používající maximalizaci věrohodnostní funkce. Pro posouzení kvality řešení je navržena informační míra. Kvalita navržených algoritmů je ukázána na řešení standardní úlohy „Bar Problem“ (BP) a algoritmy jsou i porovnány se třemi souvisejícími metodami v tom smyslu, že jsou vhodné pro řešení BP.
Permanent Link: http://hdl.handle.net/11104/0203657