Improving Implementation of Linear Discriminant Analysis for the High Dimension/Small Sample Size Problem

0086648 - ÚI 2008 RIV NL eng J - Journal Article
Duintjer Tebbens, Jurjen - Schlesinger, P.
Improving Implementation of Linear Discriminant Analysis for the High Dimension/Small Sample Size Problem.
[Vylepšení implementace lineární diskriminační analýzy pro high dimension/small sample size problem.]
Computational Statistics and Data Analysis. Roč. 52, č. 1 (2007), s. 423-437. ISSN 0167-9473. E-ISSN 1872-7352
R&D Projects: GA AV ČR 1ET400300415; GA MŠMT LC536
Institutional research plan: CEZ:AV0Z10300504
Keywords : linear discriminant analysis * numerical aspects of FLDA * small sample size problem * dimension reduction * sparsity
Subject RIV: BA - General Mathematics
Impact factor: 1.029, year: 2007

Classification based on Fisher's linear discriminant analysis (FLDA) is challenging when the number of variables largely exceeds the number of given samples. The original FLDA needs to be carefully modified and with high dimensionality implementation issues like reduction of storage costs are of crucial importance. Methods are reviewed for the high dimension/small sample size problem and the one closest, in some sense, to the classical regular approach is chosen. The implementation of this method with regard to computational and storage costs and numerical stability is improved.

Klasifikace na základě Fisherovy lineární diskriminační analýze (FLDA) je složitou a těžkou úlohou v případě, že počet proměnných je mnohem vyšší než počet daných příkladů. Původní FLDA je potřeba pečlivě modifikovat a ve vysokých dimenzích jsou velmi důležité implementační otázky, jako redukce paměťových nákladů. V článku se proberou různé metody pro high dimension/ small sample size problem a vybere se metoda, která je v určitém smyslu nejblíže ke klasickému regulárnímu postupu. Pak se článek zabývá implementací vybrané metody, která je vylepšena vzhledem k výpočetním a paměťovým nákladům a vzhledem k numerické stabilitě.
Permanent Link: http://hdl.handle.net/11104/0148854