Neural Network Binary Factorization as a Tool for Large Dataset Clustering

0031747 - UIVT-O 336081 RIV CZ eng K - Conference Paper (Czech conference)
Frolov, A. A. - Húsek, Dušan - Snášel, Václav - Řezanková, H. - Polyakov, P.Y.
Neural Network Binary Factorization as a Tool for Large Dataset Clustering.
[Binární faktorová analýza založená na neuronových sítích jako nástroj pro shlukování velkých datových souborů.]
ELNET 2004. Ostrava: Technical University, 2004 - (Snášel, V.), s. 64-88. ISBN 80-248-0738-6.
[ELNET 2004. Workshop /1./. Ostrava (CZ), 07.12.2004-09.12.2004]
R&D Projects: GA ČR(CZ) GA201/01/1192
Institutional research plan: CEZ:AV0Z1030915
Keywords : associative memory * Hopfield model * neural network * boolean factor analysis
Subject RIV: BB - Applied Statistics, Operational Research

The feature space transformation is a widely used method for data compression. Due to this transformation the original patterns are mapped into the space of features or factors of reduced dimensionality. In this paper we demonstrate that Hebbian learning in Hopfield-like neural network is a natural procedure for binary factorization. This paper is dedicated to estimation of the size of attraction basins around factors. Two global spurious attractors are shown to prevent convergence of the network activity to the factors invalidating any procedure of their search. These global attractors can be completely deleted from network dynamics by introducing a single inhibitory neuron with bi-directional Hebbian synapses. Due to additional inhibition, the size of attraction basins around factors becomes the same as around the stored patterns in usual Hopfield network.

Transformace prostoru příznaků je velmi častou metodou komprese dat.Prostor příznaků je transformován do prostoru faktorů o nižší dimenzi. Zde je ukázáno, že pro binární případ lze k tomuto účelu použít variantu Hopfieldovy NS. Studována je velikost oblastí atrakce po odstranění dvou globálních atraktorů pomocí jednoho neuronu s dvosměrnými Hebbovskými synapsemi a je ukázáno že oblasti atrakce kolem faktorů jsou řízeny stejnou zákonitostí jako u tradiční Hopfieldovy sítě.
Permanent Link: http://hdl.handle.net/11104/0132401