Feed-Forward Neural Networks and Minimal Search Space Learning

0405661 - UIVT-O 336043 RIV US eng J - Journal Article
Neruda, Roman
Feed-Forward Neural Networks and Minimal Search Space Learning.
[Dopředné neuronové sítě a učení na minimálních prohledávacích prostorech.]
WSEAS Transactions on Computers. Roč. 4, č. 12 (2005), s. 1867-1872. ISSN 1109-2750
R&D Projects: GA ČR GA201/05/0557
Institutional research plan: CEZ:AV0Z10300504
Keywords : search space * feed-forward networks * genetic algorithms
Subject RIV: BA - General Mathematics

A functional equivalence of feed-forward networks has been proposed to reduce the search space of learning algorithms. The description of equivalence classes has been used to introduce a unique parametrization property and consequently the so-called canonical parametrizations as representatives of functional equivalence classes. A novel genetic learning algorithm for RBF networks and perceptrons with one hidden layer that operates only on these parametrizations has been proposed. Experimental results show that our procedure outperforms the standard genetic learning. An important extension of theoretical results demonstrates that our approach is also valid in the case of approximation.

Funkční ekvivalence dopředných sítí byla navržena za účelem redukce prohledávacích prostorů učících algoritmů. Popis tříd ekvivalence přinesl charakterizaci jednoznačných zástupců parametrizací. Navrhujeme nový genetický učící algoritmus pro RBF a perceptronové sítě s jednou skrytou vrstvou. Experimenty ukazují, že tato procedura urychluje standardní genetické učení. Dle teoretických výsledků je tento přístup použitelný i pro aproximační problémy.
Permanent Link: http://hdl.handle.net/11104/0125801