Improving Neural Network Approximations in Applications: Case Study in Materials Science

0326658 - ÚI 2010 RIV CZ eng J - Journal Article
Holeňa, Martin - Steinfeldt, N.
Improving Neural Network Approximations in Applications: Case Study in Materials Science.
[Zlepšování aproximací pomocí neuronových sítí v aproximacích: případová studie v materiálových vědách.]
Neural Network World. Roč. 19, č. 2 (2009), s. 165-190. ISSN 1210-0552
Institutional research plan: CEZ:AV0Z10300504
Keywords : artificial neural networks * approximation capability * crossvalidation
Subject RIV: IN - Informatics, Computer Science
Impact factor: 0.475, year: 2009

The popularity of feed-forward neural networks such as multilayer perceptrons and radial basis function networks is to a large extent due to their universal approximation capability. This paper concerns its theoretical principles, together with the influence of network architecture and of the distribution of training data on this capability. Then, the possibility to exploit this influence in order to improve the approximation capability of multilayer perceptrons by means of cross-validation and boosting is explained. Although in theory, the impact of both methods on the approximation capability of feed-forward networks is known, they are still not common in real-world applications. Therefore, the paper documents usefulness of both methods on a detailed case study in materials science.

Popularita dopředných neuronových sítí, jako jsou vícevrstvé perceptrony a sítě s radiálními bázovými funkcemi, je do značné míry způsobena jejich univerzální aproximační schopností. Tento článek se týká jejích teoretických základů, společně s vlivem architektury sítě a rozložení trénovacích dat na tuto schopnost. Poté je vysvětlena možnost využít tento vliv ke zlepšení aproximační schopnosti vícevrstvých perceptronů pomocí křížové validace a boostingu. Přestože dopad obou metod na aproximační schopnost dopředných neuronových sítí je známý, v reálných aplikacích stále nejsou běžné. Článek proto dokumentuje užitečnost obou metod na detailní případové studii v materiálových vědách.
Permanent Link: http://hdl.handle.net/11104/0005284