Справка с нейронной сетью Neuroph

Также обратите внимание на свой метод тренировок. Мультиядер помогает работать БЫСТРЕЕ. Работать умнее тоже хорошо. Если вы просто используете обратное распространение, вам понадобится много времени, чтобы сойтись. Как минимум используйте что-то вроде устойчивого распространения, я думаю, это может быть в Neuroph. Или посмотрите на Scaled Conjugate Gradient или Levenberg Marquardt. Encog делает и то, и другое. Encog также может использовать ваш графический процессор, чтобы еще больше ускорить работу с помощью OpenCL.

Ускорение итераций - это хорошо. Но делать БОЛЬШЕ с итерацией обучения часто даже лучше. И делать ОБЕИХ лучше всего.

Насколько независимы ваши нейронные сети? Честно говоря, я главный программист Encog, и мне бы хотелось, чтобы вы переключились. НО, если вы испытываете нехватку времени и вам нужно оставаться Neuroph, и эти сети действительно независимы, тогда вы можете создать несколько потоков и запустить несколько обучающих циклов Neuroph одновременно. По всем вашим ядрам. Предполагая, что в Neuroph нет ничего, что могло бы пойти не так, когда одновременно запущено несколько экземпляров их тренера. Я недостаточно хорошо знаю Neuroph, чтобы сказать, насколько он реентрантен.

Также я согласен, ваше исследование звучит очень интересно.

Вы обучаетесь с помощью графического интерфейса или Java-кода и какую версию Neuroph вы используете? Если вы используете GUI, возьмите последнюю обновленную версию 2.4u1 (только что выложил ее), в ней есть некоторые улучшения производительности. Также какой алгоритм обучения вы используете, и какие настройки? Вы можете попробовать DynamicBackpropagation. Ваш проект звучит очень интересно, и мне очень жаль, что у вас возникли проблемы с Neuroph. Мы не знали, что производительность Neuroph настолько низка по сравнению с другими, до этих бенчмарков, и мы обязательно улучшим это в будущем.

Как предложил Джефф (спасибо Джеффу), если ваши сети независимы, вы можете сделать что-то вроде этого:

for(int index = 0; index < numberThreads ; index++ ) {    
    MultiLayerPerceptron mlp = new MultiLayerPerceptron(inputSize, hiddenLayerSize,outputSize);      
    SupervisedLearning learningRule = (SupervisedLearning)mlp.getLearningRule(); 
    learningRule.setMaxError(maxError); 
    learningRule.setMaxIterations(maxIterations); // make sure we can end. 
    learningRule.addObserver(this); // user observer to tell when individual networks are done and launch new networks. 
    this.mlpVector.add(mlp);
    mlp.learnInNewThread(trainingSet);
} 

Также, поскольку у вас так много сетей, параметры обучения могут быть критичными, поэтому вы можете использовать Neuroph trainer, чтобы определить правильные настройки. Он еще не закончен, но в основном он генерирует все возможные комбинации параметров обучения и пробует одну за другой. Надеюсь, это поможет вам, также если у вас есть еще вопросы или вам нужна помощь с чем-то, не стесняйтесь спрашивать.