Если Вы будете использовать log4j.properties
файл, то этот файл, как обычно ожидают, будет в корне Вашего пути к классу, поэтому удостоверьтесь, что это там.
gsl ( http://www.gnu.org/software/gsl/ ) широко доступен, портативен и имеет множество полезных функций.
Статистика часто выполняется на других языках, но некоторые из этих языков можно будет вызывать из C. Я бы рекомендовал посмотреть R и Octave ; последний - это аналог Matlab с открытым исходным кодом. Оба являются языками программирования сами по себе, но многие другие языки могут быть вызваны из C.
На мой взгляд, MATLAB - очень хороший выбор, который вы можете использовать для этого. Здесь - статья о том, как вызвать MATLAB из C.
Это недешево. Но вы ничего не указали, что библиотека дешевая или бесплатная. Кроме того, вы упомянули, что это большой проект ....: -)