ATLAS - может быть сложно улучшить, но если вы это сделаете, то большие kudos
UBLAS - может быть в состоянии улучшить некоторые общие паттерны выражений
sympy - питоновый код, некоторые рутины медленные. разработчики определенно будут благодарны за помощь.
Скорее всего, симпатия принесет наибольшую пользу с точки зрения улучшения. Atlas, на мой взгляд, практически невозможно было бы улучшить.
Вы также можете посмотреть ссылки на проекты на oonumerics.org, но если вы все же выбрали проект, убедитесь, что он все еще активен. проекты сгруппированы по полям, так что вам есть из чего выбирать.