Вы можете использовать WNLIB , но это обычный язык C, поэтому вам нужно обернуть его в библиотеку DLL, а затем использовать с C #.
Math.NET
Читайте Библиотека линейной алгебры C#
EDIT: Посмотрите http://en.wikipedia.org/wiki/Linear_programming#Solvers_and_scripting_.28programming.29_languages
Возможно, это то, что вы ищете. Говорит, что работает с .Net http://lpsolve.sourceforge.net/5.5/