Всегда ли CoCreateInstance запускает новую копию серверного процесса?

Используйте junit-dep.jar, а не junit.jar - это JUnit минус его зависимости. Junit.jar содержит старую версию Hamcrest.