Из памяти обычно означает, что необходимо выйти из того, что Вы делали. Если Вы осторожны относительно очистки, тем не менее, она может оставить саму программу операционной и способной ответить на другие запросы. Лучше иметь программу, говорят "Извините, недостаточно памяти, чтобы сделать", чем говорят "Извините, из памяти, закрываясь".
Попробуйте установить отношения родитель-потомок от Form_B (родительский) до Form_C (дочерний):
Form_C f = new Form_C();
f.ShowDialog(this);