Должен ли я всегда использовать Parallel.Foreach, потому что большее количество потоков ДОЛЖНО ускорить все?

Имеет ли смысл использовать для каждого обычного цикла foreach цикл parallel.foreach?

Когда мне следует использовать parallel.foreach, выполняя только итерацию 1 000 000 items?