Как открыть станд.:: fstream (ofstream или ifstream) с unicode именем файла?

Изображение, которое вы загрузили, показывает, что вы на самом деле запускаете несколько потоков, но культура устанавливается только для текущего потока.

Чтобы преодолеть это, вы можете присвоить желаемую культуру переменной и использовать ее внутри Task.Factory.StartNew. Вы можете сделать что-то вроде этого:

var culture = new System.Globalization.CultureInfo("en-US");
return Task.Factory.StartNew(() => 
{
    // use culture here
    Thread.CurrentThread.CurrentCulture = culture;

    // your actual code here
    String i = "0.48,trx/btc,coss,hitbtc2,0.0000062000 / 0.0000066000,0.0000061502 / 0.0000061701,,0.48%";
    double test = double.Parse(i.Split(',')[0]);
});

Как указал @madreflection, вы можете просто передать желаемую культуру методу double.Parse():

// put this at the top of your file
var culture = new System.Globalization.CultureInfo("en-US");

// use this inside Task.Factory.StartNew
double test = double.Parse(i.Split(',')[0], culture);

Или даже использовать CultureInfo.InvariantCulture внутри Task.Factory (спасибо @Olivier):

double test = double.Parse(i.Split(',')[0], CultureInfo.InvariantCulture);