Как преобразовать символ в строку?

Использование класса .NET UTF8Encoding и передачи $False в конструктор, похоже, работает:

$MyFile = Get-Content $MyPath
$Utf8NoBomEncoding = New-Object System.Text.UTF8Encoding $False
[System.IO.File]::WriteAllLines($MyPath, $MyFile, $Utf8NoBomEncoding)