Я не мог найти подход, который мне подходит, поэтому я предлагаю свою версию. Конечно, нужен ввод, обработка ошибок.
public void Rename(string filePath, string newFileName)
{
var newFilePath = Path.Combine(Path.GetDirectoryName(filePath), newFileName + Path.GetExtension(filePath));
System.IO.File.Move(filePath, newFilePath);
}