Можно ли изменить имя уже открытого сопоставленного файла памяти, или мне нужно закрыть его, переименовать, а затем снова отобразить?
Переименование файла, когда он открыт, - это нормально, независимо от того, является он mmaped или нет.
В UNIX-подобных системах концепция самого файла отличается от имени (которое называется «ссылкой»). Файл может иметь ноль, один или несколько отдельных имен. Когда у вас открыт файл, это сам файл, на который у вас есть ссылка - можно изменить или удалить имя (и файл останется открытым).