Что контролирует, когда истекает блокировка MessageSession, если клиент не может вызвать Close?

Ваша интерпретация верна. Что контролирует блокировку сеанса, так это соединение с брокером. Как только соединение потеряно, сеанс может быть открыт другим клиентом. LockDuration для отдельных сообщений, а не для сеанса. Таким образом, пока клиент подключен к брокеру с открытым сеансом, этот сеанс будет оставаться заблокированным. Как только соединение потеряно, сеанс будет открыт другим запрашивающим клиентом. Но только один клиент за раз, чтобы обеспечить упорядоченную обработку сообщений.