Удаление узлов от XDocument

Это удаляет все элементы из документа:

        XDocument document = XDocument.Load(inputFile);
        foreach (XElement element in document.Elements())
        {
            element.Remove();
        }
        document.Save(outputFile);

Это не имеет никакого эффекта:

        XDocument document = XDocument.Load(inputFile);
        foreach (XElement element in document.Elements())
        {
            //element.Remove();
            foreach (XElement child in element.Elements())
                child.Remove();
        }
        document.Save(outputFile);

Я пропускаю что-то здесь? Так как это все ссылки на элементы в XDocument, разве изменения не должны вступать в силу? Есть ли некоторый другой способ, которым я должен удалять вложенных детей из XDocument?

Спасибо!