Я определенно выбрал бы TreeMap:
А TreeSet внутренне использует TreeMap итак, почему бы не использовать TreeMap непосредственно.
The behaviour resulting from this setting is documented at http://msdn.microsoft.com/en-us/library/system.configuration.sectioninformation.requirepermission.aspx.