Выполните клиент JavaScript после обратного вызова RadAjax

Посмотрите на внутреннее исключение, которое Вы получаете. Это скажет Вам, какое поле/свойство это испытывает затруднения при сериализации.

можно исключить поля/свойства из XML-сериализации путем украшения их эти [XmlIgnore] атрибут.

я не думаю, что XmlSerializer использование эти [Serializable] атрибут, таким образом, я сомневаюсь относительно этого, является проблемой.