Как я могу заставить свой orderby работать с помощью анонимного типа?

Другая опция, если бы Вы действительно предпочитаете синтаксис выражения запроса, состояла бы в том, чтобы объединить Вашу конструкцию запроса в цепочку через несколько операторов:

var query = from r in db.RecordDocs
    where r.RecordID == recordID
    select new
    {
        DocTypeID = r.Document.DocType.DocTypeID,
        Name = r.Document.DocType.Name,
        Number = r.Document.DocType.Number
    };

query = query.Disctinct();
query = from doc in query orderby doc.Name select doc;

Так как все эти методы задерживаются, это приведет к тому же самому выполнению выполнения.