Посмотрите мой ответ здесь:
Сопоставление повернутого растрового изображения с изображением коллажа
Возможно, вы может что-то сделать с логополярным преобразованием в качестве этапа предварительной обработки обоих изображений, за которым следует кросс-корреляция . Логополярное преобразование удаляет вариации масштабирования и вращения, а взаимная корреляция определяет перевод. Возможно, вам придется центрировать логополярное преобразование в разных местах на большом изображении.