Возможно, ваш пул агентов должен быть Hosted VS2017
.
Как упомянул @NicoD, мы также создаем проекты c # 7 без проблем, ориентируясь на этот хост.
Вы не указали, куда числа прибывают из, но Вы смогли делать некоторые упрощения. Если числа первоначально меньше, то рассматривают вещи как:
(a + b) MOD n = ((a MOD n) + (b MOD n)) MOD n
или
ab MOD n = (a MOD n)(b MOD n) MOD n
Пользуйтесь crypto/math библиотекой. Google для сверхбольшого числа.
Вам нужна целочисленная математическая библиотека произвольной точности, такая как IntX.