Простой числовой тест, показывающий, что функция выглядит как sin (x) или ((tanh (x) + 1) / 2)

Прежде всего, ширина двойника напрямую не связана с количеством десятичных знаков, которое она может удерживать. Двойное значение - мантисса и показатель (среди прочего), и, конечно, внутренняя база 2, поэтому она более сложна, чем «двойной может содержать X десятичных знаков».

В любом случае вы должны иметь возможность использовать BigDecimal для всех ваших вычислений, просто выполните всю свою математику, используя методы BigDecimal вместо встроенных арифметических операторов.