Я проверил ваш код. Я думаю, что вы оставляете «\n» в буфере входной клавиатуры после toRadix.
И это еще одна вещь, которая
getchar()
читает все символы за один раз до получения «\n».
И еще одна ошибка, которую вы совершили, сравнивая
char to a pointer e.g mychar=="\n"
, дополнительная информация о вашей реализации toRadix может быть действительно полезной для ответа на ваш вопрос