Вам нужно передать свои переменные по ссылке, что означает
void trans(double x,double y,double theta,double &m,double &n) { ... }