«npm» не распознается как внутренняя или внешняя команда, работающая программа или командный файл

Поскольку вы используете C ++, если вы хотите изменить xc и yc, вы можете использовать ссылки:

void trans(double x, double y, double theta, double& m, double& n)
{
    m=cos(theta)*x+sin(theta)*y;
    n=-sin(theta)*x+cos(theta)*y;
}

int main()
{
    // ... 
    // no special decoration required for xc and yc when using references
    trans(center_x, center_y, angle, xc, yc);
    // ...
}

Если вы используете C, вам нужно будет пройти явные указатели или адреса, такие как:

void trans(double x, double y, double theta, double* m, double* n)
{
    *m=cos(theta)*x+sin(theta)*y;
    *n=-sin(theta)*x+cos(theta)*y;
}

int main()
{
    /* ... */
    /* have to use an ampersand to explicitly pass address */
    trans(center_x, center_y, angle, &xc, &yc);
    /* ... */
}

Я бы рекомендовал проверить запись C ++ FAQ Lite в ссылках для получения дополнительной информации о том, как правильно использовать ссылки.