Выбор объекта с помощью преобразования лучей

У меня возникла проблема с неточностями в моем алгоритме преобразования лучей для обнаружения попаданий мыши в поле. Я совершенно не понимаю, как это исправить, и это беспокоило меня в течение нескольких недель.

Проблему проще всего описать с помощью картинки (прямоугольник с центром вокруг [0, 0, -30]):

Черные линии представляют фактический хитбокс, который нарисован, а зеленый прямоугольник представляет то, что на самом деле кажется пораженным. Обратите внимание на его смещение (которое, кажется, увеличивается, если поле находится дальше от начала координат), и немного меньше, чем нарисованный хитбокс.

Вот соответствующий код,

приведение луча:

double BBox::checkFaceIntersection(Vector3 points[4], Vector3 normal, Ray3 ray) {

    double rayDotNorm = ray.direction.dot(normal);
    if(rayDotNorm == 0) return -1;

    Vector3 intersect = points[0] - ray.origin;
    double t = intersect.dot(normal) / rayDotNorm;
    if(t < 0) return -1;

    // Check if first point is from under or below polygon
    bool positive = false;
    double firstPtDot = ray.direction.dot( (ray.origin - points[0]).cross(ray.origin - points[1]) );
    if(firstPtDot > 0) positive = true;
    else if(firstPtDot < 0) positive = false;
    else return -1;

    // Check all signs are the same
    for(int i = 1; i < 4; i++) {
        int nextPoint = (i+1) % 4;
        double rayDotPt = ray.direction.dot( (ray.origin - points[i]).cross(ray.origin - points[nextPoint]) );
        if(positive && rayDotPt < 0) {
            return -1;
        }
        else if(!positive && rayDotPt > 0) {
            return -1;
        }
    }

    return t;
}

мышь в луч:

GLint viewport[4];
GLdouble modelMatrix[16];
GLdouble projectionMatrix[16];

glGetIntegerv(GL_VIEWPORT, viewport);
glGetDoublev(GL_MODELVIEW_MATRIX, modelMatrix);
glGetDoublev(GL_PROJECTION_MATRIX, projectionMatrix);

GLfloat winY = GLfloat(viewport[3] - mouse_y);

Ray3 ray;
double x, y, z;
gluUnProject( (double) mouse_x, winY, 0.0f, // Near
              modelMatrix, projectionMatrix, viewport,
              &x, &y, &z );
ray.origin = Vector3(x, y, z);

gluUnProject( (double) mouse_x, winY, 1.0f, // Far
              modelMatrix, projectionMatrix, viewport,
          &x, &y, &z );
ray.direction = Vector3(x, y, z);

if(bbox.checkBoxIntersection(ray) != -1) {
    std::cout << "Hit!" << std::endl;
}

Я пробовал нарисовать настоящий луч в виде линии, и кажется, что он правильно пересекает нарисованный прямоугольник.

У меня проблема смещения была частично решена путем вычеркивания всех точек и начала / направления луча по положению боксов, но я понятия не имею, почему это сработало, и размер хитбокса все еще оставался неточным.

Есть идеи / альтернативные подходы? У меня есть другой код, который я могу предоставить, если он нужен.