Если вы хотите увидеть, как растеризатор (то, что отображает полигоны на экране) реализован в программном обеспечении, следуйте совету Эрика и попробуйте mesa3d или «растеризатор» Google.
Если вы хотите увидеть, как растеризатор реализован на оборудовании, боюсь, единственное, к чему вы можете получить доступ, это фотография кристалла графического процессора .
Если вы хотите увидеть, как устроен 3D-движок, взгляните на Ogre, Irrlicht или любой другой.
Если вы хотите знать, что происходит под капотом, когда вы вызываете glDrawArray на geForce, вы не можете. Драйвера проприетарные. Они более или менее перенаправляют вызов на графическую карту, но это такое упрощение ... например, типичный вызов DirectX требует более 10000 инструкций процессора.