Почему GCC не оптимизирует a * a * a * a * a * a до (a * a * a) * (a * a * a)?

Вы получаете эти ошибки, потому что вы не связываетесь с библиотекой GFWL или не связываетесь с ней правильно. Эта библиотека содержит определения для функций, которые вы пытаетесь вызвать.

В разделе 4.2 файла readme GFWL объясняется, какие библиотеки следует использовать при связывании; если вы статически привязываетесь (похоже, что вы есть) или используете DLL, нужные шаги будут разными.