SSE intrinsics cause normal float operation to return -1.#INV

У меня проблема с написанным мной методом SSE, который выполняет обработку звука. Я реализовал случайную функцию SSE на основе статьи Intel здесь:

http://software.intel.com/en-us/articles/fast-random-number-generator-on-the-intel-pentiumr-4-processor/

У меня также есть метод, который выполняет преобразования из Float в S16, используя SSE, преобразование выполняется довольно просто следующим образом:

unsigned int Float_S16LE(float *data, const unsigned int samples, uint8_t *dest)
{
  int16_t *dst = (int16_t*)dest;
  const __m128 mul = _mm_set_ps1((float)INT16_MAX);
   __m128 rand;
  const uint32_t even = count & ~0x3;
  for(uint32_t i = 0; i < even; i += 4, data += 4, dst += 4)
  {
    /* random round to dither */
    FloatRand4(-0.5f, 0.5f, NULL, &rand);

    __m128 rmul = _mm_add_ps(mul, rand);
    __m128 in = _mm_mul_ps(_mm_load_ps(data),rmul);
    __m64 con = _mm_cvtps_pi16(in);

    memcpy(dst, &con, sizeof(int16_t) * 4);
  }
}

FloatRand4 определяется следующим образом:

static inline void FloatRand4(const float min, const float max, float result[4], __m128 *sseresult = NULL)
{
  const float delta  = (max - min) / 2.0f;
  const float factor = delta / (float)INT32_MAX;
  ...
}

Если sseresult != NULL возвращается __m128 результат, а result не используется. Это прекрасно работает в первом цикле, но в следующем цикле delta становится -1.#INF вместо 1.0. Если я закомментирую строку __m64 con = _mm_cvtps_pi16(in);, проблема исчезает.

Я думаю, что FPU попадает в неизвестное состояние или что-то в этом роде.

7
задан Altaaf 29 January 2012 в 10:59
поделиться