У меня проблема с написанным мной методом SSE, который выполняет обработку звука. Я реализовал случайную функцию SSE на основе статьи Intel здесь:
У меня также есть метод, который выполняет преобразования из Float в S16, используя SSE, преобразование выполняется довольно просто следующим образом:
unsigned int Float_S16LE(float *data, const unsigned int samples, uint8_t *dest)
{
int16_t *dst = (int16_t*)dest;
const __m128 mul = _mm_set_ps1((float)INT16_MAX);
__m128 rand;
const uint32_t even = count & ~0x3;
for(uint32_t i = 0; i < even; i += 4, data += 4, dst += 4)
{
/* random round to dither */
FloatRand4(-0.5f, 0.5f, NULL, &rand);
__m128 rmul = _mm_add_ps(mul, rand);
__m128 in = _mm_mul_ps(_mm_load_ps(data),rmul);
__m64 con = _mm_cvtps_pi16(in);
memcpy(dst, &con, sizeof(int16_t) * 4);
}
}
FloatRand4 определяется следующим образом:
static inline void FloatRand4(const float min, const float max, float result[4], __m128 *sseresult = NULL)
{
const float delta = (max - min) / 2.0f;
const float factor = delta / (float)INT32_MAX;
...
}
Если sseresult != NULL
возвращается __m128
результат, а result
не используется.
Это прекрасно работает в первом цикле, но в следующем цикле delta
становится -1.#INF
вместо 1.0
. Если я закомментирую строку __m64 con = _mm_cvtps_pi16(in);
, проблема исчезает.
Я думаю, что FPU попадает в неизвестное состояние или что-то в этом роде.