T-SQL / SQL Server: округление после преобразования (десятичное) SqlCommand

Концепция интервальной нотации появляется в как , так и в области математики и информатики. Математическая нотация [, ], (, ) обозначает область (или диапазон ) интервала.

  • Скобки [ и ] означают: число включено, эта сторона интервала закрыта ,
  • Скобки ( и ) означает: число исключено. Эта сторона интервала открыта .

Интервал со смешанными состояниями называется «полуоткрытым» .

Например, диапазон последовательных целых чисел из 1 .. 10 (включительно) было бы обозначено как таковое:

  • [1,10]

Обратите внимание, как слово inclusive был использован. Если мы хотим исключить конечную точку, но «накрыть» тот же диапазон, нам нужно переместить конечную точку:

  • [1,11)

Для левого и правого краев интервала есть фактически 4 перестановки:

(1,10) =   2,3,4,5,6,7,8,9       Set has  8 elements
(1,10] =   2,3,4,5,6,7,8,9,10    Set has  9 elements
[1,10) = 1,2,3,4,5,6,7,8,9       Set has  9 elements
[1,10] = 1,2,3,4,5,6,7,8,9,10    Set has 10 elements

Как это относится к математике и информатике?

Массив индексы имеют тенденцию использовать различное смещение в зависимости от того, в каком поле вы находитесь:

  • Математика имеет тенденцию быть на одном .
  • Некоторые языки программирования имеют тенденцию быть ноль , такие как C, C ++, Javascript, Python, тогда как другие языки, такие как Mathematica, Fortran, Pascal, основаны на одном.

Эти различия могут приводить к ошибкам после ошибки после ошибки , aka, by-one при реализации математических алгоритмов, таких как -lops.

Целые числа

Если у нас есть набор или массив, скажем, о первых нескольких простых числах [ 2, 3, 5, 7, 11, 13, 17, 19, 23, 29 ], математики ссылались бы на первый элемент как на 1st absolute . т.е. используя индексную нотацию для обозначения индекса:

  • a1 = 2
  • a2 = 3
  • :
  • a10 = 29

Некоторые языки программирования, в противоположность этому, относятся к первому элементу как к элементу zero'th относительного .

  • a [0] = 2
  • a [1] = 3
  • :
  • a [9] = 29

Поскольку индексы массива находятся в диапазоне [0, N-1], тогда для ясности было бы «приятно» сохранить то же числовое значение для диапазона 0 .. N вместо добавления текстового шума такой как смещение -1.

Например, на C или JavaScript для итерации по массиву из N элементов программист должен написать общую идиому i = 0, i < N с интервалом [0, N) вместо немного более подробных [0, N-1]:

function main() {
    var output = "";
    var a = [ 2, 3, 5, 7,  11, 13, 17, 19, 23, 29 ];
    for( var i = 0; i < 10; i++ ) // [0,10)
       output += "[" + i + "]: " + a[i] + "\n";

    if (typeof window === 'undefined') // Node command line
        console.log( output )
    else
        document.getElementById('output1').innerHTML = output;
}
 
     
         

     
 

Математики, так как они начинают отсчет с 1, вместо этого будет использовать номенклатуру i = 1, i <= N, но теперь нам нужно исправить смещение массива на языке с нулевым значением.

e. g.

function main() {
    var output = "";
    var a = [ 2, 3, 5, 7,  11, 13, 17, 19, 23, 29 ];
    for( var i = 1; i <= 10; i++ ) // [1,10]
       output += "[" + i + "]: " + a[i-1] + "\n";

    if (typeof window === 'undefined') // Node command line
        console.log( output )
    else
        document.getElementById( "output2" ).innerHTML = output;
}

    
        

    

Помимо:

В языках программирования, основанных на 0, может потребоваться kludge фиктивного нулевого элемента использовать математический 1-основанный алгоритм. например Python Index Start

Плавающая точка

Интервальная нотация также важна для чисел с плавающей запятой, чтобы избежать тонких ошибок.

Когда занимающихся числами с плавающей запятой, особенно в компьютерной графике (цветовое преобразование, вычислительная геометрия, ускорение / смешивание анимации и т. д.) часто используются нормированные числа. То есть цифры между 0.0 и 1.0.

Важно знать случаи кросс, если конечные точки включительно или exclusive :

  • (0,1) = 1e-M .. 0,999 ...
  • (0,1] = 1e-M .. 1,0
  • [0, 1) = 0.0 .. 0.999 ...
  • [0,1] = 0,0 .. 1,0

Где M - некоторая машина epsilon . Вот почему вы иногда можете видеть икону const float EPSILON = 1e-# в коде C (например, 1e-6) для 32-битного числа с плавающей запятой. Этот вопрос SO Обеспечивает ли EPSILON что-нибудь? имеет некоторые предварительные данные. Более подробный ответ см. В FLT_EPSILON и книге Дэвида Голдберга . Что каждый компьютерный ученый должен знать о арифметике с плавающей точкой

. Некоторые реализации генератора случайных чисел random() могут создавать значения в диапазоне 0.0 .. 0.999 ... вместо более удобного 0.0 .. 1.0. Правильные комментарии в коде будут документировать это как [0.0,1.0) или [0.0,1.0], поэтому нет никакой двусмысленности в отношении использования.

Пример:

  • Вы хотите генерировать цвета random(). Вы конвертируете три значения с плавающей запятой в 8-битные значения без знака для создания 24-битного пикселя с красными, зелеными и синими каналами соответственно. В зависимости от выходного интервала random() вы можете получить near-white (254,254,254) или white (255,255,255).

+--------+-----+ |random()|Byte | |--------|-----| |0.999...| 254 | <-- error introduced |1.0 | 255 | +--------+-----+

Для более подробная информация о точности и надежности с плавающей точкой с интервалами см. в Обнаружение столкновений в режиме реального времени в режиме реального времени , глава 11 Численная устойчивость , раздел 11.3 Надежное использование точек с плавающей запятой .

1
задан marc_s 18 January 2019 в 17:00
поделиться

2 ответа

Я считаю, что вы можете использовать ROUND ( numeric_expression , length [ ,function ] ) или SELECT ROUND(CAST (# AS decimal (#,#)),#); для округления десятичной дроби.

Вот больше информации об этом: https://docs.microsoft.com/en-us/sql/t-sql/functions/round-transact-sql?view=sql-server- 2017

0
ответ дан Xion 18 January 2019 в 17:00
поделиться

У вас будет небольшая проблема потери данных, если вы захотите использовать только два знака после запятой. Вам понадобится как минимум 5 десятичных знаков для значений от 1 до 2 000 000

Пример

Declare @YourTable table (Col3 float)
Insert into @YourTable values 
 (1),(1536),(1000000),(2000000)

Select A.*
      ,NewVal = convert(decimal(10,2), (Col3*100.0) /  ( Select max(Col3) from @YourTable)  )
 From  @YourTable A

Возвращает

Col3     NewVal
1        0.00     -- At decimal(10,5) you would see 0.00005
1536     0.08
1000000  50.00
2000000  100.00
0
ответ дан John Cappelletti 18 January 2019 в 17:00
поделиться
Другие вопросы по тегам:

Похожие вопросы: