Sqlserver
 sql >> Datenbank >  >> RDS >> Sqlserver

Berechnung des SQL Server-Float-Datentyps im Vergleich zur Dezimalzahl

Float ist auf 15 signifikante Stellen genau nur (in SQL Server).

Dies wird durch 1.52415693411713 E+17 demonstriert wobei 1.52415693411713 (15 Ziffern) ist so genau wie möglich. Das letzte 020... nach 152415693411713 mit STR ist erfunden ist die Auflösung von Fließkommazahlen

Verwenden Sie Float nicht, um die Genauigkeit beizubehalten. So einfach ist das. CAST in Dezimalzahl, wenn Sie für die Berechnung wollen, aber wenn Sie zurück zu Float CAST, sind Sie auf 15 Stellen beschränkt

Siehe "Was jeder Informatiker über Gleitkommaarithmetik wissen sollte". "