Mysql
 sql >> Datenbank >  >> RDS >> Mysql

MySql FLOAT-Datentyp und Probleme mit mehr als 7-stelliger Skala

Gesicht Palme!!!!

Gleitkommazahlen sind 32-Bit-Zahlen, die als Mantisse und Exponent gespeichert werden. Ich bin mir nicht 100% sicher, wie MySql den Speicher aufteilen wird, aber am Beispiel von Java würden sie 24 Bit für eine vorzeichenbehaftete Mantisse und 8 Bit für einen Exponenten (wissenschaftliche Notation) verwenden. Das bedeutet, dass der maximale Wert, den ein FLOAT haben kann, +8388608*10^127 und der minimale Wert -8388608*10^127 ist. Das bedeutet nur 7 signifikante Ziffern, und meine FLOAT-Definition verwendete 8.

Wir werden alle diese 8,2 von FLOAT auf DOUBLE umstellen.