Mysql
 sql >> Datenbank >  >> RDS >> Mysql

MySQL-Dezimal- und Tinyint-Multiplikationspräzision

Ich glaube, es gibt keinen genauen Verlust, wenn Dezimalzahl mit Ganzzahl multipliziert wird. Siehe Beispiele für Präzisionsmathematik . Ich habe auch ein kleines Experiment durchgeführt, um den Unterschied zwischen Fließkomma und Dezimalzahl zu sehen:

SELECT .1E0 * .1E0, 
       .1 * .1, 
       (.1E0 * .1E0) * 10, 
       (.1 * .1) * 10

Die Ausgabe ist

0.010000000000000002          << .1E0 * .1E0
0.01                          << .1 * .1
0.10000000000000002           << (.1E0 * .1E0) * 10
0.10                          << (.1 * .1) * 10