Kommazahlen, Rundungsfehler bei FLOAT, warum wenn es glatt aufgeht.
Hallo Leute,
als Nichtinformatiker finde ich es seltsam das 3 * 1,1 bei einem Dezimal Typ 3,3 rauskommt, aber wenn die Zahlen als FLAOT gespeichert sind, die gleiche Rechnung 3.3000000715255737 oder ähnliches ergibt.
Mir ist klar das FLOAT begrenzt ist und das ist auch gut so und das es darum zu Rundungsfehlern kommen muss. Aber wieso kommt es bei so einer glatten Rechnung zu zu dieser Art Fehler?
Gruss Gutschy
Kommazahlen Rundungsfehler bei FLOAT warum wenn es glatt aufgeht
wenn das Problem ausschließlich bei Temperatur auftritt, würd ich zuerst mal die Sensorik überprüfen.. Mechanik kannst im Grunde ausschließen.