Anzeige:
Ergebnis 1 bis 5 von 5

Thema: Kommazahlen, Rundungsfehler bei FLOAT, warum wenn es glatt aufgeht.

  1. #1
    Registrierter Benutzer
    Registriert seit
    21.09.2003
    Ort
    nähe Münster
    Beiträge
    76

    Kommazahlen, Rundungsfehler bei FLOAT, warum wenn es glatt aufgeht.

    Hallo Leute,

    als Nichtinformatiker finde ich es seltsam das 3 * 1,1 bei einem Dezimal Typ 3,3 rauskommt, aber wenn die Zahlen als FLAOT gespeichert sind, die gleiche Rechnung 3.3000000715255737 oder ähnliches ergibt.

    Mir ist klar das FLOAT begrenzt ist und das ist auch gut so und das es darum zu Rundungsfehlern kommen muss. Aber wieso kommt es bei so einer glatten Rechnung zu zu dieser Art Fehler?

    Gruss Gutschy
    hold on.

  2. #2
    Registrierter Benutzer Avatar von sommerfee
    Registriert seit
    02.07.2006
    Beiträge
    1.604
    0,1 und damit auch 1,1 sind binär keine "glatten Zahlen" (0,1 dezimal = 0,0001100110011... binär) , und damit ist 3 * 1,1 auch keine "glatte Rechnung" für den Prozessor.

    Zitat Zitat von Wikipedia
    Durch die unterschiedliche binäre Darstellung der Zahlen kann es in beiden Systemen zu Artefakten kommen. Das heißt: (rationale) Zahlen, die im Dezimalsystem „rund“ erscheinen, zum Beispiel \textstyle \frac{249}{20} = 12{,}45, können im Binärsystem nicht exakt dargestellt werden (der Wert ist 1100{,}01\overline{1100}_2). Stattdessen wird ihre Binärdarstellung im Rahmen der jeweiligen Rechengenauigkeit gerundet, so dass man bei der Rückumwandlung ins Dezimalsystem z. B. den Wert 12,44999999900468785 erhält. Dieses kann in nachfolgenden Berechnungen zu unvorhergesehenen Ab- oder Aufrundungsfehlern führen.
    Quelle: http://de.wikipedia.org/wiki/Gleitkommazahl

  3. #3
    Registrierter Benutzer
    Registriert seit
    21.09.2003
    Ort
    nähe Münster
    Beiträge
    76
    Ach so.

    Danke für die Info Sommerfee.
    hold on.

  4. #4
    Registrierter Benutzer
    Registriert seit
    17.01.2014
    Beiträge
    1
    hatte das gleiche Problem. Guter Tipp Sommerfee

  5. #5
    Registrierter Benutzer
    Registriert seit
    26.02.2015
    Beiträge
    14

    Kommazahlen Rundungsfehler bei FLOAT warum wenn es glatt aufgeht

    wenn das Problem ausschließlich bei Temperatur auftritt, würd ich zuerst mal die Sensorik überprüfen.. Mechanik kannst im Grunde ausschließen.

Lesezeichen

Berechtigungen

  • Neue Themen erstellen: Nein
  • Themen beantworten: Nein
  • Anhänge hochladen: Nein
  • Beiträge bearbeiten: Nein
  •