Dezimaldarstellung -> 32 bit Fließkommazahl

Hier sollen alle kleinen Minilösungen und sonstiges Nützliches hinein

Moderator: herw

Dezimaldarstellung -> 32 bit Fließkommazahl

Beitragvon herw » So 29. Dez 2013, 08:20

Für mathematisch Interessierte:
Beim Berechnen von Potenzen benutzt REAKTOR 5.9.0 die Logarithmus- und die Exponentialfunktionen mit 32bit-Darstellung.
Wenn man an die Rechengenauigkeit von REAKTOR herankommt, dann kann es zu unerwarteten Ergebnissen kommen, wenn man berücksichtigen muss, dass jede dazwischen geschaltete Rechenoperationen zwangsläufig zu weiteren Rundungsfehlern führt.
Mir ist es in meinem Projekt HÜLLKURVEN passiert, wo ich zum Beispiel die Zahl 2^2,26758E-7 berechnen lassen musste. REAKTOR und auch mein Taschenrechner TI-nspire CX CAS bekamen 1 heraus. Excel dagegen 1,000000157177… .
Ich habe daraufhin mal ein wenig recherchiert und kann hier zwei interessante Links angeben:

Zunächst mal ist immer eine gute Anlaufstelle in diesen Dingen Wikipedia:
IEEE 754 beschreibt sehr verständlich, wie man Dezimalzahlen in die Fließkommadarstellung „zu Fuß” umrechnet. Dort führt ein Link zu einem interessanten Applet IEEE 754 Umrechner, mit dem man sich sehr anschaulich Dezimalzahlen in 32 bit floats darstellen lassen kann:

IEEE 754 Umrechner.jpg
IEEE 754 Umrechner.jpg (63.46 KiB) 1692-mal betrachtet

ciao herw
Benutzeravatar
herw
moderator
 
Beiträge: 3043
Registriert: Mo 13. Mär 2006, 19:28
Wohnort: Dortmund

Zurück zu FUNDGRUBE

Wer ist online?

Mitglieder in diesem Forum: 0 Mitglieder und 1 Gast

cron