Re: Zahlendreher

"Sebastian Baechle" skribis:

> > Ich wundere mich *nicht* darüber, dass es eine Ungenauigkeit gibt, und
> > erst "d=0.05" und dann "d=0.050000004" ausgegeben wird. Ich wundere
> > mich, dass bei kontinuierlich *steigendem* "Eingabewert" erst (logisch)
> > "d=0.05", dann (logisch) "d=0.050000004 und dann wieder (IMHO nicht mehr
> > logisch) "d=0.05" ausgegeben wird.
>
> Weil es für dich kontinuierlich ist, aber nicht für den Rechner. Du
> sagst, du änderst nur die 9 Nachkommastelle und schon "verrechnet"
> sich der Computer. Allerdings ist ein Schritt in einer 10er Potenz
> nichts kontinuierliches und für die Rechnerdarstellung erst recht
> nicht zutreffend.

"Kontinuierlich" ist das falsche Wort.
"Monoton" wäre hier wohl besser ...

Wenn die Eingabe monoton steigt, sollte eigentlich auch
die Ausgabe monoton steigen.

Hier steigt sie erst und sinkt dann wieder ...


Ich habe auch keine Erklärung für das Phänomen -
allerdings haben wir es ja schon eingegrenzt:
Es liegt an der Interpretation der Literale, nicht
an der Ausgabe.


Paul
--
Zitieren im Usenet: http://einklich.net/usenet/zitier.htm
Warum Realnamen: http://www.wschmidhuber.de/realname/
.