Das deutsche QBasic- und FreeBASIC-Forum

Nils · Anmeldungsdatum: 24.03.2006 Beiträge: 191

Guten Abend Gemeinde!

Bei der Rechnung cos(90*pi/180) ergibt sich -4,371139E-08. statt Null.
Pi errechne ich mit 4*ATN(1).

Wie bringe ich den Wert auf Null, ohne die Ungenauigkeit zB durch eine Definitionsgleichung abzufangen?

grüsse Nils
_________________
Kontrolliert die Politik! Laßt nicht die Politik Euch kontrollieren! Das sind Eure Angestellten! Lasst Sie das spüren!!!

nemored · Anmeldungsdatum: 22.02.2007 Beiträge: 4710 Wohnort: ~/

Ohne die Ungenauigkeit abzufangen - gar nicht. Das ginge höchstens mit symbolischen Rechnen.
FreeBASIC rechnet nun einmal, so wie die meisten Programmiersprachen, mit Gleitkommazahlen und den damit verbundenen Rundungsgenauigkeiten. Dein eingesetzter Wert 4*ATN(4) ist ja bereits nicht mehr PI, sondern ein auf 15 Stellen (oder so) gerundeter Wert.
_________________
Deine Chance beträgt 1:1000. Also musst du folgendes tun: Vergiss die 1000 und konzentriere dich auf die 1.

Jojo · Verfasst am: 27.01.2016, 20:27 Titel:

Du darfst bei Gleitkommazahlen keine genauen Ergebnisse erwarten. Zunächst hilft mal, Double- statt Single-Variablen zu verwenden, um die Genauigkeit zu erhöhen. Als nächstes gibt es zwei Dinge zu beachten:

1) Nicht auf exakte Werte prüfen.
Du willst prüfen ob das Ergebnis genau 0 ist?

dreael · Verfasst am: 27.01.2016, 22:01 Titel:

Artikel aus meiner Sammlung:

http://www.dreael.ch/Deutsch/BASIC-Knowhow-Ecke/Gleitkommazahlen.html

Gilt aber für so ziemlich alle Programmiersprachen und Compiler. Ausgenommen wäre höchstens eine Zahlenklasse (an Maple denken!), welche intern alles als algebraische Ausdrücke darstellt.

Aber reguläre Fliesskommazahlen für den (bei den heuten CPUs integrierten) mathematischen Coprozessor verwenden alle IEEE 754 als interne Darstellung, womit zwangsweise die von Dir beobachteten Effekte entstehen.
_________________
Teste die PC-Sicherheit mit www.sec-check.net

Nils · Anmeldungsdatum: 24.03.2006 Beiträge: 191

@ alle:

Danke für Eure Beiträge.
Habe schon befürchtet, dass da wenig zu machen ist.
Werde den Fehler also abfangen und das Ergebnis einfach als Null definieren.

grüsse Nils
_________________
Kontrolliert die Politik! Laßt nicht die Politik Euch kontrollieren! Das sind Eure Angestellten! Lasst Sie das spüren!!!

dreael · Verfasst am: 29.01.2016, 09:05 Titel:

Ich würde an Deiner Stelle eine Art ungefähr-Gleich definieren. Also statt