Vorheriges Thema anzeigen :: Nächstes Thema anzeigen |
Autor |
Nachricht |
Flo aka kleiner_hacker
Anmeldungsdatum: 23.06.2006 Beiträge: 1210
|
Verfasst am: 19.10.2007, 15:58 Titel: 10.2-fix(10.2)=0.19999999999999? Warum? |
|
|
moins
ich hab ein qb programm, dass von einer zahl die nachkommastellen abschneiden soll
ich hab eine singlevariable a
wenn ich das mit nachkomma=a-fix(a) mache, kommt manchmal die echte nachkommaanzahl raus, manchmal aber auch ein fehler von plusminus 0,00000001...
warum/wie verhindere ich das?
mom. hab icjh mir durch nachkomma=cint(nachkomma*10)/10 geholfen (runden) aber das ist ja nicht so das wahre... _________________ MFG
Flo
Satoru Iwata: Wer Spaß am Spielen hat, fragt nicht nach Grafik.
zum korrekten Verstaendnis meiner Beitraege ist die regelmaessige Wartung des Ironiedetektors unerlaesslich. |
|
Nach oben |
|
 |
MisterD

Anmeldungsdatum: 10.09.2004 Beiträge: 3071 Wohnort: bei Darmstadt
|
Verfasst am: 19.10.2007, 16:36 Titel: |
|
|
Gleitkommazahlen, kannst du nicht verhindern solange du single/double variablen benutzt und bei allem anderen außer integers stirbst du an geschwindigkeitsnachteil. wenn du nicht viel rechnen musst kannst du natürlich deine eigenen rechenfunktionen auf arrays basierend machen oder so, aber das ist n gutes stück arbeit. _________________ "It is practically impossible to teach good programming to students that have had a prior exposure to BASIC: as potential programmers they are mentally mutilated beyond hope of regeneration."
Edsger W. Dijkstra |
|
Nach oben |
|
 |
dreael Administrator

Anmeldungsdatum: 10.09.2004 Beiträge: 2529 Wohnort: Hofen SH (Schweiz)
|
|
Nach oben |
|
 |
|