Start » Community » Forum » Themen » Offtopic - Plauderecke » Computer rechnet falsch

Thema: Computer rechnet falsch

Missing_mini

Gelöschter Benutzer Erstellt am Mi 10.02.2010
Probier mal in EXCEL:
90,1-90
Klar, kann ich im Kopf, kommt 0,1 raus.
Der Computer ist anderer Meinung:
0,0999999999999943
Zugegeben, der Fehler ist minimal. Er führte aber zu seltsamen Ergebnissen bei der Umrechnung von Winkelgrad Dezimalzahl in Grad, Minuten, Sekunden. Beispiel: 90 Grad, 5 Minuten, 60 Sekunden anstatt 90 Grad, 6 Minuten, 0 Sekunden.
Abhilfe: Ab der zehnten Nachkommastelle wird gerundet, schon stimmt´s.


Thema melden
Zitieren

Offline

suzi1 Erstellt am Do 11.02.2010
>>>wer braucht schon die 14. Nachkommastelle?
Zitieren

Offline

Ductreiber Erstellt am Do 11.02.2010
Das gab es mal, vor vielen Jahren, da hat sich ein Banangestellter alle Beträge ab der 4ten Nachkommastelle auf sein Konto überwiesen und hatten dann irgendwann Millionen auffem Konto ist aber durch eigene Dummheit aufgeflogen damals...
Zitieren

Missing_mini

Gelöschter Benutzer Erstellt am Do 11.02.2010
>für die Jüngeren unter uns, welche nur noch mit Taschenrechnern aufgewachsen sind:
ein Rechenschieber war ein Hilfmittel zur Bewältugung von Rechenaufgaben.
Zitieren

Missing_mini

Gelöschter Benutzer Erstellt am Do 11.02.2010
Der hatte Bruchteile von Pfenningen nicht korrekt gerundet (unter 0,5 abrunden, 0,5 und mehr aufrunden) sondern immer abgerundet. Da hatte sich eine Menge Geld angesammelt. Keiner wird sich bei der Bank beschweren wenn ein halber Pfennig auf dem Konto fehlt!
Ich nehme an die Bank-Computer besitzen spezielle Rechenprozessoren, die rechnen nicht nur 15 Stellen sondern wesentlich mehr. Das ergibt eine höhere Genauigkeit.
Übrigens, es gibt Zahlen die kann man gar nicht exakt darstellen. Weder als Dezimalzahl noch als Dualzahl. So die Zahl 1/3. Im Dezimalsystem ist das 0,3333333.... Diese Periode geht unendlich weiter. Im Dualsystem entsprechen 0,0101010101.... Da kommen die winzigen Ungenauigkeiten her!
Zitieren

Missing_mini

Gelöschter Benutzer Erstellt am Do 11.02.2010
Der altehrwürdige Rechenschieber hatte den Vorteil: man war gezwungen mitzudenken. Bei einem Taschenrechner tippt man ein und vertraut dem angezeigten Ergebnis blind. Übrigens, EXCEL kann auch farbig drucken!
Zitieren

Offline

suzi1 Erstellt am Do 11.02.2010
"Rechenschieber"???
Ich kenne das Ding noch als "Lügenholz".
Zumindest wurde das so bei uns benannt.
Zitieren

Missing_mini

Gelöschter Benutzer Erstellt am Do 11.02.2010
*ggg* =o)) DANKE FÜR DEN TIPP!!!! =o)) *ggg*
Zitieren

Offline

Mopedjeck Erstellt am Do 11.02.2010
"ein Rechenschieber war ein Hilfsmittel zur Bewältigung von Rechenaufgaben."
Ach, ich dachte das wäre das scheiben des Aufgabenblattes bei der Klausur, zum Tischnachbarn ;o)
Von Hand rechnen?
Wozu hat man einen Rechner, der massenweise Energie zum Rechnen verbraucht, zudem noch alle Daten hat? Wenn mann die Daten vom Schirm abliest, in einen zusätzlichen Rechner eintippt und das Ergebnis zurückträgt.
Du lebst das ganze Jahr in der fünften Jahreszeit Bazi?
HiHi, schick eine Excel Tabelle in das Word Dokument einbauen, damit sind sämtliche Funktionen im Word.
Zitieren

Missing_mini

Gelöschter Benutzer Erstellt am Do 11.02.2010
Hi du Jeck!
=o)

>HiHi, schick eine Excel Tabelle in das Word Dokument einbauen, damit sind sämtliche Funktionen im Word.
Zitieren

Offline

Mopedjeck Erstellt am Do 11.02.2010
Ich verarsche doch niemanden!
Schon gar keine Bazis! Nicht den ersten, auch nicht den 2ten und auch nicht den 42ten.
;)
Mach das mal mit der Tabelle. Klappt prima.
Der einzige Hemmschuh ist, die Tabelle muss per Doppelklick geöffnet werden.
Zitieren
[Anzeige]