double-precision

1La chaleur

1Répondre

Matlab: Stockage grand nombre dans Matlab

Pour stocker un grand nombre, je me réfère à la suivante: 2.7182818284590455348848081484902650117874145507812500 Je ne peux pas sauver ce avec double precision floating-point format (IEEE754) Merci.

matlab floating-point precision double-precision 2010-11-19

---

2La chaleur

1Répondre

soustraction d'entier double précision avec registres 32 bits (MIPS)

J'apprends l'arithmétique des ordinateurs. Le livre que j'utilise (Patterson et Hennessey) énumère la question ci-dessous. Ecrire code mips pour conduire à double soustraction entier de précision pour

mips unsigned signed integer-overflow double-precision 2010-10-15

---

29La chaleur

2Répondre

Est-ce que JavaScript a une double précision de nombre à virgule flottante?

Je sais que c'est une question étrange, mais est-ce que JavaScript a la capacité de travailler avec des doubles plutôt que des flotteurs simples? (Flottants 64 bits vs. 32 bits.)

javascript floating-point numerical double-precision 2010-08-31

---

4La chaleur

1Répondre

NSDate et double problème de précision

Voici le code NSDate* d = [NSDate dateWithTimeIntervalSince1970:32.4560]; double ti = [d timeIntervalSince1970]; NSLog(@"Interval: %f %f %f %f",ti,32.4560,ti*1000.0,32.4560*1000.0); la sortie est

objective-c nsdate double-precision 2010-12-16

---