floating-accuracy

0La chaleur

3Répondre

Division d'un double avec entier

Je suis confronté à un problème en divisant un double par un int. Extrait de code est: double db = 10; int fac = 100; double res = db/fac; La valeur de résolution est 0.10000000000000001 a

c floating-point precision floating-accuracy 2010-06-16

---

2La chaleur

4Répondre

Comment contourner certaines erreurs d'arrondi?

J'ai une méthode qui traite de certaines coordonnées géographiques dans .NET, et j'ai une structure qui stocke une paire de coordonnées de sorte que si 256 est passé pour l'une des coordonnées, il dev

math floating-point double floating-accuracy epsilon 2010-06-23

---

0La chaleur

2Répondre

La fonction pow() de C selon le fichier d'en-tête <math.h> ne fonctionne pas correctement

Je vois que pour le code suivant produit le résultat ci-dessous, une idée sur pourquoi la sortie est comme ça? #include <stdio.h> #include <math.h> int main() { int i = 0; for(i = 0; i <

c floating-accuracy 2010-08-18

---

3La chaleur

7Répondre

Arrondi dans PHP

$a = ((0.1 + 0.7) * 10) == (int)((0.1 + 0.7) * 10); PHP renvoie la valeur false. Quelqu'un pourrait-il m'expliquer pourquoi cela se produit? rendements 8 premiers, deuxièmes 7.

php floating-point floating-accuracy 2010-08-18

---

0La chaleur

2Répondre

Prendre logarithmes des nombres relativement petites dans différentes langues/architectures/systèmes d'exploitation

En Java je lance: System.out.println(Math.log(249.0/251.0)); Sortie: -0,008000042667076265 En C# je lance: < - fixe Math.Log (x/y); \\where x, y are almost assuredly 249.0 and 251.0 respectively S

c# java floating-accuracy 2010-07-02

---

1La chaleur

2Répondre

Comment la précision décimale de Python se compare-t-elle à celle de C?

Je regardais le Golden Ratio formula pour trouver le nième numéro de Fibonacci, et cela m'a rendu curieux. Je sais que Python gère arbitrairement de grands entiers, mais quelle précision obtenez-vous

python c programming-languages floating-accuracy language-implementation 2010-07-08

---

6La chaleur

4Répondre

Détection de la perte de précision lors de la conversion du double en flottant

J'écris un morceau de code dans lequel je dois convertir des valeurs doubles en valeurs flottantes. J'utilise boost :: numeric_cast pour faire cette conversion qui m'avertit de tout débordement/sous-d

c++ floating-point rounding floating-accuracy rounding-error 2010-07-13

---

6La chaleur

2Répondre

Perl opérateur modulo question

Pourquoi le premier exemple imprime-t-il un mauvais résultat? perl -le 'print $x = 100*1.15 % 5' 4 perl -le 'print $x = 1000*1.15 % 5' 0

perl floating-point floating-accuracy 2010-07-26

---

10La chaleur

4Répondre

nombre flottant python

je suis un peu confus pourquoi python ajouter un nombre décimal supplémentaire dans ce cas, s'il vous plaît aider à expliquer >>> mylist = ["list item 1", 2, 3.14] >>> print mylist ['list item 1', 2,

python floating-point numerical floating-accuracy 2010-06-06

---

2La chaleur

2Répondre

Objective C Math Formula Fail

noob veut calculer l'intérêt composé sur l'iPhone. float principal; float rate; int compoundPerYear; int years; float amount; formule doit être: = capital * (1 + taux/compoundPerYear)^(taux * an

objective-c math double finance floating-accuracy 2010-08-06

---