floating-accuracy

8La chaleur

7Répondre

Pourquoi ghci dit que 1.1 + 1.1 + 1.1> 3.3 est Vrai?

J'ai été en passant par un tutoriel Haskell récemment et a remarqué ce comportement en essayant quelques simples expressions Haskell dans le shell interactif ghci: Prelude> 1.1 + 1.1 == 2.2 True Pre

haskell floating-accuracy ghci 2010-01-10

---

0La chaleur

4Répondre

Pourquoi ne reçois-je pas zéro lorsque je soustrais le même nombre à virgule flottante de lui-même dans Perl?

Doublons possibles: Why is floating point arithmetic in C# imprecise? Why does ghci say that 1.1 + 1.1 + 1.1 > 3.3 is True? #!/usr/bin/perl $l1 = "0+0.590580+0.583742+0.579787+0.564928+0.504538+0.459

perl floating-point floating-accuracy 2010-01-17

---

1La chaleur

1Répondre

Comment les décimales sont convertis en utilisant FLOAT dans SQL Server 2000/2005/2008

dans cet SO question l'OP voulait supprimer les 0 dans les décimales pour ses résultats. Maintenant, l'exemple que j'ai donné (ci-dessous) pour contourner cela était de CAST avec DECIMAL, puis CAST av

sql sql-server floating-point floating-accuracy 2009-12-02

---

13La chaleur

5Répondre

Comment définir la précision du nombre à virgule flottante en Perl?

Existe-t-il un moyen de définir la précision en virgule flottante d'un script Perl (à 3 chiffres), sans avoir à le modifier spécifiquement pour chaque variable? Quelque chose de semblable à celui TCL:

perl floating-point floating-accuracy 2009-12-03

---

8La chaleur

4Répondre

Formatage à virgule flottante dans printf()

Je dispose d'un tableau de flottants où les données sont stockées avec des points décimaux variables. Certaines sont 123.40000, 123.45000, 123.45600 ... maintenant si je veux imprimer ces valeurs dans

c floating-point floating-accuracy 2009-12-07

---

9La chaleur

5Répondre

Comment convertir les chaînes en flotteurs avec une précision parfaite?

J'essaye d'écrire une fonction dans le langage de programmation D pour remplacer les appels au strtold de C. (Justification: Pour utiliser strtold à partir de D, vous devez convertir les chaînes D en

floating-point d floating-accuracy 2010-02-01

---

5La chaleur

3Répondre

SQL Server 2005 perte de précision numérique

Le débogage de certains codes SQL liés à la finance a trouvé un problème étrange avec la précision mathématique numérique (24,8). L'exécution de la requête suivante sur votre MSSQL vous obtenez A + B

sql-server floating-point type-conversion casting floating-accuracy 2008-09-24

---

5La chaleur

3Répondre

en virgule flottante Limitations

Mon code: a = '2.3' je voulais afficher a comme une valeur en virgule flottante. Depuis a est une chaîne, j'ai essayé: float(a) Le résultat je suis arrivé était: 2.2999999999999998 Je veux une s

python floating-point precision floating-accuracy 2009-01-02

---

2La chaleur

3Répondre

Comment puis-je contourner une erreur d'arrondi qui provoque une boucle infinie dans Perl's Statistics :: Descriptive?

J'utilise la bibliothèque Statistics::Descriptive en Perl pour calculer les distributions de fréquence et faire face à un problème d'erreur d'arrondi en virgule flottante. Je passe deux valeurs, 0,205

perl statistics floating-point rounding floating-accuracy 2009-06-03

---

1La chaleur

2Répondre

Valider la plage de valeurs doubles et l'étape

J'essaie de construire un algorithme qui valide qu'une valeur double est un membre d'une plage définie avec des valeurs min, max et step. Le problème est de vérifier que la valeur obéit à la règle de

floating-point range algorithm precision floating-accuracy 2009-12-22

---