floating-point

11La chaleur

7Répondre

L'ajout de flotteur promu à doubler?

J'ai eu un petit moment WTF ce matin. WTF Thessaloniciens peut se résumer avec ceci: float x = 0.2f; float y = 0.1f; float z = x + y; assert(z == x + y); //This assert is triggered! (Atleast with v

c++ floating-point double 2009-12-03

---

3La chaleur

3Répondre

Problème de diff de somme/bogue dans XSLT 1.0

J'ai ces données XML et essaye d'en faire une somme en utilisant l'extrait XSLT ci-dessous. Xml <?xml version="1.0" encoding="utf-8"?> <values> <value>159.14</value> <value>-2572.50</value>

xslt floating-point 2009-12-04

---

1La chaleur

3Répondre

à flotteur Format variable

je dois formater valeur flottante et je ne ai besoin de 2 chiffres après le point et devrait être la valeur arrondie float first = 7, Second = 3,result; result = first/Second; // result contain 2.333

c# asp.net floating-point 2009-12-04

---

3La chaleur

7Répondre

Y at-il un moyen d'obtenir le nombre de places après la virgule décimale dans un double java?

Je travaille sur un programme Java/Groovy. J'ai une variable double qui contient un nombre qui a été tapé par un utilisateur. Ce que je veux vraiment savoir, c'est combien de chiffres l'utilisateur a

java groovy floating-point approximation 2009-12-04

---

8La chaleur

4Répondre

Formatage à virgule flottante dans printf()

Je dispose d'un tableau de flottants où les données sont stockées avec des points décimaux variables. Certaines sont 123.40000, 123.45000, 123.45600 ... maintenant si je veux imprimer ces valeurs dans

c floating-point floating-accuracy 2009-12-07

---

0La chaleur

2Répondre

vérifier que toutes les valeurs d'un champ sont des entiers dans MySQL

J'ai une colonne qui est actuellement un nombre à virgule flottante et j'ai besoin de vérifier si toutes les valeurs de la colonne sont des entiers. Quelle est la meilleure façon de faire cela?

mysql floating-point integer 2009-12-08

---

1La chaleur

2Répondre

Arrondi à utiliser pour la conversion aller-retour int -> float -> int

J'écris un ensemble de fonctions de conversion de type numérique pour un moteur de base de données, et je suis préoccupé par le comportement de la conversion de grandes valeurs à virgule flottante typ

c++ c floating-point rounding 2009-12-10

---

0La chaleur

4Répondre

montre décimal ou double avec des zéros

je reçois des valeurs de prix de DB. maintenant chaque fois que le prix est peut-être 5, je veux montrer 5,00 si son 4.3, il devrait être 4,30. comment le convertir? grâce

asp.net floating-point double decimal zero 2009-12-11

---

1La chaleur

6Répondre

Numéros de base en Python!

Pourquoi 0.1 + 0.1 + 0.1 - 0.3 évalue à 5.5511151231257827e-17 en Python?

python floating-point core 2009-12-12

---

0La chaleur

4Répondre

Comment retourner un nombre à virgule flottante avec un nombre défini de décimales?

Donc, je sais comment imprimer un nombre à virgule flottante avec un certain nombre de décimales. Ma question est comment retourner avec un nombre spécifié de décimales? Merci.

python floating-point 2009-12-13

---