floating-point

3La chaleur

3Répondre

Pourquoi certains nombres à virgule flottante sont-ils représentés avec précision en C#?

Inspiré par this question, ce qui suit ne fait pas ce que je pense à: float myFloat = 0.6; Console.WriteLine(myFloat); // Output: 0.6 J'attends ci-dessus pour imprimer 0.60000002384185791 (la repr

c# floating-point 2010-09-20

---

0La chaleur

1Répondre

xcode définissant un problème variable

Quelqu'un peut-il m'expliquer pourquoi ma variable appelée activity est 0 lorsqu'elle est définie comme float, mais affiche la valeur correcte lorsqu'elle est définie comme int? J'ai un autre flotteur

iphone xcode variables floating-point int 2010-09-20

---

12La chaleur

5Répondre

Comment obtenir la valeur des flottants sans inclure la notation exponentielle

En C#, est-il possible d'exécuter ToString sur un flottant et d'obtenir la valeur sans utiliser les exponentielles? Par exemple, tenez compte des éléments suivants: float dummy; dummy = 0.000006F;

c# floating-point tostring 2010-09-21

---

0La chaleur

1Répondre

javascript flottant décimal

J'ai un peu de javascript qui multiplie dynamiquement ce que les utilisateurs tapent dans un champ de texte (par la base var), et l'affiche dans un span. Maintenant j'essaie juste de comprendre commen

javascript math floating-point decimal 2010-09-21

---

2La chaleur

2Répondre

iPhone - flotteur magasin à SQLite à travers CoreData

je stocke un nombre flottant dans mon SQLite (grâce à des données de base) comme ceci: unit.conversion = [NSNumber numberWithFloat:0.001]; Quand je regarde la base de données SQLite la valeur est 0,00

iphone cocoa core-data floating-point 2010-09-21

---

10La chaleur

3Répondre

Obtenir un NaN négatif sur g ++ 4.4.3, est ce standard?

J'ai g ++ 4.4.3 sur Linux avec Ubuntu Lucid Lynx, et je reçois un: -Nan en conséquence. Sur Hardy Heron avec g ++ 4.3.1, je reçois tous les nan Ceci est à l'origine de mon texte régression diff à l'éc

c++ math gcc floating-point g++ 2010-09-22

---

1La chaleur

2Répondre

Division par zéro erreurs

J'ai un problème avec cette question de mon professeur. Voici la question: Écrivez la définition d'une fonction typing_speed, qui reçoit deux paramètres. Le premier est le nombre de mots qu'une person

python floating-point decimal division 2010-09-24

---

3La chaleur

5Répondre

C++: stocker de grands nombres dans un flotteur comme PHP?

En PHP, si vous allez au-dessus de INT_MAX, il le transformera en float, ce qui permettra de former de très grands nombres (non décimaux), est-ce possible en C++ ou est-ce la façon dont ils stockent l

c++ types floating-point integer 2010-09-26

---

3La chaleur

2Répondre

Décimale à virgule flottante

Si je voulais convertir un nombre Ex. 32.24x10^5 à IEEE 754 standard PAR MAIN comment le ferais-je?

floating-point decimal ieee-754 2010-09-30

---

29La chaleur

6Répondre

Comment faire une conversion de float à bigDecimal dans java?

Comment convertir les photos float en bigDecimal en java?

java floating-point bigdecimal 2010-09-30

---