floating-point

20La chaleur

5Répondre

Quelle est la gamme inclusive de float et double en Java?

Quelle est la gamme inclusive de float et double en Java? Pourquoi ne recommandez-vous pas d'utiliser le flotteur ou le double pour tout élément où la précision est essentielle?

java types floating-point double range 2009-10-30

---

5La chaleur

2Répondre

Pourquoi le sprint de Perl ne tourne-t-il pas correctement les nombres à virgule flottante?

J'étais à la recherche de la convention d'arrondi utilisée par la fonction intégrée de Perl sprintf. Je pensais qu'il fait un arrondi normal (par exemple ROUND_HALF_UP comme dans Java's rounding mode

perl floating-point printf 2009-10-30

---

3La chaleur

6Répondre

Comment puis-je transformer un nombre à virgule flottante en la fraction la plus proche représentée par un numérateur et un dénominateur d'octets?

Comment puis-je écrire un algorithme qui a donné un nombre à virgule flottante, et tente de représenter est aussi précisément que possible en utilisant un numérateur et un dénominateur, tous deux limi

java algorithm math floating-point fractions 2009-11-01

---

0La chaleur

2Répondre

Lire la valeur du flottant de la chaîne jusqu'à 6 précision

Je dois lire une valeur de flot à partir de la chaîne jusqu'à 6 précision, le code actuel lit les 6 premiers chiffres seulement. Merci à l'avance template <class T> bool from_string(T& t, const std::

c++ string floating-point 2009-11-04

---

0La chaleur

5Répondre

Quelle est la plus petite représentation exacte de 1/(2^x) pouvant être représentée dans le langage de programmation C?

Quelle est la plus petite représentation exacte de 1/(2^x) pouvant être représentée dans le langage de programmation C?

c variables floating-point 2009-11-04

---

2La chaleur

7Répondre

Comment faire pour contourner le problème décimal en JavaScript?

Doublons possibles: Strange problem comparing floats in objective-C Is JavaScript’s math broken? 1.265 * 10000 = 126499.99999999999 ????? Après avoir vu this j'ai découvert que JavaScript: 0.1 + 0.2 =

javascript math floating-point decimal 2009-11-04

---

3La chaleur

6Répondre

Floating point again

Hier, j'ai posé une question à virgule flottante, et j'en ai une autre. Je fais des calculs où j'utilise les résultats des fonctions sinus, cosinus et tangente de math.h (langage C). L'un des développ

c floating-point math.h 2009-11-07

---

10La chaleur

5Répondre

nombre flottant au hasard

J'ai écrit cette fonction pour obtenir un pseudo flottant aléatoire entre 0 .. 1 inclus: float randomFloat() { float r = (float)rand()/(float)RAND_MAX; return r; } Cependant, il retour

c random floating-point floating-point-conversion 2009-11-07

---

1La chaleur

1Répondre

sprintf() pour tronquer et non arrondir un flottant à x décimales?

Lors du calcul d'un différentiel de handicap de golf, vous êtes censé tronquer la réponse à 1 décimale sans arrondir. Aucune idée pourquoi, mais ... Je sais comment faire en utilisant TRUNCATE() dans

php floating-point printf 2009-11-13

---

0La chaleur

1Répondre

erreur C2664 + classes génériques +/Wp64

J'ai les lignes de code suivantes: p_diffuse = ShaderProperty<Vector4>(Vector4(1,1,1,1)); addProperty(&p_diffuse, "diffuse"); p_shininess = ShaderProperty<float>(10.0f); addProperty(&p_shininess,

c++ generics floating-point compiler-errors 2009-11-14

---