floating-accuracy

7La chaleur

5Répondre

Pourquoi la valeur de ce flottant change-t-elle par rapport à ce qui a été défini?

Pourquoi ce programme C donne-t-il la "mauvaise" sortie? #include<stdio.h> void main() { float f = 12345.054321; printf("%f", f); getch(); } Sortie: 12345.054688 Mais la sorti

c floating-point floating-accuracy 2010-05-11

---

6La chaleur

1Répondre

La précision en virgule flottante peut-elle être dépendante du fil?

J'ai une petite classe de vecteurs 3D en C# 3.0 basée sur la structure qui utilise le double comme unité de base. Un exemple: y-valeur un vecteur est -20.0 straight je soustrais un vecteur avec une

c# .net multithreading floating-accuracy 2010-05-17

---

7La chaleur

5Répondre

précision en virgule flottante dans Visual C++

HI, Je tente d'utiliser la robust predicates pour la géométrie computationnelle de Jonathan Richard Shewchuk. Je ne suis pas un programmeur, donc je ne suis même pas sûr de ce que je dis, je peux fair

c++ visual-c++ floating-point math floating-accuracy 2010-04-02

---

0La chaleur

2Répondre

Point fixe vers le point flottant et vers l'arrière

Convertit le point fixe. (bit n fixe pour fraction) à double sécurité IEEE? Par exemple: est-ce que le format double IEEE peut représenter tous les nombres qu'un point fixe peut représenter? Le test:

floating-point floating-accuracy ieee-754 fixed-point 2010-04-04

---

5La chaleur

4Répondre

Quel est le statut de tcl_precision?

Je n'utilise pas Tcl dans mon travail quotidien. Cependant, j'ai un collègue qui interagit occasionnellement avec un client qui souhaite que le langage d'extension de notre outil fonctionne plus comme

floating-point tcl floating-accuracy ieee-754 2010-02-18

---

0La chaleur

2Répondre

Pourquoi est-ce 99,99/100 = 0,9998999999999999

Possible en double: Dealing with accuracy problems in floating-point numbers Alors que 99,99 * 0,01 = 0,99 Il est clair que cela est l'âge vieux problème arrondi à virgule flottante, mais l'erreur d'a

floating-point floating-accuracy rounding-error 2010-05-28

---

23La chaleur

3Répondre

Comment Java String.format avec une précision variable?

Je voudrais faire varier la précision d'une représentation double dans une chaîne que je suis en train de formater en fonction de l'entrée de l'utilisateur. En ce moment je suis en train quelque chose

java string rounding precision floating-accuracy 2010-02-20

---

1La chaleur

6Répondre

0,699 x 100 = 69,89999999999999?

Doublons possibles: Why does 99.99/100 = 0.9998999999999999 Dealing with accuracy problems in floating-point numbers Je l'ai vu cette question en php et javascript. J'ai ce numéro: float 0.699 si je f

php javascript math decimal floating-accuracy 2010-06-01

---

1La chaleur

4Répondre

Comment calculer une valeur à un certain nombre de décimales?

En utilisant la bibliothèque standard numpy ou python, soit ou. Comment puis-je prendre une valeur avec plusieurs décimales et la tronquer à 4 décimales? Je veux seulement comparer les nombres à virgu

python floating-accuracy 2010-02-24

---

6La chaleur

3Répondre

Un calcul de virgule flottante peut-il différer sur différents processeurs? (+ passant doubles entre C# et C)

J'ai une application écrite en C# qui invoque également du code C. Le code C# obtient un double en tant qu'entrée, effectue des calculs sur celui-ci, le transmet au calque natif qui effectue ses propr

c# c floating-point floating-accuracy 2010-02-25

---