floating-accuracy

1La chaleur

3Répondre

Des expressions équivalentes peuvent-elles donner des résultats différents?

La discussion à this answer vient de me faire penser à l'égalité et à l'équivalence des nombres à virgule flottante. Je suis conscient que les nombres à virgule flottante ne peuvent pas toujours être

floating-point floating-accuracy 2010-11-16

---

1La chaleur

3Répondre

Quelques questions sur les points flottants

Je me demande si un nombre est représenté d'une manière dans une représentation en virgule flottante, est-ce qu'il va être représenté de la même manière dans une représentation qui a une plus grande t

c++ floating-point floating-accuracy 2010-10-06

---

0La chaleur

3Répondre

Pas exactement convertit du double en int - semble problème est dans les instructions CPU

J'ai été surpris quand j'ai débogué mon code. Ici, je donne un exemple de code #include<QMessageBox> #include<iostream> #include<math.h> #include<QApplication> using namespace std; class MyMessa

c++ qt cpu floating-accuracy 2010-11-29

---

2La chaleur

2Répondre

Comment optimiser ce calcul

J'écris un modèle vérificateur qui repose sur le calcul d'un coefficient qui est utilisé intensivement par les algorithmes qui est le suivant: [alt texte] [1] où q est double, t un double aussi et k u

optimization formula floating-accuracy 2010-09-03

---

1La chaleur

3Répondre

Ruby imprimer un flotteur avec des chiffres en option

Je suis en train d'imprimer un nombre flottant, qui a la valeur 5 Ce que je reçois quand il l'imprimer est 5.0, donc ma question est: Comment puis-je faire en sorte que, si la valeur est juste 5, il v

ruby floating-accuracy 2010-09-04

---

3La chaleur

1Répondre

Est-il possible d'augmenter la précision de l'arithmétique en virgule flottante avec gcc?

Certains programmes en C qui effectuent des calculs à virgule flottante étendus obtiennent de bons résultats sur une machine Linux, mais des résultats erronés sur la SPE du processeur de la cellule, m

c floating-accuracy spu 2010-09-22

---

1La chaleur

2Répondre

Comparaison de virgule flottante - Résultat entre différentes exécutions

Je sais que je ne peux pas comparer deux nombres à virgule flottante ou doubles pour l'égalité absolue sur C++/C. Si pour une raison quelconque, j'écris une condition if qui utilise l'égalité absolue,

c++ comparison floating-accuracy deterministic non-deterministic 2010-09-24

---

0La chaleur

1Répondre

iphone; convertir lat, longues cordes en flotteurs - ou toute autre méthode?

Hi là J'ai une chaîne quelque chose comme "3.1600559280405984" qui est une valeur de latitude. Lorsque je veux convertir ceci en une valeur flottante, pour l'assigner à une annotation/coordonnée, la v

xcode floating-accuracy 2010-11-25

---

2La chaleur

4Répondre

Comment contourner les problèmes d'arrondi en arithmétique à virgule flottante en C++?

Je rencontre des problèmes avec l'arithmétique en virgule flottante qui n'est pas précise. J'essaie de calculer un score basé sur une formule pondérée où chaque variable d'entrée pèse environ 20 fois

c++ floating-accuracy 2010-12-02

---

6La chaleur

5Répondre

définit la constante double comme hexadécimale?

Je voudrais avoir le nombre le plus proche en dessous de 1,0 en tant que virgule flottante. En lisant l'article de wikipedia sur IEEE-745 j'ai réussi à découvrir que la représentation binaire pour 1.0

c++ floating-point floating-accuracy ieee-754 notation 2010-10-16

---