floating-point

1La chaleur

3Répondre

C Différentes réponses pour une variable lors de l'exécution de 'Déboguer' et 'Démarrer sans déboguer'

Je continue d'obtenir cette sortie bizarre de mon code chaque fois que j'utilise le 'début sans déguger' (ctrl-F5) par opposition à 'debug' normal (F5). Lorsque je tente de trouver la valeur suivante

c debugging floating-point double 2010-05-11

---

4La chaleur

2Répondre

Pourquoi FLD1 charge-t-il NaN à la place?

J'ai une fonction C à un seul trait qui est juste return value * pow(1.+rate, -delay); - elle actualise une future valeur à une valeur actuelle. La partie intéressante du démontage est 0x080555b9 :

assembly floating-point x86 fpu 2010-05-13

---

9La chaleur

3Répondre

comparaison à virgule flottante en STL, BOOST

Y at-il dans la STL ou Boost un ensemble de fonctions de comparaison simples génériques? Celui que je trouve exigent toujours des paramètres du modèle, et/ou instanciation d'un modèle de struct . Je c

c++ floating-point 2010-05-14

---

0La chaleur

2Répondre

Convertir NSFileSystemSize en gigaoctets

J'ai besoin de convertir NSFileSystemSize en gigaoctets. NSDictionary * fsAttributes = [ [NSFileManager defaultManager] fileSystemAttributesAtPath:NSTemporaryDirectory()]; NSNumber *totalSize =

floating-point numbers size 2010-05-15

---

2La chaleur

2Répondre

calcul mathématique d'optimisation (multiplication et addition)

Supposons que vous voulez calculer la somme des carrés des différences de points: $ \ sum_ {i = 1}^{N-1} (x_i - x_ { i + 1})^2 $ le code le plus simple (l'entrée est std::vector<double> xs, l'ouput su

c++ optimization math floating-point formula 2010-05-15

---

4La chaleur

2Répondre

Travailler avec des nombres décimaux en PHP

Je veux en quelque sorte autour des chiffres pour un système de notation en PHP comme ceci: 4.6667 = 4.6 5.0001 = 5.0 Est-il possible de le faire? (BTW, j'ai lu les données d'une base de données.)

php floating-point decimal 2010-05-17

---

0La chaleur

2Répondre

Flottant de jRuby à représenter dans la cellule de JTable

J'ai besoin de représenter les flottants en format jTable. Lorsque je fais tbl.model.add_row [obj, 1.3524632478].to_java, obj est représenté comme étant la valeur de retour de to_s method, mais pas fl

floating-point jtable jruby 2010-05-18

---

6La chaleur

7Répondre

C/C++ - Convertit un entier signé de 24 bits en flottant

Je programme en C++. J'ai besoin de convertir un entier signé de 24 bits (stocké dans un tableau de 3 octets) pour flotter (normalisation à [-1.0,1.0]). La plate-forme est MSVC++ sur x86 (ce qui signi

c++ c floating-point integer 24bit 2010-05-26

---

56La chaleur

3Répondre

Comment taper une infinité de virgule flottante littérale en python

Comment taper une infinité de virgule flottante littérale en python? J'ai entendu inf = float('inf') est non portable. Ainsi, j'ai eu ce qui suit recommandé: inf = 1e400 Est-ce que ce soit standar

python floating-point portability numerical 2010-05-27

---

9La chaleur

3Répondre

Comment comparer efficacement le signe de deux valeurs à virgule flottante lors de la manipulation des zéros négatifs

Étant donné deux nombres à virgule flottante, je cherche un efficace façon de vérifier si elles ont le même signe, étant donné que si des deux valeurs est zéro (+0.0 ou -0.0), ils doivent être considé

floating-point compare sign zero negative-number 2010-05-27

---