floating-point

1La chaleur

3Répondre

iPhone Cocoa mode mixte Math Basic Erreurs

Je viens de réaliser que je reçois des erreurs sur les mathématiques simples si j'ai mélangé Integer avec des flottants dans l'iPhone SDK sur le simulateur. Deux exemples: float testVal1 = 10 + 5/10;

iphone c math floating-point 2009-03-31

---

2La chaleur

3Répondre

Pourquoi printf affiche -1. # IND pour les résultats FPTAN?

Je travaille sur un programme qui produit du code assembleur à partir d'expressions. L'une des fonctions requises est tan (x) qui travaille actuellement en utilisant la séquence de code suivante (les

c++ assembly floating-point x86 ia-32 2009-04-13

---

3La chaleur

3Répondre

arrondi à virgule flottante lorsque tronquer

Ceci est probablement une question pour un expert x86 FPU: Je suis en train d'écrire une fonction qui génère une valeur de virgule flottante aléatoire dans l'intervalle [min, max]. Le problème est que

c floating-point x86 fpu 2009-03-13

---

28La chaleur

7Répondre

Bonne façon de hacher un vecteur de flotteur?

Je connais bien tous les problèmes liés à la comparaison des flotteurs. C'est exactement la raison de cette question. Je cherche à créer une table de hachage rapide pour les valeurs qui sont des vecte

floating-point hashtable hash 2009-03-16

---

7La chaleur

3Répondre

Valeur absolue pour les flotteurs dans le noyau OCaml

Je suis dans le besoin d'une fonction de valeur absolue pour les flotteurs en OCaml et la langue de base ne semble pas posséder un, donc j'écrit ce qui suit: let absF (f:float) = if f > 0.0 then f els

floating-point ocaml absolute-value 2009-03-20

---

1La chaleur

3Répondre

Qui fait des bignums non décimaux avec un point radix flottant?

Bien que les bibliothèques Tcl math :: bignum et math :: bigfloat soient, le terrain d'entente entre les deux doit être abordé. A savoir, les bignums qui sont dans différents radices et ont un radix p

scripting floating-point bignum radix-point 2009-04-05

---

0La chaleur

1Répondre

Matlab Fraction to Floating Point

Après avoir utilisé la fonction 'solve' sur une équation avec une variable, il semble que Matlab n'aime pas utiliser le point flottant. Donc, ma réponse est ans = -2515439103678008769411809280/2901945

matlab floating-point numerical 2009-04-08

---

3La chaleur

3Répondre

double.Epsilon vs. std :: numeric_limits <double> :: min()

Pourquoi double.Epsilon != std::numeric_limits<double>::min()? Sur mon PC: double.Epsilon == 4.9406564584124654E-324 et est défini dans .NET std::numeric_limits<double>::min() == 2.2250738585072014e-3

.net c++ floating-point 2009-04-15

---

0La chaleur

2Répondre

Impression de milliers de flottants séparés avec GAWK

Je dois traiter un gros fichier avec gawk. Mon principal problème est que je dois imprimer des flottants en utilisant des séparateurs de milliers. E.g .: 10000 devrait apparaître comme 10.000 et 10000

formatting floating-point separator gawk 2009-04-15

---

6La chaleur

3Répondre

Convertir/Quantifier la plage flottante en entier Nombre

Disons que j'ai un flottant dans la plage de [0, 1] et que je veux quantifier et stocker dans un octet non signé. Sonne comme une évidence, mais en fait, il est assez compliqué: La solution évidente r

floating-point integer rounding quantization 2009-03-01

---