floating-point

2La chaleur

1Répondre

Problème de virgule flottante dans SQL Server 2005

Le code ci-dessous est utilisé pour calculer les miles entre deux villes. Dans ce cas, c'est pour la distance de Yarmouth, ME à Yarmouth, ME - évidemment zéro - ce qui signifie que les résultats pour

sql sql-server-2005 floating-point 2010-08-03

---

2La chaleur

2Répondre

quel sera le comportement de l'extrait de code suivant?

Quel sera le comportement et la sortie du code suivant si je le code produit par inadvertance en C/C++, float a = 12.5; printf("%d\n", a); printf("%d\n", *(int *)&a);

c++ c pointers floating-point 2010-08-04

---

32La chaleur

8Répondre

Comment créer un flottant aléatoire en Objective-C?

J'essaie de créer un flottement aléatoire entre 0,15 et 0,3 en Objective-C. Le code suivant renvoie toujours 1: int randn = (random() % 15)+15; float pscale = (float)randn/100; Qu'est-ce que je fai

objective-c random floating-point 2010-08-04

---

0La chaleur

3Répondre

Affecter zéro pour flotter dans C

J'ai l'habitude d'utiliser float f = 0 .; // avec une période de fin lors de l'affectation d'une valeur zéro à un flottant en C. Dois-je utiliser float f = 0.f; // avec une taille float explicite ou s

floating-point variable-assignment zero 2010-08-06

---

3La chaleur

1Répondre

Haskell Text.Json package peut lire mais pas écrire Rationals?

Lorsque j'essaie de décoder un fichier JSON avec un nombre à virgule flottante, le package Text.JSON me donne le numéro en tant que JSRational. Donc, je peux faire un readJSON sur un JSRational. Cepen

json haskell floating-point integer rational-numbers 2010-08-06

---

2La chaleur

3Répondre

Différences entre 0x01 et 0x01f

Je regarde le code source original pour Identicons. Il y a un peu de code qui fait un peu peu tripotant pour extraire les composants rouge, vert et bleu: int blue = (code >> 16) & 0x01f; int green =

java floating-point hex int 2010-08-09

---

32La chaleur

5Répondre

Pourquoi l'ajout de deux décimales dans Javascript produit-il un mauvais résultat?

Possible en double: Is JavaScript’s Math broken? Pourquoi JS bousiller ce simple calcul? document.write(.1 + .2) // 0.3000000000000004 document.write(.3 + .6) // 0.8999999999999999 Le premier exemp

javascript math floating-point addition decimal 2010-08-09

---

9La chaleur

2Répondre

Comment représenter 0,1 en arithmétique à virgule flottante et décimal

Je suis en train de comprendre l'arithmétique en virgule flottante mieux et ai vu quelques liens vers « Ce que tout informaticien doit savoir sur Virgule flottante Arithmétique ». Je ne comprends touj

c# floating-point double decimal bit-representation 2010-08-10

---

0La chaleur

3Répondre

Que signifie cet idiome C?

Possible en double: John Carmack’s Unusual Fast Inverse Square Root (Quake III) Je suis tombé sur ce morceau de code un blog récemment - il est du moteur Quake3. Il est destiné à calculer rapidement l

c math floating-point newtons-method 2010-08-10

---

1La chaleur

1Répondre

Gotchas du type de numéro de JavaScript (double C)

Quelles sont les considérations importantes pour les développeurs utilisant le type de numéro de JavaScript? Je sais que c'est une implémentation du type double de C, mais je suis un développeur Pytho

javascript floating-point 2010-08-10

---