floating-point

2La chaleur

1Répondre

Pourquoi deux multiplicateurs à virgule flottante donnent-ils une réponse différente d'un?

J'ai récemment rencontré un problème où je n'obtenais pas le résultat numérique que je m'attendais. Je dépisté vers le bas au problème qui est illustré par l'exemple suivant: #include <stdio.h> int

c floating-point 2010-09-05

---

1La chaleur

3Répondre

Quelle est la valeur entière la moins négative (négative) qui peut être exactement représentée par le type Double dans tous les principaux systèmes x86?

Quelle est la valeur entière la moins négative (négative) qui peut être exactement représentée par le type Double dans tous les principaux systèmes x86? Surtout dans (simultanément) JVM, MySQL, MS SQL

types floating-point double 2010-09-10

---

2La chaleur

2Répondre

Quelles instructions dois-je utiliser pour les opérations en virgule flottante?

Je connais un peu le x87 instructions pour manipuler des nombres à virgule flottante dans l'assemblage x86. Cependant, j'ai lu quelque part que ceux-ci étaient rarement utilisés plus. (Et n'étaient pa

assembly floating-point x86 x87 2010-09-11

---

1La chaleur

1Répondre

la détermination d'une gamme arbitraire de chiffres dans une base cible à partir d'une séquence et de base source

Si j'ai une fonction f qui calcule élément m d'une séquence de chiffres dans la base b, est en général possible de écrire une fonction g qui calcule l'élément n de la séquence correspondante dans la b

math function floating-point sequence 2010-09-13

---

1La chaleur

2Répondre

Python change Integer dans Float par lui-même

J'essaie d'apprendre Python, (j'ai 2.5.4) en écrivant un jeu de serpent, mais je suis coincé. Certains entiers se transforment en flotteurs et ne cessent de changer au hasard, du moins de mon point de

python floating-point integer 2010-09-13

---

1La chaleur

1Répondre

Comment convertir la valeur entière de contrôle .NET Trackbar à virgule flottante pourcentage

je reçois toujours 0 pour le pourcentage quand je fais ceci: int trackBarValue = trackBar.Value; float percentage = trackBarValue/100; Quel est le problème avec mon code?

c# floating-point trackbar 2010-09-16

---

0La chaleur

2Répondre

Objectif c - float renvoyant une valeur erronée

J'utilise l'objectif c et j'essaie de générer une valeur à partir d'une fonction. Apparemment, je fais quelque chose de mal parce que je reçois une valeur incorrecte. Ceci est mon code: -(float) getAn

objective-c floating-point 2010-09-16

---

0La chaleur

2Répondre

Problème avec NSNumber -initWithDouble et les valeurs résultantes

J'utilise NSNumber pour stocker diverses valeurs, mais je rencontre parfois des problèmes lorsque je fais des calculs avec les valeurs et que j'initialise de nouveaux objets NSNumber pour les résultat

iphone objective-c floating-point double nsnumber 2010-09-16

---

1La chaleur

1Répondre

DIV ne fonctionnera pas avec l'objectif de flotteur c

Je suis en train d'utiliser: float divAm = (float)theAngle%(float)rads; mais son dire que non valide opérandes% binaire theAngle et rads sont tous deux de type float. Des suggestions s'il vous plaît

objective-c floating-point modulus 2010-09-17

---

1La chaleur

1Répondre

flotteur java-moi J2ME

Possible en double: Java - simple division in Java ---> bug/feature? quelqu'un sait BigDecimal dans J2ME MIDP 2.0? en fait je veux juste faire l'application j2me, qui est capable de calculer 1/6. et l

java-me floating-point 2010-09-18

---