floating-point

11La chaleur

2Répondre

Comment calculez-vous div et mod de nombres à virgule flottante?

En Perl, l'opérateur % semble supposer des entiers. Par exemple: sub foo { my $n1 = shift; my $n2 = shift; print "perl's mod=" . $n1 % $n2, "\n"; my $res = $n1/$n2; my $t = in

perl math floating-point division modulo 2009-01-30

---

38La chaleur

11Répondre

Extrait de partie décimale d'un nombre à virgule flottante en C

Comment peut-on extraire la partie décimale d'un nombre à virgule flottante et de stocker la partie décimale et la partie entière en deux variables entières séparées?

c floating-point decimal numbers 2009-02-01

---

0La chaleur

3Répondre

Conversion d'un tableau int/flotter

Je dois convertir un tableau de caractères en int et flotter en utilisant C Le tableau est comme ce char* text = "15.34"; Je dois aussi convertir un flotteur/int retour dans un tableau à nouveau

c arrays floating-point floating-point-conversion 2009-02-03

---

23La chaleur

2Répondre

Extraire la mantisse et l'exposant du double dans C#

Existe-t-il un moyen simple d'obtenir la mantisse et l'exposant à partir d'un double dans C# (ou .NET en général)? J'ai trouvé this example en utilisant google, mais je ne suis pas sûr de sa robustess

c# .net floating-point 2008-12-23

---

0La chaleur

3Répondre

Erreurs à virgule flottante dans les bibliothèques matricielles Colt Java

Comment éviter les erreurs à virgule flottante dans les calculs financiers effectués avec les bibliothèques matricielles Colt?

java matrix floating-point colt 2009-02-13

---

1La chaleur

2Répondre

Points d'arrêt de données Visual C++ sur les codes de points flottants Changement

Est-il possible de définir le point d'arrêt (comme je l'ai vu Data Breakpoint) dans VS 2005 (C++) sur les codes à virgule flottante (ST0-ST7)? Par exemple lors d'un changement de valeur ST7 avec la co

debugging visual-studio-2005 floating-point 2009-02-16

---

37La chaleur

12Répondre

Comment afficher la représentation binaire d'un float ou d'un double?

Je souhaite afficher la représentation binaire (ou hexadécimale) d'un nombre à virgule flottante. Je sais convertir à la main (en utilisant la méthode here), mais je suis intéressé à voir des échantil

language-agnostic floating-point 2008-12-29

---

5La chaleur

3Répondre

en virgule flottante Limitations

Mon code: a = '2.3' je voulais afficher a comme une valeur en virgule flottante. Depuis a est une chaîne, j'ai essayé: float(a) Le résultat je suis arrivé était: 2.2999999999999998 Je veux une s

python floating-point precision floating-accuracy 2009-01-02

---

3La chaleur

7Répondre

NSTimeInterval lisible NSNumber

NSTimeInterval == double; (par exemple 169.12345666663) Comment arrondir ce double de sorte qu'il ne reste que 2 chiffres après le "point"? Ce serait très bien si le résultat est un NSNumber.

objective-c cocoa floating-point double rounding 2009-02-22

---

4La chaleur

1Répondre

NaN Valeurs dans un champ flottant dans la base de données MSSQL

Je travaille sur une ancienne base de données héritée de mes prédécesseurs. Dans ce cas, certains champs flottants contiennent NaN où il devrait y avoir une valeur nulle. Le SQL suivant ne fonctionne

sql-server tsql floating-point nan 2009-01-16

---