floating-point

1La chaleur

2Répondre

méthode pour afficher float au format datetime

J'ai besoin d'une méthode dans C# qui me fait une chaîne qui ressemble à une date-heure d'un double/float. par exemple 1.5 -> 01h30 2.8 -> 02h48 25.5 -> 25:30 (note: ne pas afficher comme le jour, aff

c# datetime floating-point 2009-11-20

---

1La chaleur

3Répondre

Des pointeurs d'impression de résultats bizarres comme flottant dans C

Je sais que c'est mauvais et gcc vous donnera un avertissement à ce sujet, mais pourquoi cela fonctionne-t-il (c'est-à-dire les numéros sont imprimés correctement, avec une certaine différence d'arron

c pointers gcc floating-point printf 2009-11-22

---

1La chaleur

4Répondre

Les flottants java peuvent-ils être triés selon leur représentation en octets?

Je travaille dans Hadoop, et j'ai besoin de fournir un comparateur pour trier les objets comme des tableaux d'octets d'ordre réseau brut. C'est facile pour moi de faire avec des entiers - je compare j

java floating-point byte ieee-754 2009-11-23

---

4La chaleur

6Répondre

Comment gérer les erreurs d'arrondi des types flottants pour les calculs financiers dans Python SQLite?

Je crée une application financière et il semble que mes flotteurs dans sqlite flottent. Parfois, un 4.0 sera un 4.000009, et un 6.0 sera un 6.00006, des choses comme ça. Comment puis-je les rendre plu

python sqlite floating-point 2009-11-26

---

1La chaleur

3Répondre

NaN problème en Java

Je convertis quatre octets pour flotter et je reçois en résultat NaN, mais je veux la valeur 0.0. Qu'est-ce que je fais mal? Ceci est mon code: public class abc { public static void main(String[

java floating-point core nan 2009-11-27

---

2La chaleur

3Répondre

Rupture sur NaNs ou infs

Il est souvent difficile de trouver l'origine d'un NaN, car il peut arriver à n'importe quelle étape d'un calcul et se propager. Alors est-il possible de faire un arrêt du programme C++ lorsqu'un calc

c++ exception floating-point numerical nan 2009-11-27

---

2La chaleur

3Répondre

Où le standard C++ définit-il la plage de valeurs des types float?

Pour autant que je sais valeurs à virgule flottante sont de la forme n * 2^e, avec être Plage de flotteur n = - (2^23-1) - (2^23-1), et e = -126 à 127, étant le double de la plage n = - (2^52-1) - (2^

c++ floating-point double standards range 2009-11-29

---

1La chaleur

1Répondre

Comment les décimales sont convertis en utilisant FLOAT dans SQL Server 2000/2005/2008

dans cet SO question l'OP voulait supprimer les 0 dans les décimales pour ses résultats. Maintenant, l'exemple que j'ai donné (ci-dessous) pour contourner cela était de CAST avec DECIMAL, puis CAST av

sql sql-server floating-point floating-accuracy 2009-12-02

---

25La chaleur

5Répondre

Quelle est la plage de valeurs qu'un flotteur peut avoir en Python?

Quelles sont ses plus petites et plus grandes valeurs en python?

python floating-point 2009-12-02

---

13La chaleur

5Répondre

Comment définir la précision du nombre à virgule flottante en Perl?

Existe-t-il un moyen de définir la précision en virgule flottante d'un script Perl (à 3 chiffres), sans avoir à le modifier spécifiquement pour chaque variable? Quelque chose de semblable à celui TCL:

perl floating-point floating-accuracy 2009-12-03

---