floating-point

1La chaleur

3Répondre

binaire octal binaire à virgule flottante

Je travaille sur une calculatrice qui vous permet d'effectuer des calculs au-delà du point décimal en octal, hexadécimal, binaire et bien sûr en décimal. J'ai du mal à trouver un moyen de convertir le

31La chaleur

10Répondre

troncature nombre décimal non Arrondir

Possible en double: c# - How do I round a decimal value to 2 decimal places (for output on a page) Je veux tronquer les décimales comme ci-dessous -à-dire 2,22939393 -> 2,229 2,22977777 -> 2,229

4La chaleur

2Répondre

Y a-t-il des roulettes WinFinder comme des contrôles pour ajuster les valeurs à virgule flottante?

J'ai l'application .NET avec une valeur à virgule flottante que je veux ajuster de haut en bas par un incrément réglable par l'utilisateur avec quelque chose comme spinner control. Avant que je parte

4La chaleur

5Répondre

Dans quelles unités de mesure stockez-vous les données d'ingénierie?

Dans notre application, nous vivons actuellement avec l'héritage d'une décision de stocker toutes les données d'ingénierie dans notre base de données dans SI. Je crains que nous ne courions le risque

2La chaleur

2Répondre

Comment faire un test d'égalité pour le virgule flottante IEEE 80bit?

liés à: comparing ieee floats and doubles for equality Should we compare floating point numbers for equality against a relative error Most effective way for float and double comparison Cependant en ce

34La chaleur

9Répondre

Java double comparaison epsilon

J'ai écrit une classe qui teste l'égalité, inférieure à, et supérieure à deux doubles en Java. Mon cas général est la comparaison des prix qui peuvent avoir une précision d'un demi-cent. 59.005 contre

2La chaleur

3Répondre

Détection d'arrondi à virgule flottante

J'utilise java et je me réfère au type de données "double". Pour être bref, je lis des valeurs de l'entrée standard que j'ai lues dans mon code en double (je préfèrerais utiliser quelque chose comme B

1La chaleur

2Répondre

Quelle est la manière la plus efficace de diviser deux valeurs intégrales et d'obtenir un quotient à virgule flottante dans .NET?

Tenir compte de la signature suivante en C#: double Divide(int numerator, int denominator); Y at-il une différence de performance entre les implémentations suivantes? Je suppose que les deux réponse

0La chaleur

3Répondre

Php avec précision à virgule flottante - équation complexe = 1

je l'équation suivante 1 - ((0,5 * 0,83333333333333)^2 + (0,5 * 0,83333333333333)^2 + (0,5 * (1-,83333333333333))^2 + (0,5 * (1 - 0,83333333333333))^2) en Php5, cela se traduit par une réponse de 1 pa

74La chaleur

9Répondre

Comment puis-je convertir une chaîne en nombre en Perl?

Comment convertir une chaîne contenant un nombre en sa valeur numérique en Perl?