precision

1La chaleur

3Répondre

Java - Comment éviter la perte de précision lors de la division et de la conversion en int?

J'ai une situation où j'ai besoin de savoir combien de fois un int va dans un nombre décimal, mais dans certains cas, je perds de la précision. Voici la méthode: public int test(double decimalAmount,

4La chaleur

4Répondre

Comment les calculatrices fonctionnent-elles avec précision?

Je me demande comment les calculatrices fonctionnent avec précision. Par exemple, la valeur de sin(M_PI) n'est pas exactement zéro lorsque calculé double précision: #include <math.h> #include <stdio.

5La chaleur

4Répondre

Java: Faire son propre type de données? (par exemple long long double?)

Je réfléchis simplement à la possibilité de créer son propre type de données. Donc, si vous avez besoin de plus de précision, ce n'est pas pris en charge par l'un des types de base, vous pouvez simple

3La chaleur

2Répondre

Comment puis-je changer la précision de l'impression avec le fichier stl?

Je veux imprimer des nombres dans un fichier en utilisant la stl avec le nombre de décimales, plutôt que la précision globale. Donc, si je fais ceci: int precision = 16; std::vector<double> thePoint(

0La chaleur

3Répondre

précision numérique de type double dans Visual C++ 2008 Express débogueur

J'utilise Visual C++ 2008 Express Edition et quand je déboguer le code: double x = 0.2; que je vois dans le débogage infobulle sur x 0,20000000000000001 mais: typedef numeric_limits<double> double_l

0La chaleur

3Répondre

Valeurs de précision double

Juste un jour avant de participer au tour de qualification de Google Code Jam. C'est ma première expérience d'un tel concours de codage en ligne. C'était vraiment amusant. Il y avait trois problèmes d

12La chaleur

2Répondre

Définition du nombre minimal de décimales pour la précision de std :: ostream

Existe-t-il un moyen de définir le nombre "minimum" de décimales qu'un std :: ostream va générer? Par exemple, dire que j'ai deux variables doubles inconnues que je veux imprimer (valeurs ajoutées ici

1La chaleur

1Répondre

La double précision réelle n'est pas en accord avec std :: numeric_limits

Travaillant sur Mac OS X 10.6.2, Intel, avec i686-apple-darwin10-g ++ - 4.2.1, et compilant avec le drapeau -arch x86_64, je viens remarqué que si ... std::numeric_limits<long double>::max_exponent10

9La chaleur

4Répondre

C# float à la conversion décimale

Toute façon intelligente de convertir un flotteur comme celui-ci: float f = 711989.98f; en nombre décimal (ou double) sans perte de précision? J'ai essayé: decimal d = (decimal)f; decimal d1 = (dec

2La chaleur

1Répondre

calculer l'intersection entre deux segments de manière symétrique

Lorsque vous utilisez les formules habituelles pour calculer l'intersection entre deux segments 2D, soit here, si vous arrondissez le résultat à un entier, vous obtenez des résultats non symétriques.