rounding

9La chaleur

5Répondre

J'utilise le code suivant pour arrondir à 2DP: sprintf(temp,"%.2f",coef[i]); //coef[i] returns a double Il arrondit avec succès 6,666 à 6,67, mais il ne fonctionne pas correctement lorsque l'arrondi

3La chaleur

3Répondre

Fonction SQL Round ne fonctionne pas, des idées?

Voici l'instruction SELECT: SELECT ROUND(ISNULL(SUM(Price),0),2) As TotalPrice FROM Inventory WHERE (DateAdded BETWEEN @StartDate AND @EndDate) Toute idée de pourquoi il n'arrondi à deux décimales

6La chaleur

5Répondre

Oracle Bankers rule

Pourquoi Oracle n'utilise pas Bankers rule (la méthode d'arrondi)?

60La chaleur

3Répondre

Conversion d'un flottant en une chaîne sans arrondi

Je crée un programme qui, pour des raisons qui n'ont pas besoin d'être expliquées, nécessite la conversion d'un flottant en une chaîne à compter avec len(). Cependant, str (float (x)) fait que x est a

2La chaleur

3Répondre

OpenGL: textures déformées quand elles ne sont pas divisibles par 2

J'ai un moteur de jeu qui utilise OpenGL pour l'affichage. J'ai codé un petit menu pour cela, puis j'ai remarqué quelque chose d'étrange après avoir rendu le texte. Comme vous le voyez, la police est

6La chaleur

3Répondre

C++ arrondi des nombres loin de zéro

Salut je veux arrondir doubles chiffres comme celui-ci (à l'écart de zéro) en C++: 4.2 ----> 5 5.7 ----> 6 -7.8 ----> -8 -34.2 ----> -35 Quelle est la façon efficace de le faire?

4La chaleur

6Répondre

Fonction SQL Round

round(45.923,-1) donne un résultat de 50. Pourquoi est-ce? Comment est-il calculé? (désolé les gars je me suis trompé avec la version antérieure de cette question était valeur suggérant 46)

44La chaleur

6Répondre

Comment contourner un flottant jusqu'à l'int le plus proche en C#?

En C#, comment arrondir un flottant à l'int proche? Je vois Math.Ceiling et Math.Round, mais ceux-ci retournent un nombre décimal. Est-ce que j'utilise l'un d'entre eux puis cast à un Int?

7La chaleur

6Répondre

Arrondir les problèmes avec l'allocation des montants en dollars entre plusieurs personnes

Quelle est la meilleure façon de résoudre ce problème dans le code? Le problème est que j'ai 2 montants en dollars (appelés pot), qui doivent être alloués à 3 personnes. Chaque personne reçoit un mont

2La chaleur

3Répondre

Comment puis-je contourner une erreur d'arrondi qui provoque une boucle infinie dans Perl's Statistics :: Descriptive?

J'utilise la bibliothèque Statistics::Descriptive en Perl pour calculer les distributions de fréquence et faire face à un problème d'erreur d'arrondi en virgule flottante. Je passe deux valeurs, 0,205