precision

2La chaleur

3Répondre

Comment calculer les positions des trous dans un plateau de jeu?

Je fais un jeu avec Python-> PyGame-> Albow et j'ai rencontré un problème avec la génération de cartes. Cependant, je vais essayer d'expliquer le problème de manière agnostique. Je crois que ce n'est

77La chaleur

2Répondre

Contrôle du nombre de chiffres décimaux dans la sortie d'impression dans R

Il existe une option dans R pour contrôler l'affichage des chiffres. Par exemple: options(digits=10) est supposé donner les résultats de calcul en 10 chiffres jusqu'à la fin de la session R. Dans le

23La chaleur

3Répondre

Comment Java String.format avec une précision variable?

Je voudrais faire varier la précision d'une représentation double dans une chaîne que je suis en train de formater en fonction de l'entrée de l'utilisateur. En ce moment je suis en train quelque chose

2La chaleur

2Répondre

C++ arrondi nombres flottants pour définir la précision

Je souhaite arrondir un nombre à virgule flottante pour définir la précision et renvoyer le résultat d'une fonction. Par exemple, j'ai actuellement la fonction suivante: inline bool R3Point:: operato

0La chaleur

6Répondre

Python: Quel chemin donne une meilleure précision

est-il une différence de précision entre une affectation de temps: res=n/k et l'affectation multiple pour le cycle: for i in range(n): res+=1/k ?

181La chaleur

3Répondre

Comment interpréter la précision et l'échelle d'un nombre dans une base de données?

J'ai la colonne suivante spécifiée dans une base de données: decimal (5,2) Comment interprète-t-on cela? Selon les propriétés de la colonne affichées dans SQL Server Management Studio, cela signifie:

0La chaleur

1Répondre

GMP est-il cassé? Cela ne peut pas être fait!

Lorsque j'appelle get_d() sur une variable MPQ dans la bibliothèque GMP, j'obtiens seulement au plus six chiffres. C++ est censé fournir 8 octets ou ~ 15 chiffres pour les doubles. Pourquoi ai-je seul

1La chaleur

3Répondre

Java perte de précision

J'ai un problème préoccupé par perdre de précision ma tâche est d'imprimer des nombres sous forme de chaînes int exponent = ... int[] Mantissas = { 1, 2, 5 }; double dataStep = java.lang.Math.pow(10

6La chaleur

1Répondre

C# - un problème très petit nombre - pas assez de chiffres dans le double type de données

J'écris un programme en C# qui suppose de calculer très petit nombre. Cependant, tous mes calculs obtiennent une valeur NaN car ils sont trop petits pour le type de données 'double'. Y at-il une optio

2La chaleur

3Répondre

précision de la machine

Je me demande s'il y a quelque chose comme eps pour représenter la valeur de la précision de la machine en C++? Puis-je l'utiliser comme le plus petit nombre positif qu'un double peut représenter? Est