precision

0La chaleur

1Répondre

Comment réparer cette erreur de précision datetime MSS 2008 BULK INSERT?

Un MS SQL Server 2008 BULK INSERT à une colonne datetime introduit une erreur à la 3e décimale de la partie secondes: 2009-09-19 15: 02: 41.328 dans le fichier d'entrée devient 2009-09-19 15:02: 41.32

1La chaleur

3Répondre

Problème dans double.Parse dans Managed C++

Je rencontre un problème étrange lors de l'analyse d'une double valeur dans C++ géré. Il se peut que je fasse quelque chose de mal. Quand je fais: double value = 0.006; result = Math::Parse(value)

1La chaleur

1Répondre

Précision maintenant() dans VBScript

Maintenant() dans VBScript semble renvoyer l'heure à 10 000 000 de seconde de précision lorsqu'il est appelé CDbl (Now()). En essayant de l'utiliser pour écrire une implémentation plus précise de now

6La chaleur

3Répondre

Déterminer l'égalité des valeurs Datetime avec une précision minuscule dans LINQ

J'ai besoin de comparer deux valeurs datetime pour déterminer l'égalité (exactement la même chose), en utilisant une précision minutieuse. Serait-ce la meilleure façon de le faire? Mes dates pourraien

0La chaleur

6Répondre

Pourcentage avec une précision variable

Je voudrais afficher un pourcentage avec trois décimales, sauf s'il est supérieur à 99%. Ensuite, je voudrais afficher le numéro avec tous les neuf disponibles plus 3 non-neuf caractères. Comment puis

8La chaleur

4Répondre

MATLAB - question d'étage

Je suis un débutant MATLAB. Voici le problème: >> a = floor(7/2.5) a = 2.00 >> b = rem(7,2.5) b = 2.00 >> c = floor(b/2) c = 0 c devrait être 1, non? Pourquoi est-ce 0

27La chaleur

2Répondre

Haskell: Force flotte pour avoir deux décimales

Utilisation de l'extrait de code suivant: (fromIntegral 100)/10.00 Utilisation du Haskell '98 prélude standard, comment puis-je représente le résultat avec deux décimales? Merci.

3La chaleur

3Répondre

Signé 64 par 32 division entière

En supposant que vous avez une instruction machine udive qui fait un cas spécial 64 par division non signée 32 en prenant un dividende (32bit dividende < < 32)/32bit, nous pouvons faire une division 6

8La chaleur

7Répondre

gcc bogue de précision?

Je ne peux que supposer que c'est un bug. La première assertion passe tandis que la seconde échoue: double sum_1 = 4.0 + 6.3; assert(sum_1 == 4.0 + 6.3); double t1 = 4.0, t2 = 6.3; double sum_2 =

0La chaleur

3Répondre

Pourquoi postgresql ne stocke-t-il pas toute ma valeur flottante (PHP)?

Je tente de stocker la valeur de virgule flottante PHP 63.59072952118762 dans une colonne double précision dans postgres. Postgres stocke la valeur en tant que 63.59073. Quelqu'un sait-il pourquoi? 8