floating-point

2La chaleur

5Répondre

Utilisation de C: Comment puis-je déterminer les tailles des composants d'un point flottant?

Je cherche des suggestions sur la façon de trouver les tailles (en bits) et la plage de nombres à virgule flottante d'une manière indépendante de l'architecture. Le code pourrait être construit sur di

1La chaleur

4Répondre

. Bogue .NET lors de la conversion de float en entier?

Check it out: ce petit programme de console .NET donne des résultats intéressants ... Remarquez comment je convertir un flotteur en entier de deux façons différentes: using System; using System.Colle

12La chaleur

6Répondre

Float/double précision dans les modes débogage/déverrouillage

Les opérations en virgule flottante C#/.NET diffèrent-elles en précision entre le mode débogage et le mode déverrouillage?

5La chaleur

3Répondre

SQL Server 2005 perte de précision numérique

Le débogage de certains codes SQL liés à la finance a trouvé un problème étrange avec la précision mathématique numérique (24,8). L'exécution de la requête suivante sur votre MSSQL vous obtenez A + B

6La chaleur

9Répondre

Les valeurs flottantes se comportent différemment entre les versions de version et de débogage

Mon application génère différentes valeurs à virgule flottante lorsque je la compile en mode édition et en mode débogage. La seule raison que j'ai trouvée est que je sauvegarde un journal de trace bin

46La chaleur

7Répondre

Comment modifier un flottant par son plus petit incrément (ou proche)?

J'ai une double valeur f et voudrais un moyen de le pousser très légèrement plus grand (ou plus petit) pour obtenir une nouvelle valeur qui sera aussi proche que possible de l'original mais toujours s

3La chaleur

6Répondre

Comment éviter les problèmes d'arrondi lors de la comparaison des valeurs de devise dans Delphi?

AFAIK, le type de devise dans Delphi Win32 dépend de la précision du flottant du processeur. Pour cette raison, j'ai des problèmes d'arrondis lorsque je compare deux valeurs de devises, renvoyant des

5La chaleur

2Répondre

C# - Existe-t-il une bibliothèque mathématique flottante 32 bits?

Je prévois de faire mon prochain projet en C# plutôt qu'en C++ (en utilisant SlimDX). Tout DirectX utilise des flottants, mais System.Math utilise des doubles. Cela signifie une conversion constante e

4La chaleur

3Répondre

L'insertion d'une valeur dans une colonne flottante SQL génère un résultat bizarre.

Je travaille sur une application ASP héritée. Je tente d'insérer une valeur (40.33) dans un champ dans SQL Server 2000 qui se trouve être un type float. Chaque endroit que je peux voir (via une connex

5La chaleur

6Répondre

Comment écrire une fonction C++ renvoyant true si un nombre réel est exactement représentable avec un double?

Comment écrire une fonction C++ renvoyant vrai si un nombre réel est exactement représentable avec un double? bool isRepresentable(const char* realNumber) { bool answer = false; // what goe