floating-point

1La chaleur

1Répondre

Wordpress: Comment comparer 2 valeurs flottantes dans la colonne meta_value?

J'ai environ 100 messages dans wordpress, tous avec une meta_key de prix et une valeur. Comment procéder pour rechercher dans tous les articles d'une valeur entre 23,00 et 41,00 par exemple? Je sais q

0La chaleur

2Répondre

Comment convertir un virgule flottante en hexadécimal (et retour) dans Delphi

Possible en double: Converting float or negative integer to hexadecimal in Borland Delphi Y at-il une fonction que je peux utiliser pour convertir une valeur en virgule flottante à une valeur hexadéci

4La chaleur

3Répondre

Contrôle du comportement du FPU dans un programme OpenMP?

J'ai un grand programme C++ qui modifie le mot de contrôle FPU (en utilisant _controlfp()). Il démasque certaines exceptions FPU et installe un SEHTranslator pour produire des exceptions C++ typées. J

15La chaleur

5Répondre

C# flotteur boucle infinie

Le code suivant en C# (.Net 3.5 SP1) est une boucle infinie sur ma machine: for (float i = 0; i < float.MaxValue; i++) ; Il a atteint le nombre 16.777.216,0 et 16.777.216,0 + 1 est évalué à 16.777.2

12La chaleur

2Répondre

Avec IEEE-754, 0 <ABS (const) <1, est-ce que (x/const) * const garantit de renvoyer des résultats distincts pour des valeurs distinctes de X?

On suppose que je fais cette opération: (X/const) * const avec des arguments à double précision telle que définie par IEEE 754-2008, première division, puis la multiplication. const est dans la plag

2La chaleur

2Répondre

Comment utiliser les nombres flottants sur BusyBox?

J'ai un petit ordinateur avec BusyBox, et compiler n'importe quoi dessus est un cauchemar. Je veux faire quelque chose de simple comme "0,5 * 2", mais ne peut pas sans logiciel supplémentaire. J'ai es

19La chaleur

5Répondre

Manière correcte d'émuler le virgule flottante simple précision en python?

Quelle est la meilleure façon d'émuler le virgule flottante à simple précision en python? (Ou d'autres formats à virgule flottante d'ailleurs?) Utilisez simplement ctypes?

0La chaleur

1Répondre

Comment assigner un nombre à un registre à virgule flottante en utilisant l'assemblage sparc?

Par exemple, je veux attribuer 0x5 à% f1. Comment y parvenir?

3La chaleur

3Répondre

Rond avec problème de sol en Objective-C

Je calcule g avec e et s, qui sont tous des doubles. Après que je veux couper tous les chiffres après la seconde et enregistrer le résultat dans x, par exemple: g = 2,123 => x = 2,12 g = 5,34995 => x

5La chaleur

4Répondre

Quel est le statut de tcl_precision?

Je n'utilise pas Tcl dans mon travail quotidien. Cependant, j'ai un collègue qui interagit occasionnellement avec un client qui souhaite que le langage d'extension de notre outil fonctionne plus comme