floating-point

9La chaleur

1Répondre

C++/CLI: SIGFPE, _control87, _fpreset, portage ancienne app Watcom C non géré à .NET

J'ai une application de plusieurs-mille-lignes qui repose sur SIGFPE (géré par un pointeur de fonction passé à signal()) pour changer d'état et que le code s'exécute correctement lorsque certaines con

floating-point c++-cli dllimport sigfpe 2010-07-26

---

19La chaleur

9Répondre

Pourquoi cette boucle ne se termine jamais?

possible en double: problem in comparing double values in C# Je l'ai lu ailleurs, mais vraiment oublier la réponse donc je demande ici à nouveau. Cette boucle semble jamais fin quel que soit code dans

floating-point ieee-754 2010-07-28

---

1La chaleur

1Répondre

Python MySQLdb curseur troncature des valeurs

J'ai rencontré un problème intéressant. J'ai une base de données MySQL qui contient des doubles avec des valeurs décimales très précises (par exemple, 0.00895406607247756, 17 décimales). Ce sont des d

python mysql floating-point decimal 2010-07-28

---

40La chaleur

7Répondre

Meilleure façon de générer un flottant aléatoire en C#

Quelle est la meilleure façon de générer un flottant aléatoire en C#? Mise à jour: Je veux des nombres à virgule flottante de float.Minvalue à float.Maxvalue. J'utilise ces nombres dans les tests unit

c# random floating-point 2010-07-29

---

1La chaleur

3Répondre

Conversion de données flottantes en données décimales par migration

Je migre des données d'une table vers une nouvelle table. L'ancienne table utilise FLOAT et dans la nouvelle table j'utilise DECIMAL comme attribut de champ. J'utilise la déclaration suivante qui a bi

sql-server tsql floating-point 2010-07-29

---

2La chaleur

4Répondre

Comment faire des valeurs flottantes dans Python afficher .00 au lieu de .0?

Simple question, désolé, je peux; t comprendre. J'ai quelques chiffres qui sont faits par flotteur (STRING) et ils sont affichés sous forme xxx.0, mais je veux qu'ils se terminent par 00 il est en eff

python floating-point integer double 2010-07-30

---

3La chaleur

2Répondre

php convertit le point flottant en long (convertit en string pour passer à une fonction xml)

PHP convertit un grand nombre en virgule flottante dont j'ai besoin en format "long" pour passer à un api xml de savon. ((round(time()/(60*15))*60*15)+(30*60))*1000 Cela donne le résultat: 1.28E+12

php math floating-point long-integer 2010-07-30

---

0La chaleur

1Répondre

php lu à partir du fichier float

Bonjour J'ai un fichier texte avec trois lignes. chaque ligne a un nombre flottant. Comment puis-je prendre chaque valeur et mettre dans une variable float même si le tableau? Par exemple fichier text

php arrays string floating-point 2010-08-01

---

4La chaleur

8Répondre

, l'élimination de branchement

float mixValue = ... //in range -1.0f to 1.0f for(... ; ... ; ... ) //long loop { float inputLevel = ... //in range -1.0f to 1.0f if(inputLevel < 0.0 && mixValue < 0.0) { mixVal

c++ optimization floating-point branch 2010-08-02

---

13La chaleur

7Répondre

C# Conversion d'une chaîne contenant un nombre à virgule flottante en entier

Quelle est la meilleure façon de prendre une chaîne qui peut être vide ou contenir "1.2" par exemple, et la convertir en entier? int.TryParse échoue, bien sûr, et je ne veux pas utiliser float.TryPars

c# parsing floating-point int 2010-08-03

---