floating-point

0La chaleur

1Répondre

Ibatis + Oracle: Comment mettre à jour une valeur flottante

J'essaie de mettre à jour une valeur flottante dans la base de données Oracle, mais la valeur enregistrée est uniquement la partie entière de la valeur flottante. J'utilise l'expression update TABLE

java floating-point ibatis oracle9i 2010-10-26

---

1La chaleur

2Répondre

NSArry of floats issue

Je tente de créer un NSArray de flottants. Cependant, une fois que la valeur est ajoutée aux tableaux, elle est toujours 0,0000000. Qu'est-ce que je fais de mal? NSLog (@ "pourcentage:% f", pourcentag

iphone memory floating-point nsarray nsnumber 2010-10-26

---

0La chaleur

4Répondre

Existe-t-il une solution pour les problèmes arithmétiques à virgule flottante en C++?

Je fais de l'arithmétique en virgule flottante et j'ai des problèmes de précision. La valeur résultante est différente sur deux machines pour la même entrée. J'ai lu le poste @Why can't I multiply a f

c++ floating-point precision multiplication epsilon 2010-10-28

---

0La chaleur

2Répondre

problèmes Objective-C effectuant les mathématiques sur un entier

I ont la ligne de code suivante qui est en cours d'exécution sur une minuterie: NSLog(@" seconds: %i, elapsedhours %f", [self elapsedSeconds], [self elapsedSeconds]/3600); Il imprime: seconds: 0, el

objective-c floating-point integer 2010-10-28

---

3La chaleur

1Répondre

en utilisant float ('nan') pour représenter les valeurs manquantes - sûr?

Python 3,1 Je fais des calculs sur des données qui a des valeurs manquantes. Tout calcul impliquant une valeur manquante doit entraîner une valeur manquante. Je pense utiliser float('nan') pour représ

python floating-point python-3.x 2010-10-29

---

9La chaleur

3Répondre

erreurs à virgule flottante ruby ​​

Quelqu'un peut-il expliquer pourquoi multiplier par 100 ici donne un résultat moins précis mais multiplier par 10 deux fois donne un résultat plus précis? ± % sc Loading development environment (Rail

ruby floating-point 2010-10-29

---

5La chaleur

1Répondre

calculate milieu

Pourquoi la méthode bissectrice il est préférable de calculer le point médian c entre a et b avec c = a + (b - a)/2. au lieu du plus simple: c = (a + b)/2. toutes les variables sont flottants.

floating-point bisection 2010-10-31

---

1La chaleur

5Répondre

Float, Double, Char, Erreurs C++. Qu'est-ce qui ne va pas?

J'apprends le C++, mais j'ai rencontré une erreur que je ne comprends pas. Voici mon code source, les commentaires inclus #include "stdafx.h" #include <iostream> using namespace std; int main()

c++ compiler-construction floating-point 2010-10-31

---

5La chaleur

1Répondre

Pourquoi le CLR déborde-t-il d'Int32.MaxValue -> Single -> Int32, ce qui n'est pas le cas de la JVM?

je suis tombé sur un résultat inattendu en rond Int32.MaxValue déclenchement en System.Single: Int32 i = Int32.MaxValue; Single s = i; Int32 c = (Int32)s; Debug.WriteLine(i); // 2147483647 Debug.

jvm floating-point clr int 2010-11-01

---

-3La chaleur

1Répondre

C++: Entrer uniquement des entiers/flottants?

Possible en double: how do I validate user input as a double in C++? Salut à tous. Comment puis-je faire en sorte que l'utilisateur ne peut entrer des nombres entiers/flottants sans indiquer une décla

c++ input floating-point integer 2010-11-02

---