floating-point

4La chaleur

5Répondre

Soustraction de virgule flottante dans les résultats C zéro

J'ai un code écrit en C qui est destiné à un microcontrôleur 16 bits. Le code fait essentiellement beaucoup d'arithmétique en virgule flottante. L'arithmétique fonctionne bien jusqu'à ce que le résult

c floating-point subtraction 2009-09-08

---

10La chaleur

3Répondre

Haskell convertissant Float en Int

Je suis encore nouveau et essaye de créer une liste pour une utilisation dans une fonction et je veux la garder aussi petite que possible qui se trouve être logBase x y. mais j'ai du mal à insérer log

haskell floating-point int 2009-09-09

---

5La chaleur

2Répondre

Trunc() fonction

Regardez le code suivant, pourquoi le résultat de la fonction Trunc est différent? procedure TForm1.Button1Click(Sender: TObject); var D: Double; E: Extended; I: Int64; begin D :

delphi floating-point 2009-09-09

---

7La chaleur

4Répondre

Comment un C# évalue-t-il le point flottant dans le survol et la fenêtre intermédiaire par rapport à la compilation?

Je vois quelque chose d'étrange avec le stockage de doubles dans un dictionnaire, et je suis confus quant à pourquoi. Voici le code: Dictionary<string, double> a = new Dictionary<string, double>();

c# math floating-point 2009-09-10

---

2La chaleur

3Répondre

Problème de point flottant C++ Cout

#include <iostream> using namespace std; int main() { float s; s = 10/3; cout << s << endl; cout.precision(4); cout << s << endl; return 0; } Pourquoi la sor

c++ floating-point 2009-09-10

---

57La chaleur

10Répondre

Mise en forme double pour la sortie en C#

Exécution d'une expérience rapide liée à Is double Multiplication Broken in .NET? et lire quelques articles sur la mise en forme de chaîne C#, je pensais que ceci: { double i = 10 * 0.69; Co

c# formatting floating-point ieee-754 2009-09-14

---

15La chaleur

3Répondre

Pad flotteurs python

Je veux ajouter des valeurs en pourcentage pour qu'il y ait toujours 3 unités avant la décimale. Avec ints, je pourrais utiliser '% 03d' - y a-t-il un équivalent pour les flotteurs? '% .3f' fonctionne

python floating-point zero pad 2009-09-15

---

7La chaleur

2Répondre

Comment puis-je déclarer une variable de classe en tant que virgule flottante dans Moose?

Comment puis-je déclarer une variable de classe en tant que virgule flottante dans Moose? Mon exemple (fictif) ci-dessous produit des erreurs pour "Real", "Number", etc ... "Str" fonctionne mais vainc

perl floating-point moose 2009-09-17

---

6La chaleur

6Répondre

Arithmétique en rubis

Pourquoi ce code 7.30 - 7.20 dans ruby ​​renvoie 0.0999999999999996, et non 0.10? Mais si je vais écrire 7.30 - 7.16, par exemple, tout ira bien, je vais obtenir 0.14. Quel est le problème, et comment

ruby math floating-point ieee-754 2009-09-20

---

4La chaleur

2Répondre

Exponentiation rapide: real^real (C++ MinGW, Code :: Blocks)

Je suis en train d'écrire une application où dans un certain bloc j'ai besoin d'exponentialiser des réels autour de 3 * 500 * 500 fois. Lorsque j'utilise l'algorithme exp (y * log (x)), le programme e

c++ floating-point exponentiation 2009-09-20

---