floating-point

3La chaleur

1Répondre

C# float comparaison à int

J'ai vu ce code flottant autour des intertubes pour déterminer si un appareil Windows Mobile dispose d'un écran VGA (code est dans une méthode d'une classe Form): SizeF currentScreen = this.CurrentAut

c# floating-point windows-mobile compact-framework 2010-10-01

---

3La chaleur

4Répondre

Comment% g arrondit les nombres à virgule flottante?

Alors que j'utilise %g comme spécificateur de format dans printf(), parfois il arrondit jusqu'à 2 places après la virgule, parfois jusqu'à 3 places, parfois jusqu'à 4 places ... comment cela se fait-i

c floating-point floating-point-conversion 2010-10-01

---

3La chaleur

2Répondre

Confusion avec des nombres à virgule flottante

int main() { float x=3.4e2; printf("%f",x); return 0; } Sortie: 340.000000 // It's ok. Mais si écriture x=3.1234e2 la sortie est 312.339996 et si x=3.12345678e2 la sortie est 312.34

c floating-point floating-point-precision floating-point-conversion 2010-10-01

---

7La chaleur

4Répondre

Python: a peut être arrondi à b dans le cas général

En tant que partie d'un code de test unitaire que j'écris, j'ai écrit la fonction suivante. Le but est de déterminer si «a» peut être arrondi à «b», indépendamment de la précision de «a» ou de «b». de

python floating-point rounding 2010-10-03

---

2La chaleur

4Répondre

Algorithme ou code pour la notation scientifique float to base 2 (IEEE 32 bits) en C++?

Je prends un flottant en entrée, puis je renvoie sa représentation équivalente en notation scientifique de base 2. C'est en IEEE 32 bits avec: 31 bits de signe, 23-30 exposant (avec 127 offset), 0-22

c++ algorithm floating-point ieee-754 2010-10-03

---

3La chaleur

1Répondre

Floating point et ambiguïté entière

J'ai une fonction (et un constructeur) qui devrait être capable de prendre des valeurs entières et des valeurs à virgule flottante. En fait, je veux prendre un int64_t ou un long double, donc ce que j

c++ floating-point integer ambiguity 2010-10-03

---

1La chaleur

3Répondre

Quelques questions sur les points flottants

Je me demande si un nombre est représenté d'une manière dans une représentation en virgule flottante, est-ce qu'il va être représenté de la même manière dans une représentation qui a une plus grande t

c++ floating-point floating-accuracy 2010-10-06

---

4La chaleur

2Répondre

C++ Conversion d'un flottant en un caractère non signé?

Je suis nouveau en C++, et faire un peu de googling je pensais que sprintf ferait le travail, mais j'obtiens une erreur lors de la compilation que je ne peux pas convertir entre un unsigned char et ch

c++ floating-point unsigned-char 2010-10-10

---

-3La chaleur

3Répondre

Comment puis-je mettre uniquement la valeur après la virgule?

J'ai une sortie et je veux utiliser seulement trois valeurs après la virgule. Comment puis-je faire ça en Python?

python floating-point 2010-10-12

---

0La chaleur

1Répondre

Comment vérifier si des erreurs ont été corrigées?

Cela peut être une question stupide à poser: Lors de l'utilisation de float il ya quelques arrondi pour les décimales, comment vérifier les erreurs d'arrondi de préférence en Java ou C? Toutes les sug

java c floating-point 2010-10-13

---