floating-point

17La chaleur

5Répondre

Représentation d'entiers dans des doubles

Un double (d'un nombre donné d'octets, avec une balance mantisse/exposant raisonnable) peut-il toujours contenir exactement la plage d'un entier non signé de la moitié de ce nombre d'octets? E.g. un o

c math floating-point precision ieee-754 2009-04-17

---

10La chaleur

2Répondre

Comment puis-je convertir quatre caractères en un flottant IEEE-754 32 bits en Perl?

J'ai un projet dans lequel une fonction reçoit quatre caractères de 8 bits et doit convertir le flottant IEEE-754 résultant de 32 bits en un nombre Perl normal. Il semble qu'il devrait y avoir un moye

perl floating-point ieee-754 2009-04-20

---

21La chaleur

6Répondre

Java: double vs float

Dans un autre exercice de Bruce Eckel, le code que j'ai écrit prend une méthode et change de valeur dans une autre classe. Voici mon code: class Big { float b; } public class PassObject {

java types casting floating-point double 2009-04-24

---

3La chaleur

2Répondre

comment obtenir des nombres pour avoir une précision de .05?

qui suit veillera à ce que tout grand nombre ne seront précis au lieu de centièmes (related to this answer): public function round(sc:Number):Number { sc = sc * 100; sc = Math.floor(sc);

actionscript-3 math actionscript floating-point rounding 2009-04-28

---

1La chaleur

3Répondre

gardant même mise en forme pour virgule flottante des valeurs

J'ai un programme python qui lit les valeurs à virgule flottante en utilisant l'expression régulière suivante (-?\d+\.\d+) une fois que j'extraire la valeur à l'aide flotteur (match.group (1)), je r

python formatting floating-point 2009-04-28

---

3La chaleur

1Répondre

Existe-t-il un module Perl pour convertir la notation virgule hexadécimale c99 en notation normale?

Existe-t-il une bibliothèque intégrée que je peux utiliser pour convertir la notation à virgule flottante de type c99, par exemple: 0x1.0p23f, en nombres à virgule flottante en utilisant Perl (et vice

perl floating-point hex string-parsing 2009-04-29

---

1La chaleur

4Répondre

Jython: analyse du texte à virgule flottante contenant des virgules

Comment puis-je analyser un flottant numérisé à partir d'une feuille sous forme de texte, contenant des virgules? txt = "1,903.44" value = float(txt) # This fails due to ',' in string MISE À JOUR:

floating-point jython string-parsing 2009-04-30

---

5La chaleur

8Répondre

Est-ce que java.lang.Math.PI est égal à M_PI de GCC?

Je suis en train de coder plusieurs algorithmes de référence en Java et en C/C++. Certains de ces algorithmes utilisent π. Je voudrais que les deux implémentations de chaque algorithme produisent résu

java gcc floating-point language-features pi 2009-05-05

---

3La chaleur

2Répondre

C# Validation d'entrée pour une zone de texte: float

Cette tâche soi-disant facile m'a donné mal à la tête. Je veux simplement laisser l'utilisateur entrer n'importe quel texte qui réussit float.TryParse dans un contrôle Textboxish. Je pourrais utiliser

c# textbox floating-point validation maskedtextbox 2009-05-06

---

11La chaleur

1Répondre

Que signifie l'erreur de virgule flottante -1. # J?

Récemment, parfois (rarement) lorsque nous exportons des données de notre application, le journal d'exportation contient des valeurs flottantes qui ressemblent à "-1. # J". Je n'ai pas pu le reproduir

c++ c floating-point printf 2009-05-08

---