ieee-754

0La chaleur

1Répondre

Lorsque je multiplie un flottant en utilisant multu, devrais-je ignorer le résultat dans le registre LO?

Dans notre projet, nous prenons deux flotteurs de l'utilisateur, les stockons dans des registres entiers et les traitons comme des flotteurs IEEE 754 à simple précision, en manipulant les bits par mas

mips ieee-754 multiplying 2009-09-01

---

17La chaleur

5Répondre

Représentation d'entiers dans des doubles

Un double (d'un nombre donné d'octets, avec une balance mantisse/exposant raisonnable) peut-il toujours contenir exactement la plage d'un entier non signé de la moitié de ce nombre d'octets? E.g. un o

c math floating-point precision ieee-754 2009-04-17

---

57La chaleur

10Répondre

Mise en forme double pour la sortie en C#

Exécution d'une expérience rapide liée à Is double Multiplication Broken in .NET? et lire quelques articles sur la mise en forme de chaîne C#, je pensais que ceci: { double i = 10 * 0.69; Co

c# formatting floating-point ieee-754 2009-09-14

---

10La chaleur

2Répondre

Comment puis-je convertir quatre caractères en un flottant IEEE-754 32 bits en Perl?

J'ai un projet dans lequel une fonction reçoit quatre caractères de 8 bits et doit convertir le flottant IEEE-754 résultant de 32 bits en un nombre Perl normal. Il semble qu'il devrait y avoir un moye

perl floating-point ieee-754 2009-04-20

---

6La chaleur

6Répondre

Arithmétique en rubis

Pourquoi ce code 7.30 - 7.20 dans ruby ​​renvoie 0.0999999999999996, et non 0.10? Mais si je vais écrire 7.30 - 7.16, par exemple, tout ira bien, je vais obtenir 0.14. Quel est le problème, et comment

ruby math floating-point ieee-754 2009-09-20

---