floating-point

0La chaleur

3Répondre

Problème avec les flotteurs dans Objective-C

J'ai un petit problème et je ne trouve pas de solution! Mon code est (c'est seulement un exemple de code, mais mon code d'origine quelque chose comme ça): float x = [@"2.45" floatValue]; for(int i=

objective-c cocoa floating-point floating-point-precision 2009-07-28

---

3La chaleur

3Répondre

précision à virgule flottante

J'ai un programme écrit en C# et certaines parties écrivent en C/C++ natif. J'utilise des doubles pour calculer certaines valeurs et parfois le résultat est faux en raison d'une trop petite précision.

c# c++ math floating-point double 2009-07-29

---

3La chaleur

3Répondre

SQL Server apporte une précision supplémentaire pour les flottants?

La perte de précision est une chose, mais le gain de précision ??? Je dispose d'un fichier texte avec/les coordonnées suivantes: 41.88694340165634 -87.60841369628906 Quand je coller dans la vue tabl

sql-server floating-point 2009-07-29

---

5La chaleur

3Répondre

Convertir la liste des flottants en tampon en Python?

Je joue avec PortAudio et Python. data = getData() stream.write(data) Je souhaite que mon flux joue des données audio, représentées dans les valeurs Float32. Par conséquent, j'utilise la fonction s

python list floating-point buffer 2009-08-04

---

2La chaleur

4Répondre

Mathématiques à virgule flottante incorrecte?

Voici un problème qui m'a complètement dérouté eu depuis quelques heures ... Je dur une équation codée dans mon programme: double s2; s2 = -(0*13)/84+6/42-0/84+24/12+(6*13)/42; Chaque fois que je

c++ floating-point 2009-08-06

---

4La chaleur

2Répondre

Double (s) à travers différentes architectures de CPU?

Est-il possible d'envoyer des valeurs à virgule flottante double réseau (ajustées pour l'ordre correct des octets bien sûr) et de les utiliser de manière interchangeable sur différentes architectures

serialization floating-point portability cpu-architecture 2009-08-07

---

3La chaleur

4Répondre

Comment puis-je connaître dynamiquement le taux d'erreur en virgule flottante?

En raison de la difficulté pour la machine pour représenter des valeurs à virgule flottante exactement, nous utilisons la technique de Write Great Code: Understanding the machine pour effectuer des co

algorithm floating-point 2009-08-11

---

5La chaleur

4Répondre

Impression de la valeur d'un flottant à 2 décimales

J'ai un flottant avec la valeur de 57,400002 par exemple. J'utilise sprintf_s pour afficher la valeur sur mon interface graphique. sprintf_s(xPosition, 19, "%f", xPositionValue); Comment puis-je for

c++ winapi floating-point format printf 2009-08-13

---

0La chaleur

1Répondre

Représentation numérique à virgule flottante dans Actionscript?

Est-il possible d'obtenir les octets bruts d'un objet Number à virgule flottante (IEEE-754) dans Actionscript? Ou alternativement, si je peux obtenir le signe (1 bit), la mantisse (52 bits) et l'expos

actionscript-3 floating-point 2009-08-14

---

21La chaleur

7Répondre

Sélection d'un flotteur dans MySQL

Je suis en train de faire un match SELECT sur une table basée sur un identifiant et un prix, tels que: SELECT * FROM `table` WHERE `ident`='ident23' AND `price`='101.31'; Les rendements supérieurs à

php mysql floating-point database 2009-08-19

---