precision

4La chaleur

1Répondre

Existe-t-il un moyen d'imprimer au moins 20 chiffres significatifs dans Octave?

Je dois imprimer le résultat d'un programme avec 20 chiffres significatifs, mais je ne sais pas comment imprimer plus de 15 chiffres (format long). Y'a-t-il une quelconque façon de réussir cela?

precision octave numerical-computing significant-digits 2010-11-03

---

2La chaleur

1Répondre

Vous cherchez un bon substitut pour calculer le pourcentage en utilisant des maths entiers

Je suis une programmation amateur pour une application embarquée. L'application nécessite de la vitesse. Je voudrais déterminer si une certaine variable (appelez-le "X") a passé un certain pourcentage

math integer precision 2010-11-17

---

1La chaleur

1Répondre

Matlab: Stockage grand nombre dans Matlab

Pour stocker un grand nombre, je me réfère à la suivante: 2.7182818284590455348848081484902650117874145507812500 Je ne peux pas sauver ce avec double precision floating-point format (IEEE754) Merci.

matlab floating-point precision double-precision 2010-11-19

---

52La chaleur

1Répondre

Dans MATLAB, les variables sont-elles VRAIMENT en double-précision par défaut?

Cette question a été posée sur quelque chose d'étrange que j'ai remarqué après avoir enquêté sur this question plus loin ... J'ai toujours compris les variables Matlab être double-precision par défaut

variables matlab floating-point precision 2010-11-19

---

4La chaleur

7Répondre

Quelles sont les règles régissant les calculs mixtes C++ simple et double précision?

Par exemple, ces variables: result (double) a (double) b (float) c (float) d (double) Un calcul simple: result = a * (b + c) * d Comment et quand sont les types convertis et comment puis-je sa

c++ types floating-point type-conversion precision 2010-11-21

---

0La chaleur

1Répondre

question la saisie des données Actionscript

<s:TextInput id="bill" x="150" y="17" width="223" borderColor="#FFFBFB" borderVisible="false" color="#EF4315" contentBackgroundColor="#100101" enabled="false" fontWeight="bold" restrict="0-9" text

actionscript precision textinput 2010-11-23

---

1La chaleur

1Répondre

Précision relative du GPS Android

I know that La précision absolue de la détection de position pour le matériel GPS n'est pas aussi précise. Mais supposons que j'ai deux androïdes et qu'ils se synchronisent en un même endroit. Dans qu

android gps precision 2010-10-09

---

4La chaleur

2Répondre

Comment configurer Rails pour générer des nombres décimaux avec la précision correcte dans les champs de formulaire?

Je souhaite stocker des devises dans mes bases de données (sqlite et mysql). J'essaie d'utiliser le type de colonne decimal, avec :scale => 2. Ceci ne se comporte pas comme prévu. Si j'enregistre un e

mysql ruby-on-rails sqlite decimal precision 2010-10-19

---

3La chaleur

1Répondre

Rendu imprécis des visuels WPF énormes - des solutions?

Lors du rendu d'images volumineuses dans WPF, le visuel est déformé et déformé par des coordonnées croissantes. Je suppose que cela a quelque chose à voir avec les types de données à virgule flottante

wpf drawing rendering coordinates precision 2010-10-24

---

0La chaleur

4Répondre

Existe-t-il une solution pour les problèmes arithmétiques à virgule flottante en C++?

Je fais de l'arithmétique en virgule flottante et j'ai des problèmes de précision. La valeur résultante est différente sur deux machines pour la même entrée. J'ai lu le poste @Why can't I multiply a f

c++ floating-point precision multiplication epsilon 2010-10-28

---