floating-point

22La chaleur

11Répondre

Utilisation de flottants avec sprintf() dans C

intégrés, je veux savoir si float variables peuvent être utilisés dans la fonction sprintf(). Comme, si l'on écrit: sprintf(str,"adc_read = %d \n",adc_read); où adc_read est une variable entière, il

6La chaleur

2Répondre

Conversion d'un tableau de chaînes en tableau de flèches

J'écris une application qui tourne autour de l'obtention de jeux de données numériques à partir d'un fichier. Cependant, puisque les données sont acquises sous forme de chaîne, je dois le convertir en

8La chaleur

7Répondre

Logarithme inexact en Python

Je travaille quotidiennement avec Python 2.4 dans mon entreprise. J'ai utilisé la fonction logarithm polyvalente 'log' de la bibliothèque mathématique standard, et quand j'ai entré le journal (2 ** 31

14La chaleur

6Répondre

Comparaison de deux matrices dans Matlab

J'ai deux matrices x et y, les deux sont des résultats de différents algorithmes/routines qui sont supposés calculer le même résultat. Bien que je sache que isequal() vérifierait si x et y sont la mêm

2La chaleur

3Répondre

Comment puis-je contourner une erreur d'arrondi qui provoque une boucle infinie dans Perl's Statistics :: Descriptive?

J'utilise la bibliothèque Statistics::Descriptive en Perl pour calculer les distributions de fréquence et faire face à un problème d'erreur d'arrondi en virgule flottante. Je passe deux valeurs, 0,205

3La chaleur

2Répondre

Conversion entre les types en Objective-C

Être un démarrage développeur Objective-C, et ne pas avoir la patience de le faire réellement une étude, plutôt que de plonger dans les choses, je suis tombé sur les éléments suivants: J'ai un CGFloat

6La chaleur

6Répondre

Imprimer des flottants avec un nombre spécifique de zéros

Je sais comment contrôler le nombre de décimales, mais comment contrôler le nombre de zéros spécifiquement? Par exemple: 104.06250000 -> 104.0625 119.00000 -> 119.0 72.000000 -> 72.0

2La chaleur

1Répondre

Comment "remplir" un paramètre IntPtr avec une valeur flottante?

J'utilise dllImport pour utiliser une bibliothèque C dans C# .NET. L'une des méthodes de cette bibliothèque utilise le type de données void * en tant que paramètre. J'ai découvert que je peux utiliser

0La chaleur

1Répondre

Floating Point Numeric - Numéro décimal SAS

Est-ce que quelqu'un sait quel format SAS est nécessaire pour convertir cette chaîne correctement? data _null_; x="0.14553821459"; y=input(x,best32.); put y=; run;

2La chaleur

3Répondre

Pourquoi la division JSP/JSTL par 1000 donne-t-elle parfois un reste?

En divisant par 1000, je rencontre parfois un bug qui ne fait pas la division "correctement". Par exemple, en divisant 90,55 par 1000 au lieu d'obtenir .09055, j'obtiens .090549999999. <c:out value="$