web-dev-qa-db-fra.com

floating-point

Comment plancher ou plafond en toute sécurité un CGFloat à int?

Conversion de float en char *

Python: recherche l'index de l'élément minimum dans la liste des flottants

flotteur au format printf avec rembourrage

Spécificateur de largeur Printf pour conserver la précision de la valeur en virgule flottante

Pourquoi convertir de float en double change la valeur?

Comparaison des flottants dans une colonne pandas

En C ++, est-ce exactement l'un des <, == et> garantis pour être vrai sur les flottants?

Egalité à virgule flottante

Comment utiliser Expr sur Float?

stocker des montants d'argent dans mysql

Les calculs en virgule flottante sont-ils cassés?

Grands nombres arrondis par erreur en JavaScript

Exemples d'inexactitude en virgule flottante

PHP - Précision des nombres flottants

zéro négatif dans python

Comment comparer correctement et uniformément les flotteurs?

Tronquer (ne pas arrondir) les nombres décimaux en javascript

Pourquoi 0,1 + 0,2 == 0,3 en D?

Pourquoi ces chiffres ne sont-ils pas égaux?

Est-il dangereux de comparer des valeurs en virgule flottante?

Python précision flottante à virgule flottante disponible?

Faire face à la précision du flottant en Javascript

Est-il possible d'obtenir 0 en soustrayant deux nombres à virgule flottante inégaux?

Quel est le double le plus proche de 1.0, ce n'est pas 1.0?

Pourquoi la valeur à virgule flottante de 4 * 0.1 a-t-elle une belle apparence en Python 3 mais 3 * 0.1 ne l’est pas?

moyenne de pandas et numpy diffèrent

Spécification du format de nuage de points XYZ

Python - Afficher le nuage de points 3D

La meilleure façon d'analyser le flotteur?

Comment arrondir un nombre à virgule flottante en Perl?

Comment puis-je arrondir un nombre en JavaScript?

Comment convertir un float en int dans Objective C?

Comment puis-je convertir une chaîne en un nombre en Perl?

Conserver la précision avec double in Java

Le nombre décimal tronqué n'est pas arrondi

Comment vérifier si une chaîne est un nombre (float)?

Java double comparaison epsilon

Comment analyser une chaîne avec un float ou un int?

Comment puis-je afficher la représentation binaire d'un float ou d'un double?

Comment vérifier les valeurs infinies et indéterminées en C++?

Limiter les flottants à deux décimales

Comment utiliser une valeur décimale range ()?

PHP Chaîne pour flotter

Est-il sûr de vérifier l'égalité des valeurs à virgule flottante à 0?

round () pour float en C ++

Existe-t-il une fonction pour arrondir un nombre dans C ou dois-je écrire le mien?

Extraire la partie décimale d'un nombre à virgule flottante en C

Pourquoi C n'a-t-il pas de flotteurs non signés?

Quand devrais-je utiliser le mot clé "strictfp" en Java?

Flotter dans la base de données à? en .NET

Comment puis-je imprimer une valeur double avec une précision complète en utilisant cout?

Fonction permettant de déterminer si deux nombres sont presque égaux lorsqu'ils sont arrondis à n chiffres décimaux significatifs

Faire un flotteur montrer seulement deux décimales

Différence entre décimal, float et double dans .NET?

Comment convertir une chaîne en float en JavaScript?

Comment supprimer la notation scientifique en Python?

Comment formater un float en javascript?

Génération aléatoire de nombres flottants

Pourquoi 24,0000 n'est-il pas égal à 24,0000 dans MATLAB?

Comment formater joliment des nombres flottants en chaîne sans décimal 0 inutile?

Tronquer des flotteurs en Python

Java: double vs float

Quelle est la différence entre une opération à virgule flottante simple précision et double précision?

Quand devrais-je utiliser double au lieu de décimal?

Quelle plage de nombres peut être représentée dans un système IEEE-754 à 16, 32 et 64 bits?

Utilisation de floats avec sprintf () dans C intégré

Convertissez float en double sans perdre de précision

Comment convertir Int / Decimal en float en C #?

Dois-je utiliser un double ou un flotteur?

Pourquoi les nombres décimaux ne peuvent-ils pas être représentés exactement en binaire?

La taille à double octet dans les systèmes d'exploitation 32 bits et 64 bits

Comment puis-je forcer la division à être une virgule flottante? La division continue à arrondir à 0?

Comment convertir float en int avec Java

Sélection d'un float dans MySQL

Conversion d'un float en chaîne sans l'arrondir

Arrondir le nombre à 2 décimales en C

Racine carrée rapide inverse inhabituelle de John Carmack (Quake III)

Le formatage double pour la sortie en C #

Format flottants avec module json standard

Comment traiter la précision des nombres en virgule flottante en JavaScript?

Vérifier la double variable si elle contient un entier et non une virgule flottante

Pourquoi SSE scalaire sqrt (x) plus lent que rsqrt (x) * x?

Conversion double en chaîne sans notation scientifique

Quelle est la raison pour laquelle toutes les comparaisons renvoient false pour les valeurs IEEE754 NaN?

Facile jolie impression de flotteurs en python?

Convertir hex en flottant

Lorsque je divise des nombres en clojure, j'obtiens une fraction, comment puis-je obtenir la décimale?

php float calcul 2 point décimal

Le moyen le plus rapide de mettre à zéro les valeurs faibles dans le tableau?

Quelle est la gamme inclusive de float et double en Java?

Quelle est la longueur maximale en caractères nécessaire pour représenter une valeur double?

Comment effectuer une opération au niveau des bits sur des nombres à virgule flottante

Pourquoi Double.compare de Java (double, double) est-il implémenté tel quel?

Quelle est la plage de valeurs qu'un flotteur peut avoir en Python?

le plus grand entier qui peut être stocké dans un double

Fonction pour 'la matrice contient-elle la valeur X?'

Définir la précision d'affichage d'un float en Ruby

Python JSON sérialise un objet Decimal

Formatage des flottants dans l'objectif C