web-dev-qa-db-fra.com

double-precision

Comment arrondissez-vous un double en Dart avec un degré de précision donné APRÈS la virgule décimale?

C # DateTime.Now precision

Existe-t-il un moyen d'obtenir l'heure actuelle en nanosecondes en utilisant JavaScript?

Qu'est-ce qu'une gamme de mesures F1 mauvaise, décente, bonne et excellente?

Comment calculer la précision et le rappel en keras

ValueError: pos_label = 1 n'est pas une étiquette valide: array (['neg', 'pos'], dtype = '<U3')

Conserver la précision avec double in Java

Dois-je utiliser un double ou un flotteur?

décimal vs double! - Lequel dois-je utiliser et quand?

Perte de précision - int -> float ou double

Comment "calculer" le nombre correct de décimales d'une valeur double?

Comment comparer correctement et uniformément les flotteurs?

Comment convertir en double avec 2 précision - chaîne après point?

Comment imprimer un double avec une précision totale sur iOS?

Convertir le flotteur en double perd sa précision mais pas via ToString

Perte de précision C # double à décimale

Opérateur égal pour les zéros (BigDecimal / Double) dans Java

Pourquoi convertir de float en double change la valeur?

Pourquoi une conversion aller-retour via une chaîne n'est-elle pas sûre pour un double?

Pourquoi l'ajout de 0.1 fois multiples reste sans perte?

Comment déterminer la précision maximale pour double

Toutes les valeurs entières sont-elles parfaitement représentées comme des doubles?

Pourquoi voudriez-vous utiliser float over double, ou double sur long double?

System.currentTimeMillis vs System.nanoTime

Comment mesurer le temps en millisecondes avec ANSI C?

Limiter les flottants à deux décimales

Est-il sûr de vérifier l'égalité des valeurs à virgule flottante à 0?

Comment puis-je imprimer une valeur double avec une précision complète en utilisant cout?

Pourquoi 24,0000 n'est-il pas égal à 24,0000 dans MATLAB?

Quelle est la différence entre une opération à virgule flottante simple précision et double précision?

Quelle plage de nombres peut être représentée dans un système IEEE-754 à 16, 32 et 64 bits?

Fonction qui crée un horodatage en c #

Réglage de la précision décimale, .net

Définir la précision d'affichage d'un float en Ruby

Contrôle du nombre de chiffres décimaux dans la sortie imprimée en R

Comment interpréter la précision et l'échelle d'un nombre dans une base de données?

Quelle est la différence entre float et double?

fopen / fopen_s et écriture dans des fichiers

Trouver l'angle entre les aiguilles des heures et des minutes dans une horloge analogique

JavaScript affichant un float à 2 décimales

Différence entre toFixed () et toPrecision ()?

PHP - Précision des nombres flottants

Construire un flottant 32 bits à partir de ses 4 octets composites

Obtenez du temps en millisecondes en utilisant C #

Dans MATLAB, les variables sont-elles VRAIMENT double précision par défaut?

Pourquoi n'y a-t-il pas de flotteur de 2 octets et une implémentation existe-t-elle déjà?

Valeurs flottantes double précision en Python?

Les mathématiques à virgule flottante sont-elles cohérentes en C #? Peut-il être?

Dans quel ordre faut-il ajouter des flotteurs pour obtenir le résultat le plus précis?

Comment créer un minuteur haute résolution sous Linux pour mesurer les performances du programme?

Pourquoi ne puis-je pas obtenir une valeur de p inférieure à 2,2e-16?

Un moyen facile de compter la précision, le rappel et le score F1 en R

Précision / rappel pour la classification multiclasse-multilabel

Comment régler la précision d'un float

Modification de la précision d'une colonne numérique dans Oracle

Définir la précision spécifique d'un BigDecimal

Double précision - décimales

Que signifie "vrai * 8"?

Comment plancher ou plafond en toute sécurité un CGFloat à int?

Diviser deux entiers pour produire un résultat float

régler la précision par défaut C++

Python: recherche l'index de l'élément minimum dans la liste des flottants

Comment convertir des millisecondes en secondes avec précision

Comment afficher un nombre avec toujours 2 décimales en utilisant BigDecimal?

Obtenez DateTime.Now avec une précision en millisecondes

Convertir Java Nombre en BigDecimal: meilleur moyen

Afficher deux chiffres après le point décimal en c ++

Spécificateur de largeur Printf pour conserver la précision de la valeur en virgule flottante

Résultats inattendus lorsque vous travaillez avec de très grands entiers sur des langages interprétés

ParseDouble existe-t-il en JavaScript?

Quel est le suffixe C ++ pour les longs littéraux doubles?

Pourquoi les nombres en virgule flottante sont-ils inexacts?

Golang flottant précision flottant32 vs float64

Puis-je spécifier un dtype numpy lors de la génération de valeurs aléatoires?

Comment arrondir correctement les demi-nombres flottants en Python?

Exactitude, précision et rappel pour les modèles multi-classes

Epsilon machine en Python

BigDecimal, précision et échelle

PHP7.1 json_encode () Float Issue

Score F1 vs ROC AUC

métriques Sklearn pour la classification multiclass

Qu'est-ce qu'un seuil dans une courbe de précision-rappel?

le résultat sinusoïdal dépend du compilateur C ++ utilisé

Comment vérifier si la colonne float pandas contient uniquement des nombres entiers?

La précision change-t-elle légèrement lors du casting int pour doubler en Java?

Egalité à virgule flottante

Pourquoi 199.96 - 0 = 200 en SQL?

Pourquoi double en C imprime-t-il moins de chiffres décimaux que C ++?

Comment obtenir la plus grande précision possible? (Python - Décimal)

Problèmes numériques intégrant un signal d'impulsion retardé (fixedDelay)

Y a-t-il un type d'entier de 256 bits?

Pourquoi mon arithmétique est-il avec une longue longue portée.

Comment tracer la précision et le rappel du classificateur multiclass?

C # Impossible de lancer l'objet de type 'system.double' pour taper 'system.single'

Somme stable efficace de nombres ordonnés

Quelle est la manière correcte / standard de vérifier si la différence est inférieure à la précision de la machine?

Comment -march Native affecte-t-il l'exactitude des points flottants?

Y a-t-il une différence entre "chaîne" et "chaîne" en Python?

Quelle est la différence entre String.Empty et "" (chaîne vide)?

Pourquoi les gens utilisent-ils tellement __ (double soulignement) en C ++