Je travaille sur une calculatrice d'ingénierie en python et j'ai trouvé des packages qui peuvent convertir une valeur flottante en notation d'ingénierie. J'ai d'abord installé engfmt :

Code:

from engfmt import to_eng_fmt

num = -327.2051
num = to_eng_fmt(num, prec=4)
print(num)

Production:

-327.21

Le deuxième package que j'ai installé est quantiphy car il s'agit d'une nouvelle version et sert le même objectif que engfmt :

Code:

from quantiphy import Quantity

num = -327.2051
num = Quantity(num).fixed(prec=4)
print(num)

Production:

-327.21

Ce que je veux, c'est afficher la valeur décimale de précision jusqu'à 4 positions. comme ça -327.2051

Version:

  • Python == 3.7.9
  • quantité == 2.12.0
  • engfmt == 0.2.0 (je ne peux pas installer la version 1.1.0 car cela me donne une erreur. Cette version ne fonctionne que pour moi)
1
mango orange 7 oct. 2020 à 20:55

1 réponse

Meilleure réponse

Dans les deux cas, l'argument mot-clé prec= ne spécifie pas le nombre de chiffres après le point décimal. Il détermine la précision du nombre entier, c'est-à-dire le nombre de tous les chiffres.

Par convention, le nombre de tous les chiffres est une précision spécifiée plus 1,, c'est-à-dire que votre précision prec=4 donne un résultat de 5 chiffres.

Augmentez votre précision à prec=6 (dans votre cas).

1
MarianD 7 oct. 2020 à 18:18