bug dans Foxpro ?????

Bonjour à vous tous...

Peut-être quelqu'un va t'il trouver une réponse à ce bug lié aux décimales dans Foxpro (testé en version 7, 8 et 9).

par exemple
?63.2250000000000000000 affiche 63.2250000000000000000

?64.2250000000000000000 affiche 64.2259999999999990000

Foxpro fait la même "erreur" entre 64 et 81... allez comprendre pourquoi !!!!

De ce fait, la fonction round() pose aussi problème, en effet
? round(63.2250000000000000000,2) donne 63.23
? round(64.2250000000000000000,2) donne 64.22

par contre, si on limite les décimales à 10, aucun problèmes
? round(round(64.2250000000000000000,10),2) donne 64.23

J'ai remarqué ce phénomène uniquement entre 64 et 81. Les tests peuvent sembler tordu, mais dans mon domaine, on a souvent besoin de pus de 10 décimales pour travailler.

Toute réponse est bienvenue

Thierry

tu peux faire ce test dans n'importe quel langage, tu auras le même résultat. C'est le défaut des valeurs numériques à virgule flottante... le double :
double 15 digits représentatifs.
double long 19 digits représentatifs.


Fred
membre actif d'AtoutFox
MS MVP VFP

pour info la limite :

? round(64.225000000000+0.00000000000001,2)


Fred
membre actif d'AtoutFox
MS MVP VFP

oui, mais pourquoi seulement avec 4, entre 64 et 81, entre 1024 et 1310, et enore plus loin (je n'ai testé qu'avec les valeurs entre 1 et 10000 ?

Les autres valeur, même en virgule flottante sont correctes.

En passant, si dans l'analyseur de requete de SQL tu tapes
PRINT ROUND(64.2250000000000000000,2) il affiche la bonne valeur, soit... 64.230000000000000000

Effectivement,...

J'enquête...

@+

Fred
membre actif d'AtoutFox
MS MVP VFP

ok... bonne enquête :-)

moi j'ai essayé jusqu'au binaire des parties entières... tout ce que j'ai remarqué comme point commun, c'est que ...

4 -> 0101
64 -> 0101 0000
1024 -> 0101 0000 0000
16384 -> 0101 0000 0000 0000
etc....

pour les chiffres 81 et 1310, je vois pas de point commun ...

Datadis,

aurez tu un bout de code qui met en valeur ce pb ?
comment as tu testé les valeurs 1 à 10000

dans mon test, seul la valeur 4.22500000 pose problème alors qu'en ligne de commande 64.22500000 aussi...


Fred
membre actif d'AtoutFox
MS MVP VFP

oui, le bout de code est assez simple...

LOCAL i,y,z

CLEAR
STRTOFILE("","c:\test.txt",0)

FOR i = 1 TO 100000
y = i + .225000000000000
z = i + .23
IF ROUND(y,2)<>z THEN
STRTOFILE(STR(i)+CHR(13)+CHR(10),"c:\test.txt",1)
ENDIF
NEXT


Il suffit ensuite d'aller lire le fichier résultat... ce sont les chiffres avec erreur d'arrondis

MS confirme ton bug
Le correctif devrait arriver dans la prochaine

Merci


Fred
membre actif d'AtoutFox
MS MVP VFP

comment as tu eu la confirmation de MS?

J'ai testé avec la version 9 (beta) de Foxpro... le bug est toujours là. Va t'il disparaître avec la version finale?