XL 2019 formule equiv en panne

[Sheldor]

bonjour à tous,
je me suis déjà fait avoir par 4.3 - 4.2 qui ne "vaut" pas 0.1 sur un ordi mais 0,0999999999999996 mais là j'ai une formule équiv qui est incapable de me trouver 0.1 dans une liste simple, et ça m'a l'air d'être vraiment 0.1 car en affichant 30 chiffres après la virgule c'est bien ce que je vois.... 0.1. C'est embêtant car sur un gros jeu de données ça peut avoir des conséquences et c'est difficile à détecter.

si je tape 0.1 dans la parenthèse d'équiv ça marche, si je fais appel à ma cellule ça ne marche pas...
la pj sera plus claire que mes explications...

merci de m'avoir lu
très bonne journée

 

[JHA]

Bonjour à tous,

Pourquoi ne pas arrondir la valeur?

=EQUIV(ARRONDI(C2;1);E:E;0)

JHA

 

[Sheldor]

bonjour JHA,
oui maintenant que j'ai trouvé le problème je peux bricoler un arrondi c'est vrai

mais c'est plus que je me demandais si ça venait de moi ou si on ne peut jamais faire confiance à une valeur simple qu'on voit dans une cellule même en affichant le maximum de chiffres après la virgule...

En multipliant par 10 Exposant 90 je ne vois d'ailleurs toujours que des zéros
100000000000000000000000000000000000000000000000000000000000000000000000000000000000000000,000000000000000000000000000000)

bonne journée

 

[JHA]

Bonjour à tous,

Pour excel, le résultat de la formule en "C2" n'est peut-être pas 0,1.
Tu peux éviter ce soucis avec

=EQUIV(C2;$E$2:$E$36)

JHA

 

[Phil69970]

Bonjour à tous

Ceci fonctionne aussi

=EQUIV(C2;E:E)

C'est quand tu mets la précision exacte que le pb arrive

En l'absence de Type il te donne le plus près de la valeur !!!

ou bien

=EQUIV(C2;E:E;1)

 

[Sheldor]

merci Phil69970 et JHA
j'ai toujours peur d'utiliser autre chose que 0 dans equiv, dans l'exemple pas de crainte mais parfois j'ai besoin de la valeur exacte...
je serais prudent quand je vois une valeur dans une cellule... excel en voit peut être une autre...

bonne journée

 

[Phil69970]

Re

je serais prudent quand je vois une valeur dans une cellule... excel en voit peut être une autre...

C'est surtout quand la valeur est issu d'un calcul

 

[Sheldor]

oui c'est vrai
je pensais que ça se "verrait" (genre 4.3-4.2 <>0.1) en affichant beaucoup de chiffres après la virgule, là c'est quasi indétectable...

 

[Dranreb]

Bonjour.
[pb_equiv.xlsx]Feuil1!C1, constante Double affiche: 1,1
vaut: +&H1,199999999999A × 2^+&H000 soit: 2476979795053773 / 2^51
soit: 1,100000000000000088817841970012523233890533447265625
[pb_equiv.xlsx]Feuil1!C2, formule =SI(C1>1;C1-ENT(C1);C1), affiche: 0,1
vaut: +&H1,99999999999A0 × 2^-&H004 soit: 225179981368525 / 2^51
soit: 0,100000000000000088817841970012523233890533447265625
[pb_equiv.xlsx]Feuil1!E6, constante Double, affiche: 0,1
vaut: +&H1,999999999999A × 2^-&H004 soit: 3602879701896397 / 2^55
soit: 0,1000000000000000055511151231257827021181583404541015625

 

[Sheldor]

Bonjour Dranreb,
j'avoue que je n'ai pas compris... mais... j'aimerais beaucoup comprendre
que veulent dire &H et A

c'est le fonctionnement "interne" de l'ordi ?

merci

 

[Dranreb]

En VBA &H annonce une constante spécifiée en hexadécimal (base 16 utilisant les chiffres 0 à 9 puis les lettres A à F). Un de ces caractères représente chaque fois 4 bits.

 

[Sheldor]

merci
du coup en terme de calcul il y a des valeurs qu'on ne peut que approcher mais pas atteindre?

 

[Dranreb]

Exactement !
D'autres types de données, non réellement utilisés par Excel le peuvent en VBA: Currency et Variant/Decimal.

 

[Sheldor]

super intéressant, merci