Ceci est une page optimisée pour les mobiles. Cliquez sur ce texte pour afficher la vraie page.

XL 2019 formule equiv en panne

Sheldor

XLDnaute Occasionnel
Supporter XLD
bonjour à tous,
je me suis déjà fait avoir par 4.3 - 4.2 qui ne "vaut" pas 0.1 sur un ordi mais 0,0999999999999996 mais là j'ai une formule équiv qui est incapable de me trouver 0.1 dans une liste simple, et ça m'a l'air d'être vraiment 0.1 car en affichant 30 chiffres après la virgule c'est bien ce que je vois.... 0.1. C'est embêtant car sur un gros jeu de données ça peut avoir des conséquences et c'est difficile à détecter.

si je tape 0.1 dans la parenthèse d'équiv ça marche, si je fais appel à ma cellule ça ne marche pas...
la pj sera plus claire que mes explications...

merci de m'avoir lu
très bonne journée
 

Pièces jointes

  • pb_equiv.xlsx
    14.1 KB · Affichages: 5

Sheldor

XLDnaute Occasionnel
Supporter XLD
bonjour JHA,
oui maintenant que j'ai trouvé le problème je peux bricoler un arrondi c'est vrai

mais c'est plus que je me demandais si ça venait de moi ou si on ne peut jamais faire confiance à une valeur simple qu'on voit dans une cellule même en affichant le maximum de chiffres après la virgule...

En multipliant par 10 Exposant 90 je ne vois d'ailleurs toujours que des zéros
100000000000000000000000000000000000000000000000000000000000000000000000000000000000000000,000000000000000000000000000000)

bonne journée
 

Sheldor

XLDnaute Occasionnel
Supporter XLD
merci Phil69970 et JHA
j'ai toujours peur d'utiliser autre chose que 0 dans equiv, dans l'exemple pas de crainte mais parfois j'ai besoin de la valeur exacte...
je serais prudent quand je vois une valeur dans une cellule... excel en voit peut être une autre...

bonne journée
 

Dranreb

XLDnaute Barbatruc
Bonjour.
[pb_equiv.xlsx]Feuil1!C1, constante Double affiche: 1,1
vaut: +&H1,199999999999A × 2^+&H000 soit: 2476979795053773 / 2^51
soit: 1,100000000000000088817841970012523233890533447265625
[pb_equiv.xlsx]Feuil1!C2, formule =SI(C1>1;C1-ENT(C1);C1), affiche: 0,1
vaut: +&H1,99999999999A0 × 2^-&H004 soit: 225179981368525 / 2^51
soit: 0,100000000000000088817841970012523233890533447265625
[pb_equiv.xlsx]Feuil1!E6, constante Double, affiche: 0,1
vaut: +&H1,999999999999A × 2^-&H004 soit: 3602879701896397 / 2^55
soit: 0,1000000000000000055511151231257827021181583404541015625
 

Dranreb

XLDnaute Barbatruc
En VBA &H annonce une constante spécifiée en hexadécimal (base 16 utilisant les chiffres 0 à 9 puis les lettres A à F). Un de ces caractères représente chaque fois 4 bits.
 
Dernière édition:
Les cookies sont requis pour utiliser ce site. Vous devez les accepter pour continuer à utiliser le site. En savoir plus…