Type de donnée: Erreur ENORME!!

[jeromegmc]

Boujour à tous,

Savez vous que pour VBA 7.6-7.4 = 0.199999999999999 lorsque l'on ne définit pas le type de donnnée de notre variable (par défaut elle est définit pas VBA en tant que 'Variant').

Je trouve cela très dérangeant, et ce qui est encore plus dérangeant, c'est que le résultat différe, pour le type de données 'single' selon que l'on affiche le résultat dans une cellule ou dans un msgbox.

Quelqu'un pourrait-il m'éclairer sur cette ERREUR qui fausse beaucoup de résultats?

Voici un code qui permet de vérifier le résultat de 'monnombre=7.6-7.4' en fonction du type de donnée et qui affiche 2 résultats: un dans excel et un dans un msgbox:

Sub type_donnée()

Dim i, j
Dim MyInteger As Integer
Dim MyLong As Long
Dim MySingle As Single
Dim MyDouble As Double
Dim MyVariant As Variant
Dim MyCurrency As Currency

MyInteger = 7.6 - 7.4
MyLong = 7.6 - 7.4
MySingle = 7.6 - 7.4
MyDouble = 7.6 - 7.4
MyVariant = 7.6 - 7.4
MyCurrency = 7.6 - 7.4

j = 1
Cells(1, j).Value = 'Type de donnée'
Cells(2, j).Value = 'Integer'
Cells(3, j).Value = 'Long'
Cells(4, j).Value = 'Single'
Cells(5, j).Value = 'Double'
Cells(6, j).Value = 'Variant'
Cells(7, j).Value = 'Currency'

j = 2
Cells(1, j).Value = 'Résultat de 7.6-7.4'
Cells(2, j).Value = MyInteger
Cells(3, j).Value = MyLong
Cells(4, j).Value = MySingle
Cells(5, j).Value = MyDouble
Cells(6, j).Value = MyVariant
Cells(7, j).Value = MyCurrency

Range('B2:B7').Select
    Range('B7').Activate
    Selection.NumberFormat = '0.000000000000000'


MsgBox 'Voici le résultat de  ''monnombre = 7.6-7.4'' en fonction du type de donnée déclaré:' _
& Chr(10) & Chr(10) & _
'Interger:' & Chr(9) & Chr(9) & MyInteger & Chr(10) & _
'Long: ' & Chr(9) & Chr(9) & MyLong & Chr(10) & _
'Single: ' & Chr(9) & Chr(9) & MySingle & Chr(10) & _
'Double: ' & Chr(9) & Chr(9) & MyDouble & Chr(10) & _
'Variant: ' & Chr(9) & Chr(9) & MyVariant & Chr(10) & _
'Currency: ' & Chr(9) & MyCurrency & Chr(10)


End Sub

Merci d'avance.

A+

Message édité par: jeromegmc, à: 16/11/2005 10:39

 

[Jam]

Salut Jérome,

Désolé de te décevoir, mais VBA ne s'est pas trompé !
Il s'agit d'une limitation dûe non pas au logiciel mais à la façon dont sont effectués les calculs par...le processeur 😉

Pour de plus amples détails, et si tu lis correctement l'anglais, tu trouveras une explication très documentée à cette adresse là:
http://www.cpearson.com/excel/rounding.htm

Bon après midi

 

[jeromegmc]

Salut Jam,

Merci pour ta réponse, c'est très instructif.

En cherchant sur le net, je me rends compte que c'est un pb connu et voici un lien qui donne des explications et des exemples:


http://support.microsoft.com/default.aspx?scid=kb;en-us;42980

J'espère que cela pourra aider du monde. 😉



A+

Message édité par: jeromegmc, à: 16/11/2005 16:01

Message édité par: jeromegmc, à: 17/11/2005 09:33