overflow bien étrange...

Re : overflow bien étrange...

bonjour solquagerius,

essaye avec cette ligne :

avec a de type Long

a+

Re : overflow bien étrange...

Bonjour solquagerius, bonjour à toutes et à tous

solquagerius à dit:

Je me casse la tête sur une ligne étrange...
Dans un module de classe j'écris tout bêtement dans une fonction :
a = 343 * 233
et sur cette ligne j'ai un overflow... a est déclarée en Long, j'ai aussi essayé en double, mais rien n'y fait.
Il plante dès que la multiplication dépasse 32 768, pourtant quand je met directement a = 40 000 par exemple, ca marche bien.

Cliquez pour agrandir...

Ton problème est un simple cas de type de données :

=> a est long et a=40000 est correct, mais quand tu écris a = 343 * 233, XL donne le type Integer à 343 et 233, il effectue la multiplication et BING ! Overflow !!! En fait, la conversion en type Long ne se fait qu'après la multiplication d'où l'erreur.

La seule solution est de forcer le type des contantes ainsi :

a = 343& * 233& , ainsi toutes tes données sont de type Long et la multiplication ne posera plus de pb.

En espérant avoir été clair

@+

EDIT : re mromain

Re : overflow bien étrange...

Super !
Merci beaucoup pour l'explication, ca marche très bien maintenant.