si çà marche en 50x50 et pas en 67x67, alors...
les éléments de ta matrice doivent passer en double :
Lors des itérations successives, les erreurs se cumulent et avec une inversion par Gauss par exemple, un pivot devient "instable" (proche de 0)
d'où tes #valeur.
Si t'es déjà en double, tu devras passer par une optimisation de ton algorithme.
Espérant t'avoir aidé.
A+
Syl20