Bonjour,
manifestement en parcourant le net, la gestion de la notation scientifique n'est pas fiable.
En effet, je rencontre un problème de conversion avec la fonction intégrée %DEC dans un programme RPG.
Je parse une zone numérique d'un flux xml dans une variable définie en FLOAT(8) (car parfois elle est en notation scientifique !). Puis j'affecte celle-ci dans une variable définie en PACKED(15:9).
la valeur du flux xml est : <Facteur_Conversion>0.038</Facteur_Conversion>
la conversion est %dec(xml_In_Un_Rempl(i).Facteur_Conversion :15:9)
et le résultat est : 0.037999999
Existe-t-il des paramètres de précision où dois-je trouver une autre solution de type passage en chaîne de caractère et transformation "manuelle" par une petite fonction de traduction ?
Erwan
format FLOAT
-
- Messages : 44
- Enregistré le : ven. 22 juin 2007, 17:11:26
- Localisation : SAINT BRIEUC( 22002)
- Contact :