Volubis, le forum IBM i Index du Forum Volubis, le forum IBM i
avec les clubs Informatiques IPL et Bretagne.
 
 FAQFAQ   RechercherRechercher   Liste des MembresListe des Membres   Groupes d'utilisateursGroupes d'utilisateurs   S'enregistrerS'enregistrer 
 ProfilProfil   Se connecter pour vérifier ses messages privésSe connecter pour vérifier ses messages privés   ConnexionConnexion 

format FLOAT

 
Poster un nouveau sujet   Répondre au sujet    Volubis, le forum IBM i Index du Forum -> langages
Voir le sujet précédent :: Voir le sujet suivant  
Auteur Message
Erwan_35



Inscrit le: 09 Juin 2017
Messages: 8

MessagePosté le: Mer 09 Aoû 2017, 10:52:43    Sujet du message: Répondre en citant

Bonjour,

manifestement en parcourant le net, la gestion de la notation scientifique n'est pas fiable.
En effet, je rencontre un problème de conversion avec la fonction intégrée %DEC dans un programme RPG.
Je parse une zone numérique d'un flux xml dans une variable définie en FLOAT(Cool (car parfois elle est en notation scientifique !). Puis j'affecte celle-ci dans une variable définie en PACKED(15:9).

la valeur du flux xml est : <Facteur_Conversion>0.038</Facteur_Conversion>

la conversion est %dec(xml_In_Un_Rempl(i).Facteur_Conversion :15:9)
et le résultat est : 0.037999999

Existe-t-il des paramètres de précision où dois-je trouver une autre solution de type passage en chaîne de caractère et transformation "manuelle" par une petite fonction de traduction ?

Erwan


Dernière édition par Erwan_35 le Mer 09 Aoû 2017, 14:38:23; édité 1 fois
Revenir en haut de page
Voir le profil de l'utilisateur Envoyer un message privé
claude.mahe



Inscrit le: 22 Juin 2007
Messages: 44
Localisation: SAINT BRIEUC( 22002)

MessagePosté le: Mer 09 Aoû 2017, 10:58:47    Sujet du message: Répondre en citant

Bonjour,

Tu peux peut-être utiliser la fonction %DECH
Revenir en haut de page
Voir le profil de l'utilisateur Envoyer un message privé Visiter le site web de l'utilisateur
Erwan_35



Inscrit le: 09 Juin 2017
Messages: 8

MessagePosté le: Mer 09 Aoû 2017, 11:04:26    Sujet du message: Répondre en citant

Bonjour et merci,
j'y avais pensé mais je doute que cela fonctionne car le %DEC me retourne une valeur "plus précise" que celle entrée !
Je vais tout de même essayer...
Revenir en haut de page
Voir le profil de l'utilisateur Envoyer un message privé
Erwan_35



Inscrit le: 09 Juin 2017
Messages: 8

MessagePosté le: Mer 09 Aoû 2017, 12:50:17    Sujet du message: Répondre en citant

Et bien finalement si, cela fonctionne, mais peut on être certain que cela fonctionne dans toutes les occasions ? That is the question...
Revenir en haut de page
Voir le profil de l'utilisateur Envoyer un message privé
Montrer les messages depuis:   
Poster un nouveau sujet   Répondre au sujet    Volubis, le forum IBM i Index du Forum -> langages Toutes les heures sont au format GMT + 1 Heure
Page 1 sur 1

 
Sauter vers:  
Vous ne pouvez pas poster de nouveaux sujets dans ce forum
Vous ne pouvez pas répondre aux sujets dans ce forum
Vous ne pouvez pas éditer vos messages dans ce forum
Vous ne pouvez pas supprimer vos messages dans ce forum
Vous ne pouvez pas voter dans les sondages de ce forum


Powered by phpBB © 2001, 2005 phpBB Group
Traduction par : phpBB-fr.com

Anti Bot Question MOD - phpBB MOD against Spam Bots