2 Copyright (C) 2008-2016 EDF R&D
4 This file is part of SALOME ADAO module.
6 This library is free software; you can redistribute it and/or
7 modify it under the terms of the GNU Lesser General Public
8 License as published by the Free Software Foundation; either
9 version 2.1 of the License, or (at your option) any later version.
11 This library is distributed in the hope that it will be useful,
12 but WITHOUT ANY WARRANTY; without even the implied warranty of
13 MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
14 Lesser General Public License for more details.
16 You should have received a copy of the GNU Lesser General Public
17 License along with this library; if not, write to the Free Software
18 Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA
20 See http://www.salome-platform.org/ or email : webmaster.salome@opencascade.com
22 Author: Jean-Philippe Argaud, jean-philippe.argaud@edf.fr, EDF R&D
26 ================================================================================
27 **[DocU]** Usages avancés du module ADAO
28 ================================================================================
30 Cette section présente des méthodes avancées d'usage du module ADAO, comment
31 obtenir plus d'information lors d'un calcul, ou comment l'utiliser sans
32 l'interface graphique (GUI). Cela nécessite de savoir comment trouver les
33 fichiers ou les commandes incluses dans l'installation complète de SALOME. Tous
34 les noms à remplacer par l'utilisateur sont indiqués par la syntaxe ``<...>``.
36 Convertir et exécuter un fichier de commandes ADAO (JDC) par l'intermédiaire d'un script Shell
37 ----------------------------------------------------------------------------------------------
39 Il est possible de convertir et exécuter une fichier de commandes ADAO (JDC, ou
40 paire de fichiers ".comm/.py", qui se trouvent dans le répertoire ``<Répertoire
41 du fichier JDC ADAO>``) automatiquement en utilisant un script de commandes
42 Shell "type" contenant toutes les étapes requises. Si la commande principale de
43 lancement de SALOME, nommée ``salome``, n'est pas couramment accessible dans un
44 terminal courant, l'utilisateur doit savoir où se trouvent les principaux
45 fichiers de lancement de SALOME, et en particulier ce fichier ``salome``. Le
46 répertoire dans lequel ce fichier réside est symboliquement nommé ``<Répertoire
47 principal d'installation de SALOME>`` et doit être remplacé par le bon dans le
48 modèle "type" de fichier Shell.
50 Lorsqu'un fichier de commande ADAO est construit par l'interface d'édition
51 graphique d'ADAO et est enregistré, s'il est nommé par exemple
52 "EtudeAdao1.comm", alors un fichier compagnon nommé "EtudeAdao1.py" est
53 automatiquement créé dans la même répertoire. Il est nommé ``<Fichier Python
54 ADAO>`` dans le modèle "type", et il est converti vers YACS comme un ``<Schéma
55 xml YACS ADAO>`` sous la forme d'un fichier en ".xml" nommé "EtudeAdao1.xml".
56 Ensuite, ce dernier peut être exécuté en mode console en utilisant l'ordre
57 standard du mode console de YACS (voir la documentation YACS pour de plus amples
60 Dans tous les exemples de fichiers de commandes Shell de lancement, on choisit
61 de démarrer et arrêter le serveur d'application SALOME dans le même script. Ce
62 n'est pas indispensable, mais c'est utile pour éviter des sessions SALOME en
65 L'exemple le plus simple consiste uniquement à lancer l'exécution d'un schéma
66 YACS donné, qui a préalablement été généré par l'utilisateur en interface
67 graphique. Dans ce cas, en ayant pris soin de remplacer les textes contenus
68 entre les symboles ``<...>``, il suffit d'enregistrer le script de commandes
72 USERDIR="<Répertoire du fichier JDC ADAO>"
73 SALOMEDIR="<Répertoire principal d'installation de SALOME>"
74 $SALOMEDIR/salome start -k -t
75 $SALOMEDIR/salome shell -- "driver $USERDIR/<Schéma xml YACS ADAO>"
76 $SALOMEDIR/salome shell killSalome.py
78 Il faut ensuite le rendre exécutable pour l'exécuter.
80 Un exemple une peu plus complet consiste à lancer l'exécution d'un schéma YACS
81 indiqué par l'utilisateur, en ayant préalablement vérifié sa disponibilité. Pour
82 cela, en remplaçant le texte ``<Répertoire principal d'installation de
83 SALOME>``, il suffit d'enregistrer le script de commandes Shell suivant::
88 echo -e "\nUsage: $0 <Schéma xml YACS ADAO>\n"
93 if (test ! -e $USERFILE)
95 echo -e "\nErreur : le fichier XML nommé $USERFILE n'existe pas.\n"
98 SALOMEDIR="<Répertoire principal d'installation de SALOME>"
99 $SALOMEDIR/salome start -k -t
100 $SALOMEDIR/salome shell -- "driver $USERFILE"
101 $SALOMEDIR/salome shell killSalome.py
104 Un autre exemple de script consiste à ajouter la conversion du fichier de
105 commandes ADAO (JDC, ou paire de fichiers ".comm/.py") en un schéma YACS associé
106 (fichier ".xml"). A la fin du script, on choisit aussi de supprimer le fichier
107 de ``<Schéma xml YACS ADAO>`` car c'est un fichier généré. Pour cela, en ayant
108 bien pris soin de remplacer le texte ``<Répertoire principal d'installation de
109 SALOME>``, il suffit d'enregistrer le script de commandes Shell suivant::
114 echo -e "\nUsage: $0 <Cas .comm/.py ADAO>\n"
118 F=`basename -s .comm $1`
119 F=`basename -s .py $F`
122 if (test ! -e $USERFILE.py)
124 echo -e "\nErreur : le fichier PY nommé $USERFILE.py n'existe pas.\n"
127 SALOMEDIR="<Répertoire principal d'installation de SALOME>"
128 $SALOMEDIR/salome start -k -t
129 $SALOMEDIR/salome shell -- "python $SALOMEDIR/bin/salome/AdaoYacsSchemaCreator.py $USERFILE.py $USERFILE.xml"
130 $SALOMEDIR/salome shell -- "driver $USERFILE.xml"
131 $SALOMEDIR/salome shell killSalome.py
135 Dans tous les cas, les sorties standard et d'erreur se font dans le terminal de
138 Exécuter un schéma de calcul ADAO dans YACS en utilisant le mode "texte" (TUI YACS)
139 -----------------------------------------------------------------------------------
141 Cette section décrit comment exécuter en mode TUI (Text User Interface) YACS un
142 schéma de calcul YACS, obtenu dans l'interface graphique par la fonction
143 "*Exporter vers YACS*" d'ADAO. Cela utilise le mode texte standard de YACS, qui
144 est rapidement rappelé ici (voir la documentation YACS pour de plus amples
145 informations) à travers un exemple simple. Comme décrit dans la documentation,
146 un schéma XML peut être chargé en python. On donne ici une séquence complète de
147 commandes pour tester la validité du schéma avant de l'exécuter, ajoutant des
148 lignes supplémentaires initiales pour charger de manière explicite le catalogue
149 de types pour éviter d'obscures difficultés::
151 #-*-coding:iso-8859-1-*-
155 SALOMERuntime.RuntimeSALOME_setRuntime()
157 r = pilot.getRuntime()
158 xmlLoader = loader.YACSLoader()
159 xmlLoader.registerProcCataLoader()
161 catalogAd = r.loadCatalog("proc", "<Schéma xml YACS ADAO>")
164 r.addCatalog(catalogAd)
167 p = xmlLoader.load("<Schéma xml YACS ADAO>")
169 print "IO exception:",ex
171 logger = p.getLogger("parser")
172 if not logger.isEmpty():
173 print "The imported file has errors :"
174 print logger.getStr()
177 print "Le schéma n'est pas valide et ne peut pas être exécuté"
178 print p.getErrorReport()
180 info=pilot.LinkInfo(pilot.LinkInfo.ALL_DONT_STOP)
181 p.checkConsistency(info)
182 if info.areWarningsOrErrors():
183 print "Le schéma n'est pas cohérent et ne peut pas être exécuté"
184 print info.getGlobalRepr()
186 e = pilot.ExecutorSwig()
188 if p.getEffectiveState() != pilot.DONE:
189 print p.getErrorReport()
191 Cette démarche permet par exemple d'éditer le schéma YACS XML en mode texte TUI,
192 ou de rassembler les résultats pour un usage ultérieur.
194 .. _section_advanced_R:
196 Exécuter un calcul ADAO en environnement R en utilisant l'interface TUI ADAO
197 ----------------------------------------------------------------------------
200 .. index:: single: rPython
202 Pour étendre les possibilités d'analyse et de traitement, il est possible
203 d'utiliser les calculs ADAO dans l'environnement **R** (voir [R]_ pour plus de
204 détails). Ce dernier est disponible dans SALOME en lançant l'interpréteur R dans
205 le shell "``salome shell``". Il faut de plus disposer, en R, du package
206 "*rPython*", qui peut si nécessaire être installé par l'utilisateur à l'aide de
207 la commande R suivante::
209 install.packages("rPython")
211 On se reportera à la documentation [GilBellosta15]_ pour de plus amples
212 renseignements sur ce package.
214 Les calculs ADAO définis en interface textuelle (API/TUI, voir la
215 :ref:`section_tui`) peuvent alors être interprétés depuis l'environnement R, en
216 utilisant des données et des informations depuis R. La démarche est illustrée
217 sur :ref:`subsection_tui_example`, proposé dans la description de l'interface
218 API/TUI. Dans l'interpréteur R, on peut exécuter les commandes suivantes,
219 directement issues de l'exemple simple::
222 # IMPORTANT : à exécuter dans l'interpréteur R
223 # --------------------------------------------
226 from numpy import array
228 case = adaoBuilder.New()
229 case.set( 'AlgorithmParameters', Algorithm='3DVAR' )
230 case.set( 'Background', Vector=[0, 1, 2] )
231 case.set( 'BackgroundError', ScalarSparseMatrix=1.0 )
232 case.set( 'Observation', Vector=array([0.5, 1.5, 2.5]) )
233 case.set( 'ObservationError', DiagonalSparseMatrix='1 1 1' )
234 case.set( 'ObservationOperator', Matrix='1 0 0;0 2 0;0 0 3' )
235 case.set( 'Observer', Variable='Analysis', Template='ValuePrinter' )
239 dont le résultat est::
241 Analysis [ 0.25000264 0.79999797 0.94999939]
243 Dans la rédaction des calculs ADAO exécutés depuis R, il convient d'être très
244 attentif au bon usage des guillemets simples et doubles, qui ne doivent pas
245 collisionner entre les deux langages.
247 Les données peuvent venir l'environnement R et doivent être rangées dans des
248 variables correctement assignées, pour être utilisées ensuite en Python pour
249 ADAO. On se reportera à la documentation [GilBellosta15]_ pour la mise en
250 oeuvre. On peut transformer l'exemple ci-dessus pour utiliser des données
251 provenant de R pour alimenter les trois variables d'ébauche, d'observation et
252 d'opérateur d'observation. On récupère à la fin l'état optimal dans une variable
253 R aussi. Les autres lignes sont identiques. L'exemple devient ainsi::
256 # IMPORTANT : à exécuter dans l'interpréteur R
257 # --------------------------------------------
262 yo <- c(0.5, 1.5, 2.5)
263 h <- '1 0 0;0 2 0;0 0 3'
268 python.assign( "xb", xb )
269 python.assign( "yo", yo )
270 python.assign( "h", h )
272 from numpy import array
274 case = adaoBuilder.New()
275 case.set( 'AlgorithmParameters', Algorithm='3DVAR' )
276 case.set( 'Background', Vector=xb )
277 case.set( 'BackgroundError', ScalarSparseMatrix=1.0 )
278 case.set( 'Observation', Vector=array(yo) )
279 case.set( 'ObservationError', DiagonalSparseMatrix='1 1 1' )
280 case.set( 'ObservationOperator', Matrix=str(h) )
281 case.set( 'Observer', Variable='Analysis', Template='ValuePrinter' )
283 xa = list(case.get('Analysis')[-1])
288 xa <- python.get("xa")
290 On remarquera les conversions explicite de type ``str`` et ``list`` pour
291 s'assurer que les données sont bien transmises en type standards connus du
292 package "*rPython*". De plus, ce sont les données qui peuvent être transférées
293 entre les deux langages, et pas des fonctions ou méthodes. Il convient donc
294 d'élaborer en Python de manière générique les fonctions d'exécution requises par
295 ADAO, et de leur transmettre ensuite de manière correcte les données disponibles
298 Les cas plus complets, proposés dans les :ref:`subsection_tui_advanced`, peuvent
299 être exécutés de la même manière, et ils donnent le même résultat que dans
300 l'interface API/TUI en Python standard.
302 .. _section_advanced_observer:
304 Obtenir des informations sur des variables spéciales au cours d'un calcul ADAO en YACS
305 --------------------------------------------------------------------------------------
307 .. index:: single: Observer
308 .. index:: single: Observer Template
310 Certaines variables spéciales internes à l'optimisation, utilisées au cours des
311 calculs, peuvent être surveillées durant un calcul ADAO. Ces variables peuvent
312 être affichées, tracées, enregistrées, etc. C'est réalisable en utilisant des
313 "*observer*", qui sont des scripts, chacun associé à une variable.
315 Des modèles ("templates") sont disponibles lors de l'édition le cas ADAO dans
316 l'éditeur graphique. Ces scripts simples peuvent être adaptés par l'utilisateur,
317 soit dans l'étape d'édition intégrée, ou dans l'étape d'édition avant
318 l'exécution, pour améliorer l'adaptation du calcul ADAO dans le superviseur
319 d'exécution de SALOME.
321 Pour mettre en oeuvre ces "*observer*" de manière efficace, on se reportera aux
322 :ref:`ref_observers_requirements`.
324 Obtenir plus d'information lors du déroulement d'un calcul
325 ----------------------------------------------------------
327 .. index:: single: Logging
329 Lors du déroulement d'un calcul, des données et messages utiles sont
330 disponibles. Il y a deux manières d'obtenir ces informations.
332 La première, et la manière préférentielle, est d'utiliser la variable interne
333 "*Debug*" disponible dans chaque cas ADAO. Elle est atteignable dans l'interface
334 graphique d'édition du module. La mettre à "*1*" permet d'envoyer des messages
335 dans la fenêtre de sortie de l'exécution dans YACS ("*YACS Container Log*").
337 La seconde consiste à utiliser le module Python natif "*logging*" (voir la
338 documentation Python http://docs.python.org/library/logging.html pour de plus
339 amples informations sur ce module). Dans l'ensemble du schéma YACS,
340 principalement à travers les entrées sous forme de scripts, l'utilisateur peut
341 fixer le niveau de logging en accord avec les besoins d'informations détaillées.
342 Les différents niveaux de logging sont : "*DEBUG*", "*INFO*", "*WARNING*",
343 "*ERROR*", "*CRITICAL*". Toutes les informations associées à un niveau sont
344 affichées à tous les niveaux au-dessus de celui-ci (inclut). La méthode la plus
345 facile consiste à changer le niveau de surveillance en utilisant les lignes
349 logging.getLogger().setLevel(logging.DEBUG)
351 Le niveau par défaut standard de surveillance par logging est "*WARNING*", le
352 niveau par défaut dans le module ADAO est "*INFO*".
354 Il est aussi recommandé d'inclure de la surveillance par logging ou des
355 mécanismes de débogage dans le code de simulation, et de les utiliser en
356 conjonction avec les deux méthodes précédentes. Néanmoins, il convient d'être
357 prudent dans le stockage de "grosses" variables car cela coûte du temps,
358 quel que soit le niveau de surveillance choisi (c'est-à-dire même si ces
359 variables ne sont pas affichées).
361 .. _subsection_ref_parallel_df:
363 Accélérer les calculs de dérivées numériques en utilisant un mode parallèle
364 ---------------------------------------------------------------------------
366 .. index:: single: EnableMultiProcessing
367 .. index:: single: NumberOfProcesses
369 Lors de la définition d'un opérateur, comme décrit dans le chapitre des
370 :ref:`section_ref_operator_requirements`, l'utilisateur peut choisir la forme
371 fonctionnelle "*ScriptWithOneFunction*". Cette forme conduit explicitement à
372 approximer les opérateurs tangent et adjoint par un calcul par différences
373 finies. Il requiert de nombreux appels à l'opérateur direct (fonction définie
374 par l'utilisateur), au moins autant de fois que la dimension du vecteur d'état.
375 Ce sont ces appels qui peuvent être potentiellement exécutés en parallèle.
377 Sous certaines conditions, il est alors possible d'accélérer les calculs de
378 dérivées numériques en utilisant un mode parallèle pour l'approximation par
379 différences finies. Lors de la définition d'un cas ADAO, c'est effectué en
380 ajoutant le mot-clé optionnel "*EnableMultiProcessing*", mis à "1", de la
381 commande "*SCRIPTWITHONEFUNCTION*" dans la définition de l'opérateur. Le mode
382 parallèle utilise uniquement des ressources locales (à la fois multi-coeurs ou
383 multi-processeurs) de l'ordinateur sur lequel SALOME est en train de tourner,
384 demandant autant de ressources que disponible. Si nécessaire, on peut réduire
385 les ressources disponibles en limitant le nombre possible de processus
386 parallèles grâce au mot-clé optionnel "*NumberOfProcesses*", que l'on met au
387 maximum souhaité (ou à "0" pour le contrôle automatique, qui est la valeur par
388 défaut). Par défaut, ce mode parallèle est désactivé
389 ("*EnableMultiProcessing=0*").
391 Les principales conditions pour réaliser ces calculs parallèles viennent de la
392 fonction définie par l'utilisateur, qui représente l'opérateur direct. Cette
393 fonction doit au moins être "thread safe" pour être exécutée dans un
394 environnement Python parallèle (notions au-delà du cadre de ce paragraphe). Il
395 n'est pas évident de donner des règles générales, donc il est recommandé, à
396 l'utilisateur qui active ce parallélisme interne, de vérifier soigneusement sa
397 fonction et les résultats obtenus.
399 D'un point de vue utilisateur, certaines conditions, qui doivent être réunies
400 pour mettre en place des calculs parallèles pour les approximations des
401 opérateurs tangent et adjoint, sont les suivantes :
403 #. La dimension du vecteur d'état est supérieure à 2 ou 3.
404 #. Le calcul unitaire de la fonction utilisateur directe "dure un certain temps", c'est-à-dire plus que quelques minutes.
405 #. La fonction utilisateur directe n'utilise pas déjà du parallélisme (ou l'exécution parallèle est désactivée dans le calcul de l'utilisateur).
406 #. La fonction utilisateur directe n'effectue pas d'accès en lecture/écriture à des ressources communes, principalement des données stockées, des fichiers de sortie ou des espaces mémoire.
407 #. Les "*observer*" ajoutés par l'utilisateur n'effectuent pas d'accès en lecture/écriture à des ressources communes, comme des fichiers ou des espaces mémoire.
409 Si ces conditions sont satisfaites, l'utilisateur peut choisir d'activer le
410 parallélisme interne pour le calcul des dérivées numériques. Malgré la
411 simplicité d'activation, obtenue en définissant une variable seulement,
412 l'utilisateur est fortement invité à vérifier les résultats de ses calculs. Il
413 faut au moins les effectuer une fois avec le parallélisme activé, et une autre
414 fois avec le parallélisme désactivé, pour comparer les résultats. Si cette mise
415 en oeuvre échoue à un moment ou à un autre, il faut savoir que ce schéma de
416 parallélisme fonctionne pour des codes complexes, comme *Code_Aster* dans
417 *SalomeMeca* [SalomeMeca]_ par exemple. Donc, si cela ne marche pas dans votre
418 cas, vérifiez bien votre fonction d'opérateur avant et pendant l'activation du
423 en cas de doute, il est recommandé de NE PAS ACTIVER ce parallélisme.
425 On rappelle aussi qu'il faut choisir dans YACS un container par défaut de type
426 "*multi*" pour le lancement du schéma, pour permettre une exécution
427 véritablement parallèle.
429 Passer d'une version d'ADAO à une nouvelle
430 ------------------------------------------
432 .. index:: single: Version
434 Le module ADAO et ses fichiers de cas ".comm" sont identifiés par des versions,
435 avec des caractéristiques "Major", "Minor" et "Revision". Une version
436 particulière est numérotée "Major.Minor.Revision", avec un lien fort avec la
437 numérotation de la plateforme SALOME.
439 Chaque version "Major.Minor.Revision" du module ADAO peut lire les fichiers de
440 cas ADAO de la précédente version mineure "Major.Minor-1.*". En général, elle
441 peut aussi lire les fichiers de cas de toutes les versions mineures "Major.*.*"
442 d'une branche majeure, mais ce n'est pas obligatoirement vrai pour toutes les
443 commandes ou tous les mots-clés. En général aussi, un fichier de cas ADAO d'une
444 version ne peut pas être lu par une précédente version mineure ou majeure du
447 Passer de la version 7.8 à la 8.1
448 +++++++++++++++++++++++++++++++++
450 Il n'y a pas d'incompatibilité connue pour les fichiers de cas ADAO. La
451 procédure de montée en version consiste à lire l'ancien fichier de cas ADAO
452 avec le nouveau module SALOME/ADAO, et à l'enregistrer avec un nouveau nom.
454 Passer de la version 7.x à la 7.y avec x < y
455 ++++++++++++++++++++++++++++++++++++++++++++
457 Il n'y a pas d'incompatibilité connue pour les fichiers de cas ADAO. La
458 procédure de montée en version consiste à lire l'ancien fichier de cas ADAO
459 avec le nouveau module SALOME/ADAO, et à l'enregistrer avec un nouveau nom.
461 Passer de la version 6.6 à la 7.2
462 +++++++++++++++++++++++++++++++++
464 Il n'y a pas d'incompatibilité connue pour les fichiers de cas ADAO. La
465 procédure de montée en version consiste à lire l'ancien fichier de cas ADAO avec
466 le nouveau module SALOME/ADAO, et à l'enregistrer avec un nouveau nom.
468 Il y a une incompatibilité introduite dans les fichiers de script de
469 post-processing ou d'observers. L'ancienne syntaxe pour interroger un objet
470 résultat, comme celui d'analyse "*Analysis*" (fourni dans un script à travers le
471 mot-clé "*UserPostAnalysis*"), était par exemple::
473 Analysis = ADD.get("Analysis").valueserie(-1)
474 Analysis = ADD.get("Analysis").valueserie()
476 La nouvelle syntaxe est entièrement compatible avec celle (classique) pour les
477 objets de type liste ou tuple::
479 Analysis = ADD.get("Analysis")[-1]
480 Analysis = ADD.get("Analysis")[:]
482 Les scripts de post-processing doivent être modifiés.
484 Passer de la version 6.x à la 6.y avec x < y
485 ++++++++++++++++++++++++++++++++++++++++++++
487 Il n'y a pas d'incompatibilité connue pour les fichiers de cas ADAO. La
488 procédure de montée en version consiste à lire l'ancien fichier de cas ADAO avec
489 le nouveau module SALOME/ADAO, et à l'enregistrer avec un nouveau nom.
491 Il y a une incompatibilité introduite dans les fichiers de script d'opérateur,
492 lors de la dénomination des opérateurs élémentaires utilisés pour l'opérateur
493 d'observation par script. Les nouveaux noms requis sont "*DirectOperator*",
494 "*TangentOperator*" et "*AdjointOperator*", comme décrit dans la quatrième
495 partie du chapitre :ref:`section_reference`. Les fichiers de script d'opérateur
496 doivent être modifiés.