src/Launcher/Launcher.cxx

   1 // Copyright (C) 2007-2016  CEA/DEN, EDF R&D, OPEN CASCADE
   2 //
   3 // Copyright (C) 2003-2007  OPEN CASCADE, EADS/CCR, LIP6, CEA/DEN,
   4 // CEDRAT, EDF R&D, LEG, PRINCIPIA R&D, BUREAU VERITAS
   5 //
   6 // This library is free software; you can redistribute it and/or
   7 // modify it under the terms of the GNU Lesser General Public
   8 // License as published by the Free Software Foundation; either
   9 // version 2.1 of the License, or (at your option) any later version.
  10 //
  11 // This library is distributed in the hope that it will be useful,
  12 // but WITHOUT ANY WARRANTY; without even the implied warranty of
  13 // MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14 // Lesser General Public License for more details.
  15 //
  16 // You should have received a copy of the GNU Lesser General Public
  17 // License along with this library; if not, write to the Free Software
  18 // Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
  19 //
  20 // See http://www.salome-platform.org/ or email : webmaster.salome@opencascade.com
  21 //
  22
  23 #include <list>
  24 #include <iostream>
  25 #include <sstream>
  26 #include <sys/stat.h>
  27 #include <time.h>
  28
  29 #ifdef WITH_LIBBATCH
  30 #include <libbatch/BatchManagerCatalog.hxx>
  31 #include <libbatch/FactBatchManager.hxx>
  32 #include <libbatch/BatchManager.hxx>
  33 #endif
  34
  35 #include "Basics_Utils.hxx"
  36 #include "Basics_DirUtils.hxx"
  37 #include "SALOME_Launcher_Handler.hxx"
  38 #include "Launcher.hxx"
  39 #include "Launcher_Job_Command.hxx"
  40 #include "Launcher_XML_Persistence.hxx"
  41
  42 using namespace std;
  43
  44 //=============================================================================
  45 /*!
  46  *  Constructor
  47  *  \param orb
  48  *  Define a CORBA single thread policy for the server, which avoid to deal
  49  *  with non thread-safe usage like Change_Directory in SALOME naming service
  50  */
  51 //=============================================================================
  52 Launcher_cpp::Launcher_cpp()
  53 {
  54   LAUNCHER_MESSAGE("Launcher_cpp constructor");
  55   _job_cpt = 0;
  56   _job_cpt_mutex = new pthread_mutex_t();
  57   pthread_mutex_init(_job_cpt_mutex, NULL);
  58 }
  59
  60 //=============================================================================
  61 /*!
  62  * destructor
  63  */
  64 //=============================================================================
  65 Launcher_cpp::~Launcher_cpp()
  66 {
  67   LAUNCHER_MESSAGE("Launcher_cpp destructor");
  68 #ifdef WITH_LIBBATCH
  69   std::map<int, Launcher::Job *>::const_iterator it_job;
  70   for(it_job = _launcher_job_map.begin(); it_job != _launcher_job_map.end(); it_job++)
  71     delete it_job->second;
  72   std::map <int, Batch::BatchManager * >::const_iterator it1;
  73   for(it1=_batchmap.begin();it1!=_batchmap.end();it1++)
  74     delete it1->second;
  75 #endif
  76
  77   pthread_mutex_destroy(_job_cpt_mutex);
  78   delete _job_cpt_mutex;
  79 }
  80
  81 #ifdef WITH_LIBBATCH
  82
  83 //=============================================================================
  84 /*!
  85  * Add a job into the launcher - check resource and choose one
  86  */
  87 //=============================================================================
  88 void
  89 Launcher_cpp::createJob(Launcher::Job * new_job)
  90 {
  91   LAUNCHER_MESSAGE("Creating a new job");
  92   // Add job to the jobs map
  93   pthread_mutex_lock(_job_cpt_mutex);
  94   new_job->setNumber(_job_cpt);
  95   _job_cpt++;
  96   pthread_mutex_unlock(_job_cpt_mutex);
  97   std::map<int, Launcher::Job *>::const_iterator it_job = _launcher_job_map.find(new_job->getNumber());
  98   if (it_job == _launcher_job_map.end())
  99     _launcher_job_map[new_job->getNumber()] = new_job;
 100   else
 101   {
 102     LAUNCHER_INFOS("A job as already the same id: " << new_job->getNumber());
 103     delete new_job;
 104     throw LauncherException("A job as already the same id - job is not created !");
 105   }
 106   LAUNCHER_MESSAGE("New Job created");
 107 }
 108
 109 //=============================================================================
 110 /*!
 111  * Launch a job
 112  */
 113 //=============================================================================
 114 void
 115 Launcher_cpp::launchJob(int job_id)
 116 {
 117   LAUNCHER_MESSAGE("Launch a job");
 118
 119   // Check if job exist
 120   std::map<int, Launcher::Job *>::const_iterator it_job = _launcher_job_map.find(job_id);
 121   if (it_job == _launcher_job_map.end())
 122   {
 123     LAUNCHER_INFOS("Cannot find the job, is it created ? job number: " << job_id);
 124     throw LauncherException("Cannot find the job, is it created ?");
 125   }
 126
 127   Launcher::Job * job = it_job->second;
 128
 129   // Check job state (cannot launch a job already launched...)
 130   if (job->getState() != "CREATED")
 131   {
 132     LAUNCHER_INFOS("Bad state of the job: " << job->getState());
 133     throw LauncherException("Bad state of the job: " + job->getState());
 134   }
 135
 136   // Third step search batch manager for the job into the map -> instanciate one if does not exist
 137 #ifdef WITH_LIBBATCH
 138   std::map<int, Batch::BatchManager *>::const_iterator it = _batchmap.find(job_id);
 139   if(it == _batchmap.end())
 140   {
 141     createBatchManagerForJob(job);
 142   }
 143 #endif
 144
 145   try {
 146     Batch::JobId batch_manager_job_id = _batchmap[job_id]->submitJob(*(job->getBatchJob()));
 147     job->setBatchManagerJobId(batch_manager_job_id);
 148     job->setState("QUEUED");
 149     job->setReference(batch_manager_job_id.getReference());
 150   }
 151   catch(const Batch::GenericException &ex)
 152   {
 153     LAUNCHER_INFOS("Job is not launched, exception in submitJob: " << ex.message);
 154     throw LauncherException(ex.message.c_str());
 155   }
 156   LAUNCHER_MESSAGE("Job launched");
 157 }
 158
 159 //=============================================================================
 160 /*!
 161  * Get job state
 162  */
 163 //=============================================================================
 164 const char *
 165 Launcher_cpp::getJobState(int job_id)
 166 {
 167   LAUNCHER_MESSAGE("Get job state");
 168
 169   // Check if job exist
 170   std::map<int, Launcher::Job *>::const_iterator it_job = _launcher_job_map.find(job_id);
 171   if (it_job == _launcher_job_map.end())
 172   {
 173     LAUNCHER_INFOS("Cannot find the job, is it created ? job number: " << job_id);
 174     throw LauncherException("Cannot find the job, is it created ?");
 175   }
 176
 177   Launcher::Job * job = it_job->second;
 178
 179   std::string state;
 180   try
 181   {
 182     state = job->updateJobState();
 183   }
 184   catch(const Batch::GenericException &ex)
 185   {
 186     LAUNCHER_INFOS("getJobState failed, exception: " << ex.message);
 187     throw LauncherException(ex.message.c_str());
 188   }
 189
 190   return state.c_str();
 191 }
 192
 193 //=============================================================================
 194 /*!
 195  * Get job assigned hostnames
 196  */
 197 //=============================================================================
 198 const char *
 199 Launcher_cpp::getAssignedHostnames(int job_id)
 200 {
 201   LAUNCHER_MESSAGE("Get job assigned hostnames");
 202
 203   // Check if job exist
 204   std::map<int, Launcher::Job *>::const_iterator it_job = _launcher_job_map.find(job_id);
 205   if (it_job == _launcher_job_map.end())
 206   {
 207     LAUNCHER_INFOS("Cannot find the job, is it created ? job number: " << job_id);
 208     throw LauncherException("Cannot find the job, is it created ?");
 209   }
 210
 211   Launcher::Job * job = it_job->second;
 212   std::string assigned_hostnames = job->getAssignedHostnames();
 213
 214   return assigned_hostnames.c_str();
 215 }
 216
 217 //=============================================================================
 218 /*!
 219  * Get Job result - the result directory could be changed
 220  */
 221 //=============================================================================
 222 void
 223 Launcher_cpp::getJobResults(int job_id, std::string directory)
 224 {
 225   LAUNCHER_MESSAGE("Get Job results");
 226
 227   // Check if job exist
 228   std::map<int, Launcher::Job *>::const_iterator it_job = _launcher_job_map.find(job_id);
 229   if (it_job == _launcher_job_map.end())
 230   {
 231     LAUNCHER_INFOS("Cannot find the job, is it created ? job number: " << job_id);
 232     throw LauncherException("Cannot find the job, is it created ?");
 233   }
 234
 235   Launcher::Job * job = it_job->second;
 236   std::string resource_name = job->getResourceDefinition().Name;
 237   try
 238   {
 239     if (directory != "")
 240       _batchmap[job_id]->importOutputFiles(*(job->getBatchJob()), directory);
 241     else
 242       _batchmap[job_id]->importOutputFiles(*(job->getBatchJob()), job->getResultDirectory());
 243   }
 244   catch(const Batch::GenericException &ex)
 245   {
 246     LAUNCHER_INFOS("getJobResult is maybe incomplete, exception: " << ex.message);
 247     throw LauncherException(ex.message.c_str());
 248   }
 249   LAUNCHER_MESSAGE("getJobResult ended");
 250 }
 251
 252 //=============================================================================
 253 /*!
 254  * Clear the remote working directory
 255  */
 256 //=============================================================================
 257 void
 258 Launcher_cpp::clearJobWorkingDir(int job_id)
 259 {
 260   LAUNCHER_MESSAGE("Clear the remote working directory");
 261
 262   // Check if job exist
 263   std::map<int, Launcher::Job *>::const_iterator it_job = _launcher_job_map.find(job_id);
 264   if (it_job == _launcher_job_map.end())
 265   {
 266     LAUNCHER_INFOS("Cannot find the job, is it created ? job number: " << job_id);
 267     throw LauncherException("Cannot find the job, is it created ?");
 268   }
 269
 270   Launcher::Job * job = it_job->second;
 271   try
 272   {
 273     _batchmap[job_id]->clearWorkingDir(*(job->getBatchJob()));
 274   }
 275   catch(const Batch::GenericException &ex)
 276   {
 277     LAUNCHER_INFOS("getJobResult is maybe incomplete, exception: " << ex.message);
 278     throw LauncherException(ex.message.c_str());
 279   }
 280   LAUNCHER_MESSAGE("getJobResult ended");
 281 }
 282
 283 //=============================================================================
 284 /*!
 285  * Get Job dump state - the result directory could be changed
 286  */
 287 //=============================================================================
 288 bool
 289 Launcher_cpp::getJobDumpState(int job_id, std::string directory)
 290 {
 291   bool rtn;
 292   LAUNCHER_MESSAGE("Get Job dump state");
 293
 294   // Check if job exist
 295   std::map<int, Launcher::Job *>::const_iterator it_job = _launcher_job_map.find(job_id);
 296   if (it_job == _launcher_job_map.end())
 297   {
 298     LAUNCHER_INFOS("Cannot find the job, is it created ? job number: " << job_id);
 299     throw LauncherException("Cannot find the job, is it created ?");
 300   }
 301
 302   Launcher::Job * job = it_job->second;
 303   std::string resource_name = job->getResourceDefinition().Name;
 304   try
 305   {
 306     if (directory != "")
 307       rtn = _batchmap[job_id]->importDumpStateFile(*(job->getBatchJob()), directory);
 308     else
 309       rtn = _batchmap[job_id]->importDumpStateFile(*(job->getBatchJob()), job->getResultDirectory());
 310   }
 311   catch(const Batch::GenericException &ex)
 312   {
 313     LAUNCHER_INFOS("getJobResult is maybe incomplete, exception: " << ex.message);
 314     throw LauncherException(ex.message.c_str());
 315   }
 316   LAUNCHER_MESSAGE("getJobResult ended");
 317   return rtn;
 318 }
 319
 320 //=============================================================================
 321 /*!
 322  * Get one file from the working directory - the result directory can be changed
 323  */
 324 //=============================================================================
 325 bool
 326 Launcher_cpp::getJobWorkFile(int job_id,
 327                              std::string work_file,
 328                              std::string directory)
 329 {
 330   bool rtn;
 331   LAUNCHER_MESSAGE("Get working file " << work_file);
 332
 333   // Check if job exist
 334   std::map<int, Launcher::Job *>::const_iterator it_job = _launcher_job_map.find(job_id);
 335   if (it_job == _launcher_job_map.end())
 336   {
 337     LAUNCHER_INFOS("Cannot find the job, is it created ? job number: " << job_id);
 338     throw LauncherException("Cannot find the job, is it created ?");
 339   }
 340
 341   Launcher::Job * job = it_job->second;
 342   std::string resource_name = job->getResourceDefinition().Name;
 343   try
 344   {
 345     if (directory != "")
 346       rtn = _batchmap[job_id]->importWorkFile(*(job->getBatchJob()), work_file, directory);
 347     else
 348       rtn = _batchmap[job_id]->importWorkFile(*(job->getBatchJob()), work_file, job->getResultDirectory());
 349   }
 350   catch(const Batch::GenericException &ex)
 351   {
 352     LAUNCHER_INFOS("getJobWorkFile is maybe incomplete, exception: " << ex.message);
 353     throw LauncherException(ex.message.c_str());
 354   }
 355   LAUNCHER_MESSAGE("getJobWorkFile ended");
 356   return rtn;
 357 }
 358
 359 //=============================================================================
 360 /*!
 361  * Remove the job - into the Launcher and its batch manager
 362  */
 363 //=============================================================================
 364 void
 365 Launcher_cpp::removeJob(int job_id)
 366 {
 367   LAUNCHER_MESSAGE("Remove Job");
 368
 369   // Check if job exist
 370   std::map<int, Launcher::Job *>::iterator it_job = _launcher_job_map.find(job_id);
 371   if (it_job == _launcher_job_map.end())
 372   {
 373     LAUNCHER_INFOS("Cannot find the job, is it created ? job number: " << job_id);
 374     throw LauncherException("Cannot find the job, is it created ?");
 375   }
 376
 377   it_job->second->removeJob();
 378   delete it_job->second;
 379   _launcher_job_map.erase(it_job);
 380 }
 381
 382 //=============================================================================
 383 /*!
 384  * stop the job
 385  */
 386 //=============================================================================
 387 void
 388 Launcher_cpp::stopJob(int job_id)
 389 {
 390   LAUNCHER_MESSAGE("Stop Job");
 391
 392   // Check if job exist
 393   std::map<int, Launcher::Job *>::iterator it_job = _launcher_job_map.find(job_id);
 394   if (it_job == _launcher_job_map.end())
 395   {
 396     LAUNCHER_INFOS("Cannot find the job, is it created ? job number: " << job_id);
 397     throw LauncherException("Cannot find the job, is it created ?");
 398   }
 399
 400   it_job->second->stopJob();
 401 }
 402
 403 //=============================================================================
 404 /*!
 405  *  create a launcher job based on a file
 406  *  \param xmlExecuteFile     : to define the execution on the batch cluster
 407  */
 408 //=============================================================================
 409 long
 410 Launcher_cpp::createJobWithFile(const std::string xmlExecuteFile,
 411                                 const std::string clusterName)
 412 {
 413   LAUNCHER_MESSAGE("Begin of Launcher_cpp::createJobWithFile");
 414
 415   // Parsing xml file
 416   ParserLauncherType job_params = ParseXmlFile(xmlExecuteFile);
 417
 418   // Creating a new job
 419   Launcher::Job_Command * new_job = new Launcher::Job_Command();
 420
 421   std::string cmdFile = Kernel_Utils::GetTmpFileName();
 422 #ifndef WIN32
 423   cmdFile += ".sh";
 424 #else
 425   cmdFile += ".bat";
 426 #endif
 427   std::ofstream os;
 428   os.open(cmdFile.c_str(), std::ofstream::out );
 429   os << "#! /bin/sh" << std::endl;
 430   os << job_params.Command;
 431   os.close();
 432
 433   new_job->setJobFile(cmdFile);
 434   new_job->setLocalDirectory(job_params.RefDirectory);
 435   new_job->setWorkDirectory(job_params.MachinesList[clusterName].WorkDirectory);
 436   new_job->setEnvFile(job_params.MachinesList[clusterName].EnvFile);
 437
 438   for(int i=0; i < job_params.InputFile.size(); i++)
 439     new_job->add_in_file(job_params.InputFile[i]);
 440   for(int i=0; i < job_params.OutputFile.size();i++)
 441     new_job->add_out_file(job_params.OutputFile[i]);
 442
 443   resourceParams p;
 444   p.hostname = clusterName;
 445   p.name = "";
 446   p.OS = "";
 447   p.nb_proc = job_params.NbOfProcesses;
 448   p.nb_node = 0;
 449   p.nb_proc_per_node = 0;
 450   p.cpu_clock = 0;
 451   p.mem_mb = 0;
 452   new_job->setResourceRequiredParams(p);
 453
 454   createJob(new_job);
 455   return new_job->getNumber();
 456 }
 457
 458 //=============================================================================
 459 /*!
 460  *  Factory to instanciate the good batch manager for choosen cluster.
 461  */
 462 //=============================================================================
 463 Batch::BatchManager *
 464 Launcher_cpp::FactoryBatchManager(ParserResourcesType& params)
 465 {
 466   std::string mpi;
 467   Batch::CommunicationProtocolType protocol;
 468   Batch::FactBatchManager * fact;
 469
 470   std::string hostname = params.HostName;
 471
 472   switch(params.Protocol)
 473   {
 474     case sh:
 475       protocol = Batch::SH;
 476       break;
 477     case rsh:
 478       protocol = Batch::RSH;
 479       break;
 480     case ssh:
 481       protocol = Batch::SSH;
 482       break;
 483     default:
 484       throw LauncherException("Unknown protocol for this resource");
 485       break;
 486   }
 487
 488   switch(params.mpi)
 489   {
 490     case lam:
 491       mpi = "lam";
 492       break;
 493     case mpich1:
 494       mpi = "mpich1";
 495       break;
 496     case mpich2:
 497       mpi = "mpich2";
 498       break;
 499     case openmpi:
 500       mpi = "openmpi";
 501       break;
 502     case ompi:
 503       mpi = "ompi";
 504       break;
 505     case slurmmpi:
 506       mpi = "slurmmpi";
 507       break;
 508     case prun:
 509       mpi = "prun";
 510       break;
 511     default:
 512       mpi = "nompi";
 513   }
 514
 515   const char * bmType;
 516   switch( params.Batch )
 517   {
 518     case pbs:
 519       bmType = "PBS";
 520       break;
 521     case lsf:
 522       bmType = "LSF";
 523       break;
 524     case sge:
 525       bmType = "SGE";
 526       break;
 527     case ccc:
 528       bmType = "CCC";
 529       break;
 530     case slurm:
 531       bmType = "SLURM";
 532       break;
 533     case none:
 534       bmType = "LOCAL";
 535       break;
 536     case ll:
 537       bmType = "LL";
 538       break;
 539     case vishnu:
 540       bmType = "VISHNU";
 541       break;
 542     case oar:
 543       bmType = "OAR";
 544       break;
 545     case coorm:
 546       bmType = "COORM";
 547       break;
 548     default:
 549       LAUNCHER_MESSAGE("Bad batch description of the resource: Batch = " << params.Batch);
 550       throw LauncherException("No batchmanager for that cluster - Bad batch description of the resource");
 551   }
 552   Batch::BatchManagerCatalog & cata = Batch::BatchManagerCatalog::getInstance();
 553   fact = dynamic_cast<Batch::FactBatchManager*>(cata(bmType));
 554   if (fact == NULL) {
 555     LAUNCHER_MESSAGE("Cannot find batch manager factory for " << bmType << ". Check your version of libBatch.");
 556     throw LauncherException("Cannot find batch manager factory");
 557   }
 558   LAUNCHER_MESSAGE("Instanciation of batch manager of type: " << bmType);
 559   Batch::BatchManager * batch_client = (*fact)(hostname.c_str(), params.UserName.c_str(),
 560                                                protocol, mpi.c_str());
 561   return batch_client;
 562 }
 563
 564 //----------------------------------------------------------
 565 // Without LIBBATCH - Launcher_cpp do nothing...
 566 //----------------------------------------------------------
 567 #else
 568
 569 void
 570 Launcher_cpp::createJob(Launcher::Job * new_job)
 571 {
 572   LAUNCHER_INFOS("Launcher compiled without LIBBATCH - cannot create a job !!!");
 573   delete new_job;
 574   throw LauncherException("Method Launcher_cpp::createJob is not available "
 575                           "(libBatch was not present at compilation time)");
 576 }
 577
 578 void
 579 Launcher_cpp::launchJob(int job_id)
 580 {
 581   LAUNCHER_INFOS("Launcher compiled without LIBBATCH - cannot launch a job !!!");
 582   throw LauncherException("Method Launcher_cpp::launchJob is not available "
 583                           "(libBatch was not present at compilation time)");
 584 }
 585
 586 const char *
 587 Launcher_cpp::getJobState(int job_id)
 588 {
 589   LAUNCHER_INFOS("Launcher compiled without LIBBATCH - cannot get job state!!!");
 590   throw LauncherException("Method Launcher_cpp::getJobState is not available "
 591                           "(libBatch was not present at compilation time)");
 592 }
 593
 594 const char *
 595 Launcher_cpp::getAssignedHostnames(int job_id)
 596 {
 597   LAUNCHER_INFOS("Launcher compiled without LIBBATCH - cannot get job assigned hostnames!!!");
 598   throw LauncherException("Method Launcher_cpp::getAssignedHostnames is not available "
 599                           "(libBatch was not present at compilation time)");
 600 }
 601
 602 void
 603 Launcher_cpp::getJobResults(int job_id, std::string directory)
 604 {
 605   LAUNCHER_INFOS("Launcher compiled without LIBBATCH - cannot get job results!!!");
 606   throw LauncherException("Method Launcher_cpp::getJobResults is not available "
 607                           "(libBatch was not present at compilation time)");
 608 }
 609
 610 bool
 611 Launcher_cpp::getJobDumpState(int job_id, std::string directory)
 612 {
 613   LAUNCHER_INFOS("Launcher compiled without LIBBATCH - cannot get job dump state!!!");
 614   throw LauncherException("Method Launcher_cpp::getJobDumpState is not available "
 615                           "(libBatch was not present at compilation time)");
 616 }
 617
 618 bool
 619 Launcher_cpp::getJobWorkFile(int job_id, std::string work_file, std::string directory)
 620 {
 621   LAUNCHER_INFOS("Launcher compiled without LIBBATCH - cannot get job dump state!!!");
 622   throw LauncherException("Method Launcher_cpp::getJobWorkFile is not available "
 623                           "(libBatch was not present at compilation time)");
 624 }
 625
 626 void
 627 Launcher_cpp::removeJob(int job_id)
 628 {
 629   LAUNCHER_INFOS("Launcher compiled without LIBBATCH - cannot remove job!!!");
 630   throw LauncherException("Method Launcher_cpp::removeJob is not available "
 631                           "(libBatch was not present at compilation time)");
 632 }
 633
 634 void
 635 Launcher_cpp::stopJob(int job_id)
 636 {
 637   throw LauncherException("Method Launcher_cpp::stopJob is not available "
 638                           "(libBatch was not present at compilation time)");
 639 }
 640
 641 long
 642 Launcher_cpp::createJobWithFile( const std::string xmlExecuteFile, std::string clusterName)
 643 {
 644   throw LauncherException("Method Launcher_cpp::createJobWithFile is not available "
 645                           "(libBatch was not present at compilation time)");
 646   return 0;
 647 }
 648
 649 #endif
 650
 651 ParserLauncherType
 652 Launcher_cpp::ParseXmlFile(std::string xmlExecuteFile)
 653 {
 654   ParserLauncherType job_params;
 655   SALOME_Launcher_Handler * handler = new SALOME_Launcher_Handler(job_params);
 656
 657   const char* aFilePath = xmlExecuteFile.c_str();
 658   FILE* aFile = fopen(aFilePath, "r");
 659   if (aFile != NULL)
 660   {
 661     xmlDocPtr aDoc = xmlReadFile(aFilePath, NULL, 0);
 662     if (aDoc != NULL)
 663       handler->ProcessXmlDocument(aDoc);
 664     else
 665     {
 666       std::string message = "ResourcesManager_cpp: could not parse file: " + xmlExecuteFile;
 667       LAUNCHER_MESSAGE(message);
 668       delete handler;
 669       throw LauncherException(message);
 670     }
 671     // Free the document
 672     xmlFreeDoc(aDoc);
 673     fclose(aFile);
 674   }
 675   else
 676   {
 677     std::string message = "ResourcesManager_cpp: file is not readable: " + xmlExecuteFile;
 678     LAUNCHER_MESSAGE(message);
 679     delete handler;
 680     throw LauncherException(message);
 681   }
 682
 683   // Return
 684   delete handler;
 685   return job_params;
 686 }
 687
 688 std::map<int, Launcher::Job *>
 689 Launcher_cpp::getJobs()
 690 {
 691   return _launcher_job_map;
 692 }
 693
 694 void
 695 Launcher_cpp::createBatchManagerForJob(Launcher::Job * job)
 696 {
 697   int job_id = job->getNumber();
 698
 699   // Select a ressource for the job
 700   std::vector<std::string> ResourceList;
 701   resourceParams params = job->getResourceRequiredParams();
 702   // Consider only resources that can launch batch jobs
 703   params.can_launch_batch_jobs = true;
 704   try
 705   {
 706     ResourceList = _ResManager->GetFittingResources(params);
 707   }
 708   catch(const ResourcesException &ex)
 709   {
 710     throw LauncherException(ex.msg.c_str());
 711   }
 712   if (ResourceList.size() == 0)
 713   {
 714     LAUNCHER_INFOS("No adequate resource found for the job, number " << job->getNumber());
 715     job->setState("ERROR");
 716     throw LauncherException("No resource found the job");
 717   }
 718
 719   // Configure the job with the resource selected - the first of the list
 720   ParserResourcesType resource_definition = _ResManager->GetResourcesDescr(ResourceList[0]);
 721
 722   // Set resource definition to the job
 723   // The job will check if the definitions needed
 724   try
 725   {
 726     job->setResourceDefinition(resource_definition);
 727   }
 728   catch(const LauncherException &ex)
 729   {
 730     LAUNCHER_INFOS("Error in the definition of the resource, mess: " << ex.msg);
 731     job->setState("ERROR");
 732     throw ex;
 733   }
 734
 735   // Step 2: We can now add a Factory if the resource is correctly define
 736 #ifdef WITH_LIBBATCH
 737   std::map<int, Batch::BatchManager *>::const_iterator it = _batchmap.find(job_id);
 738   if(it == _batchmap.end())
 739   {
 740     try
 741     {
 742       // Warning cannot write on one line like this, because map object is constructed before
 743       // the method is called...
 744       //_batchmap[job_id] = FactoryBatchManager(resource_definition);
 745       Batch::BatchManager * batch_client = FactoryBatchManager(resource_definition);
 746       _batchmap[job_id] = batch_client;
 747     }
 748     catch(const LauncherException &ex)
 749     {
 750       LAUNCHER_INFOS("Error during creation of the batch manager of the job, mess: " << ex.msg);
 751       throw ex;
 752     }
 753     catch(const Batch::GenericException &ex)
 754     {
 755       LAUNCHER_INFOS("Error during creation of the batch manager of the job, mess: " << ex.message);
 756       throw LauncherException(ex.message);
 757     }
 758   }
 759 #endif
 760 }
 761
 762 void
 763 Launcher_cpp::addJobDirectlyToMap(Launcher::Job * new_job)
 764 {
 765   // Step 0: Calculated job_id
 766   pthread_mutex_lock(_job_cpt_mutex);
 767   int job_id = _job_cpt;
 768   _job_cpt++;
 769   new_job->setNumber(job_id);
 770   pthread_mutex_unlock(_job_cpt_mutex);
 771
 772   // Step 1: check if resource is already in the map
 773   createBatchManagerForJob(new_job);
 774
 775   // Step 2: add the job to the batch manager
 776 #ifdef WITH_LIBBATCH
 777   try
 778   {
 779     Batch::JobId batch_manager_job_id = _batchmap[job_id]->addJob(*(new_job->getBatchJob()),
 780                                                                   new_job->getReference());
 781     new_job->setBatchManagerJobId(batch_manager_job_id);
 782   }
 783   catch(const Batch::GenericException &ex)
 784   {
 785     LAUNCHER_INFOS("Job cannot be added, exception in addJob: " << ex.message);
 786     throw LauncherException(ex.message.c_str());
 787   }
 788
 789   // Step 3: add job to launcher map
 790   std::map<int, Launcher::Job *>::const_iterator it_job = _launcher_job_map.find(new_job->getNumber());
 791   if (it_job == _launcher_job_map.end())
 792     _launcher_job_map[new_job->getNumber()] = new_job;
 793   else
 794   {
 795     LAUNCHER_INFOS("A job as already the same id: " << new_job->getNumber());
 796     delete new_job;
 797     throw LauncherException("A job as already the same id - job is not created !");
 798   }
 799   LAUNCHER_MESSAGE("New job added");
 800 #endif
 801 }
 802
 803 list<int>
 804 Launcher_cpp::loadJobs(const char* jobs_file)
 805 {
 806   list<int> new_jobs_id_list;
 807
 808   // Load the jobs from XML file
 809   list<Launcher::Job *> jobs_list = Launcher::XML_Persistence::loadJobs(jobs_file);
 810
 811   // Create each job in the launcher
 812   list<Launcher::Job *>::const_iterator it_job;
 813   for (it_job = jobs_list.begin(); it_job != jobs_list.end(); it_job++)
 814   {
 815     Launcher::Job * new_job = *it_job;
 816     string job_state = new_job->getState();
 817
 818     try
 819     {
 820       if (job_state == "CREATED")
 821       {
 822         // In this case, we ignore run_part informations
 823         createJob(new_job);
 824         new_jobs_id_list.push_back(new_job->getNumber());
 825       }
 826       else if (job_state == "QUEUED"     ||
 827                job_state == "RUNNING"    ||
 828                job_state == "IN_PROCESS" ||
 829                job_state == "PAUSED")
 830       {
 831         addJobDirectlyToMap(new_job);
 832         new_jobs_id_list.push_back(new_job->getNumber());
 833
 834         // Step 4: We check that the BatchManager could resume
 835         // the job
 836 #ifdef WITH_LIBBATCH
 837         if (new_job->getBatchManagerJobId().getReference() != new_job->getReference())
 838         {
 839           LAUNCHER_INFOS("BatchManager type cannot resume a job - job state is set to ERROR");
 840           new_job->setState("ERROR");
 841         }
 842 #endif
 843       }
 844       else if (job_state == "FINISHED" ||
 845                job_state == "FAILED"   ||
 846                job_state == "ERROR")
 847       {
 848         // Step 2: We add run_part informations
 849         addJobDirectlyToMap(new_job);
 850         new_jobs_id_list.push_back(new_job->getNumber());
 851       }
 852       else
 853       {
 854         LAUNCHER_INFOS("A bad job is found, state unknown " << job_state);
 855         delete new_job;
 856       }
 857     }
 858     catch(const LauncherException &ex)
 859     {
 860       LAUNCHER_INFOS("Cannot load the job. Exception: " << ex.msg.c_str());
 861       delete new_job;
 862     }
 863   }
 864
 865   return new_jobs_id_list;
 866 }
 867
 868 void
 869 Launcher_cpp::saveJobs(const char* jobs_file)
 870 {
 871   // Create a sorted list from the internal job map
 872   list<const Launcher::Job *> jobs_list;
 873   for (int i=0; i<_job_cpt; i++)
 874   {
 875     map<int, Launcher::Job *>::const_iterator it_job = _launcher_job_map.find(i);
 876     if (it_job != _launcher_job_map.end())
 877       jobs_list.push_back(it_job->second);
 878   }
 879
 880   // Save the jobs in XML file
 881   Launcher::XML_Persistence::saveJobs(jobs_file, jobs_list);
 882 }