src/ResourcesManager/SALOME_ResourcesManager.cxx

   1 //  Copyright (C) 2007-2010  CEA/DEN, EDF R&D, OPEN CASCADE
   2 //
   3 //  Copyright (C) 2003-2007  OPEN CASCADE, EADS/CCR, LIP6, CEA/DEN,
   4 //  CEDRAT, EDF R&D, LEG, PRINCIPIA R&D, BUREAU VERITAS
   5 //
   6 //  This library is free software; you can redistribute it and/or
   7 //  modify it under the terms of the GNU Lesser General Public
   8 //  License as published by the Free Software Foundation; either
   9 //  version 2.1 of the License.
  10 //
  11 //  This library is distributed in the hope that it will be useful,
  12 //  but WITHOUT ANY WARRANTY; without even the implied warranty of
  13 //  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14 //  Lesser General Public License for more details.
  15 //
  16 //  You should have received a copy of the GNU Lesser General Public
  17 //  License along with this library; if not, write to the Free Software
  18 //  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307 USA
  19 //
  20 //  See http://www.salome-platform.org/ or email : webmaster.salome@opencascade.com
  21 //
  22
  23 #include "SALOME_ResourcesManager.hxx"
  24 #include "Utils_ExceptHandlers.hxx"
  25 #include "Utils_CorbaException.hxx"
  26 #include "OpUtil.hxx"
  27
  28 #include <stdlib.h>
  29 #include <stdio.h>
  30 #ifndef WIN32
  31 #include <unistd.h>
  32 #else
  33 #include <io.h>
  34 #include <process.h>
  35 #endif
  36 #include <fstream>
  37 #include <iostream>
  38 #include <sstream>
  39 #include <string.h>
  40 #include <map>
  41 #include <list>
  42
  43 #include <sys/types.h>
  44 #include <sys/stat.h>
  45 #include "utilities.h"
  46
  47 #define MAX_SIZE_FOR_HOSTNAME 256;
  48
  49 const char *SALOME_ResourcesManager::_ResourcesManagerNameInNS = "/ResourcesManager";
  50
  51 //=============================================================================
  52 /*!
  53  * just for test
  54  */
  55 //=============================================================================
  56
  57 SALOME_ResourcesManager::
  58 SALOME_ResourcesManager(CORBA::ORB_ptr orb,
  59                         PortableServer::POA_var poa,
  60                         SALOME_NamingService *ns,
  61                         const char *xmlFilePath) : _rm(xmlFilePath)
  62 {
  63   MESSAGE("SALOME_ResourcesManager constructor");
  64   _NS = ns;
  65   _orb = CORBA::ORB::_duplicate(orb) ;
  66   _poa = PortableServer::POA::_duplicate(poa) ;
  67   PortableServer::ObjectId_var id = _poa->activate_object(this);
  68   CORBA::Object_var obj = _poa->id_to_reference(id);
  69   Engines::ResourcesManager_var refContMan = Engines::ResourcesManager::_narrow(obj);
  70   _NS->Register(refContMan,_ResourcesManagerNameInNS);
  71   MESSAGE("SALOME_ResourcesManager constructor end");
  72 }
  73
  74 //=============================================================================
  75 /*!
  76  *  Standard constructor, parse resource file.
  77  *  - if ${APPLI} exists in environment,
  78  *    look for ${HOME}/${APPLI}/CatalogResources.xml
  79  *  - else look for default:
  80  *    ${KERNEL_ROOT_DIR}/share/salome/resources/kernel/CatalogResources.xml
  81  *  - parse XML resource file.
  82  */
  83 //=============================================================================
  84
  85 SALOME_ResourcesManager::SALOME_ResourcesManager(CORBA::ORB_ptr orb,
  86                                                  PortableServer::POA_var poa,
  87                                                  SALOME_NamingService *ns) : _rm()
  88 {
  89   MESSAGE("SALOME_ResourcesManager constructor");
  90   _NS = ns;
  91   _orb = CORBA::ORB::_duplicate(orb) ;
  92   _poa = PortableServer::POA::_duplicate(poa) ;
  93   PortableServer::ObjectId_var id = _poa->activate_object(this);
  94   CORBA::Object_var obj = _poa->id_to_reference(id);
  95   Engines::ResourcesManager_var refContMan = Engines::ResourcesManager::_narrow(obj);
  96   _NS->Register(refContMan,_ResourcesManagerNameInNS);
  97
  98   MESSAGE("SALOME_ResourcesManager constructor end");
  99 }
 100
 101 //=============================================================================
 102 /*!
 103  *  Standard Destructor
 104  */
 105 //=============================================================================
 106
 107 SALOME_ResourcesManager::~SALOME_ResourcesManager()
 108 {
 109   MESSAGE("SALOME_ResourcesManager destructor");
 110 }
 111
 112
 113 //=============================================================================
 114 /*! CORBA method:
 115  *  shutdown all the containers, then the ContainerManager servant
 116  */
 117 //=============================================================================
 118
 119 void SALOME_ResourcesManager::Shutdown()
 120 {
 121   MESSAGE("Shutdown");
 122   _NS->Destroy_Name(_ResourcesManagerNameInNS);
 123   PortableServer::ObjectId_var oid = _poa->servant_to_id(this);
 124   _poa->deactivate_object(oid);
 125 }
 126
 127 //=============================================================================
 128 //! get the name of resources fitting the specified constraints (params)
 129 /*!
 130  *  If hostname specified, check it is local or known in resources catalog.
 131  *
 132  *  Else
 133  *  - select first machines with corresponding OS (all machines if
 134  *    parameter OS empty),
 135  *  - then select the sublist of machines on which the component is known
 136  *    (if the result is empty, that probably means that the inventory of
 137  *    components is probably not done, so give complete list from previous step)
 138  */
 139 //=============================================================================
 140
 141 Engines::ResourceList *
 142 SALOME_ResourcesManager::GetFittingResources(const Engines::ResourceParameters& params)
 143 {
 144   MESSAGE("ResourcesManager::GetFittingResources");
 145   Engines::ResourceList * ret = new Engines::ResourceList;
 146
 147   // CORBA -> C++
 148   resourceParams p;
 149   p.name = params.name;
 150   p.hostname = params.hostname;
 151   p.OS = params.OS;
 152   p.nb_proc = params.nb_proc;
 153   p.nb_node = params.nb_node;
 154   p.nb_proc_per_node = params.nb_proc_per_node;
 155   p.cpu_clock = params.cpu_clock;
 156   p.mem_mb = params.mem_mb;
 157   for(unsigned int i=0; i<params.componentList.length(); i++)
 158     p.componentList.push_back(std::string(params.componentList[i]));
 159   for(unsigned int i=0; i<params.resList.length(); i++)
 160     p.resourceList.push_back(std::string(params.resList[i]));
 161
 162   try
 163   {
 164     // Call C++ ResourceManager
 165     std::vector <std::string> vec = _rm.GetFittingResources(p);
 166
 167     // C++ -> CORBA
 168     ret->length(vec.size());
 169     for(unsigned int i=0;i<vec.size();i++)
 170       (*ret)[i] = (vec[i]).c_str();
 171   }
 172   catch(const ResourcesException &ex)
 173   {
 174     INFOS("Caught exception in GetFittingResources C++:  " << ex.msg);
 175     THROW_SALOME_CORBA_EXCEPTION(ex.msg.c_str(),SALOME::BAD_PARAM);
 176   }
 177
 178   return ret;
 179 }
 180
 181 //=============================================================================
 182 /*!
 183  *  dynamically obtains the first machines
 184  */
 185 //=============================================================================
 186
 187 char *
 188 SALOME_ResourcesManager::FindFirst(const Engines::ResourceList& listOfResources)
 189 {
 190   // CORBA -> C++
 191   std::vector<std::string> rl;
 192   for(unsigned int i=0; i<listOfResources.length(); i++)
 193     rl.push_back(std::string(listOfResources[i]));
 194
 195   return CORBA::string_dup(_rm.Find("first", rl).c_str());
 196 }
 197
 198 char *
 199 SALOME_ResourcesManager::Find(const char* policy, const Engines::ResourceList& listOfResources)
 200 {
 201   // CORBA -> C++
 202   std::vector<std::string> rl;
 203   for(unsigned int i=0; i<listOfResources.length(); i++)
 204     rl.push_back(std::string(listOfResources[i]));
 205
 206   return CORBA::string_dup(_rm.Find(policy, rl).c_str());
 207 }
 208
 209 Engines::ResourceDefinition*
 210 SALOME_ResourcesManager::GetResourceDefinition(const char * name)
 211 {
 212   ParserResourcesType resource = _rm.GetResourcesDescr(name);
 213   Engines::ResourceDefinition *p_ptr = new Engines::ResourceDefinition;
 214
 215   p_ptr->name = CORBA::string_dup(resource.Name.c_str());
 216   p_ptr->hostname = CORBA::string_dup(resource.HostName.c_str());
 217   if( resource.Protocol == rsh )
 218     p_ptr->protocol = "rsh";
 219   else if( resource.Protocol == ssh )
 220     p_ptr->protocol = "ssh";
 221   if( resource.ClusterInternalProtocol == rsh )
 222     p_ptr->iprotocol = "rsh";
 223   else if( resource.ClusterInternalProtocol == ssh )
 224     p_ptr->iprotocol = "ssh";
 225   p_ptr->username = CORBA::string_dup(resource.UserName.c_str());
 226   p_ptr->applipath = CORBA::string_dup(resource.AppliPath.c_str());
 227   p_ptr->componentList.length(resource.ComponentsList.size());
 228   for(unsigned int i=0;i<resource.ComponentsList.size();i++)
 229     p_ptr->componentList[i] = CORBA::string_dup(resource.ComponentsList[i].c_str());
 230   p_ptr->OS = CORBA::string_dup(resource.OS.c_str());
 231   p_ptr->mem_mb = resource.DataForSort._memInMB;
 232   p_ptr->cpu_clock = resource.DataForSort._CPUFreqMHz;
 233   p_ptr->nb_proc_per_node = resource.DataForSort._nbOfProcPerNode;
 234   p_ptr->nb_node = resource.DataForSort._nbOfNodes;
 235
 236   if( resource.mpi == lam )
 237     p_ptr->mpiImpl = "lam";
 238   else if( resource.mpi == mpich1 )
 239     p_ptr->mpiImpl = "mpich1";
 240   else if( resource.mpi == mpich2 )
 241     p_ptr->mpiImpl = "mpich2";
 242   else if( resource.mpi == openmpi )
 243     p_ptr->mpiImpl = "openmpi";
 244   else if( resource.mpi == slurm )
 245     p_ptr->mpiImpl = "slurm";
 246   else if( resource.mpi == prun )
 247     p_ptr->mpiImpl = "prun";
 248
 249   if( resource.Batch == pbs )
 250     p_ptr->batch = "pbs";
 251   else if( resource.Batch == lsf )
 252     p_ptr->batch = "lsf";
 253   else if( resource.Batch == sge )
 254     p_ptr->batch = "sge";
 255   else if( resource.Batch == ccc )
 256     p_ptr->batch = "ccc";
 257   else if( resource.Batch == ssh_batch )
 258     p_ptr->batch = "ssh";
 259
 260   return p_ptr;
 261 }
 262
 263 void
 264 SALOME_ResourcesManager::AddResource(const Engines::ResourceDefinition& new_resource,
 265                                      CORBA::Boolean write,
 266                                      const char * xml_file)
 267 {
 268   ParserResourcesType resource;
 269   resource.Name = new_resource.name.in();
 270   resource.HostName = new_resource.hostname.in();
 271   resource.OS = new_resource.OS.in();
 272   resource.AppliPath = new_resource.applipath.in();
 273   resource.DataForSort._memInMB = new_resource.mem_mb;
 274   resource.DataForSort._CPUFreqMHz = new_resource.cpu_clock;
 275   resource.DataForSort._nbOfNodes = new_resource.nb_node;
 276   resource.DataForSort._nbOfProcPerNode = new_resource.nb_proc_per_node;
 277   resource.UserName = new_resource.username.in();
 278
 279   std::string aBatch = new_resource.batch.in();
 280   if (aBatch == "pbs")
 281     resource.Batch = pbs;
 282   else if  (aBatch == "lsf")
 283     resource.Batch = lsf;
 284   else if  (aBatch == "sge")
 285     resource.Batch = sge;
 286   else if  (aBatch == "ccc")
 287     resource.Batch = ccc;
 288   else if  (aBatch == "ssh_batch")
 289     resource.Batch = ssh_batch;
 290   else if (aBatch == "")
 291     resource.Batch = none;
 292   else {
 293     INFOS("Bad Batch definition in AddResource: " << aBatch);
 294     std::string message("Bad Batch definition in AddResource: ");
 295     message += aBatch;
 296     THROW_SALOME_CORBA_EXCEPTION(message.c_str(),SALOME::BAD_PARAM);
 297   }
 298
 299   std::string anMpi = new_resource.mpiImpl.in();
 300   if (anMpi == "lam")
 301     resource.mpi = lam;
 302   else if (anMpi == "mpich1")
 303     resource.mpi = mpich1;
 304   else if (anMpi == "mpich2")
 305     resource.mpi = mpich2;
 306   else if (anMpi == "openmpi")
 307     resource.mpi = openmpi;
 308   else if  (anMpi == "slurm")
 309     resource.mpi = slurm;
 310   else if  (anMpi == "prun")
 311     resource.mpi = prun;
 312   else if (anMpi == "")
 313     resource.mpi = nompi;
 314   else {
 315     INFOS("Bad MPI definition in AddResource: " << anMpi);
 316     std::string message("Bad MPI definition in AddResource: ");
 317     message += anMpi;
 318     THROW_SALOME_CORBA_EXCEPTION(message.c_str(),SALOME::BAD_PARAM);
 319   }
 320
 321   std::string mode_str = new_resource.mode.in();
 322   if (mode_str == "interactive")
 323     resource.Mode = interactive;
 324   else if (mode_str == "batch")
 325     resource.Mode = batch;
 326   else if (mode_str == "")
 327     resource.Mode = interactive;
 328   else {
 329     INFOS("Bad mode definition in AddResource: " << mode_str);
 330     std::string message("Bad mode definition in AddResource: ");
 331     message += mode_str;
 332     THROW_SALOME_CORBA_EXCEPTION(message.c_str(),SALOME::BAD_PARAM);
 333   }
 334
 335   std::string protocol = new_resource.protocol.in();
 336   if (protocol == "rsh")
 337     resource.Protocol = rsh;
 338   else if (protocol == "ssh")
 339     resource.Protocol = ssh;
 340   else if (protocol == "")
 341     resource.Protocol = rsh;
 342   else {
 343     INFOS("Bad protocol definition in AddResource: " << protocol);
 344     std::string message("Bad protocol definition in AddResource: ");
 345     message += protocol;
 346     THROW_SALOME_CORBA_EXCEPTION(message.c_str(),SALOME::BAD_PARAM);
 347   }
 348
 349   std::string iprotocol = new_resource.iprotocol.in();
 350   if (iprotocol == "rsh")
 351     resource.ClusterInternalProtocol = rsh;
 352   else if (iprotocol == "ssh")
 353     resource.ClusterInternalProtocol = ssh;
 354   else if (iprotocol == "")
 355     resource.ClusterInternalProtocol = rsh;
 356   else {
 357     INFOS("Bad iprotocol definition in AddResource: " << iprotocol);
 358     std::string message("Bad iprotocol definition in AddResource: ");
 359     message += iprotocol;
 360     THROW_SALOME_CORBA_EXCEPTION(message.c_str(),SALOME::BAD_PARAM);
 361   }
 362
 363   for (CORBA::ULong i = 0; i < new_resource.componentList.length(); i++)
 364     resource.ComponentsList.push_back(new_resource.componentList[i].in());
 365
 366   _rm.AddResourceInCatalog(resource);
 367
 368   if (write)
 369   {
 370     _rm.WriteInXmlFile(std::string(xml_file));
 371     _rm.ParseXmlFiles();
 372   }
 373 }
 374
 375 void
 376 SALOME_ResourcesManager::RemoveResource(const char * resource_name,
 377                                         CORBA::Boolean write,
 378                                         const char * xml_file)
 379 {
 380   _rm.DeleteResourceInCatalog(resource_name);
 381   if (write)
 382   {
 383     _rm.WriteInXmlFile(std::string(xml_file));
 384     _rm.ParseXmlFiles();
 385   }
 386 }
 387
 388 std::string
 389 SALOME_ResourcesManager::getMachineFile(std::string resource_name,
 390                                         CORBA::Long nb_procs,
 391                                         std::string parallelLib)
 392 {
 393   std::string machine_file_name("");
 394
 395   if (parallelLib == "Dummy")
 396   {
 397     MESSAGE("[getMachineFile] parallelLib is Dummy");
 398     MapOfParserResourcesType resourcesList = _rm.GetList();
 399     if (resourcesList.find(resource_name) != resourcesList.end())
 400     {
 401       ParserResourcesType resource = resourcesList[resource_name];
 402
 403       // Check if resource is cluster or not
 404       if (resource.ClusterMembersList.empty())
 405       {
 406         //It is not a cluster so we create a cluster with one machine
 407         ParserResourcesClusterMembersType fake_node;
 408         fake_node.HostName = resource.HostName;
 409         fake_node.Protocol = resource.Protocol;
 410         fake_node.ClusterInternalProtocol = resource.ClusterInternalProtocol;
 411         fake_node.UserName = resource.UserName;
 412         fake_node.AppliPath = resource.AppliPath;
 413         fake_node.DataForSort = resource.DataForSort;
 414
 415         resource.ClusterMembersList.push_front(fake_node);
 416       }
 417
 418       // Creating list of machines for creating the machine file
 419       std::list<std::string> list_of_machines;
 420       std::list<ParserResourcesClusterMembersType>::iterator cluster_it =
 421         resource.ClusterMembersList.begin();
 422       while (cluster_it != resource.ClusterMembersList.end())
 423       {
 424         // For each member of the cluster we add a nbOfNodes * nbOfProcPerNode in the list
 425         unsigned int number_of_proc = (*cluster_it).DataForSort._nbOfNodes *
 426                                       (*cluster_it).DataForSort._nbOfProcPerNode;
 427         for (unsigned int i = 0; i < number_of_proc; i++)
 428           list_of_machines.push_back((*cluster_it).HostName);
 429         cluster_it++;
 430       }
 431
 432       // Creating machine file
 433       machine_file_name = tmpnam(NULL);
 434           std::ofstream machine_file(machine_file_name.c_str(), std::ios_base::out);
 435
 436       CORBA::Long machine_number = 0;
 437       std::list<std::string>::iterator it = list_of_machines.begin();
 438       while (machine_number != nb_procs)
 439       {
 440         // Adding a new node to the machine file
 441         machine_file << *it << std::endl;
 442
 443         // counting...
 444         it++;
 445         if (it == list_of_machines.end())
 446           it = list_of_machines.begin();
 447         machine_number++;
 448       }
 449     }
 450     else
 451       INFOS("[getMachineFile] Error resource_name not found in resourcesList -> " << resource_name);
 452   }
 453   else if (parallelLib == "Mpi")
 454   {
 455     MESSAGE("[getMachineFile] parallelLib is Mpi");
 456
 457     MapOfParserResourcesType resourcesList = _rm.GetList();
 458     if (resourcesList.find(resource_name) != resourcesList.end())
 459     {
 460       ParserResourcesType resource = resourcesList[resource_name];
 461       // Check if resource is cluster or not
 462       if (resource.ClusterMembersList.empty())
 463       {
 464         //It is not a cluster so we create a cluster with one machine
 465         ParserResourcesClusterMembersType fake_node;
 466         fake_node.HostName = resource.HostName;
 467         fake_node.Protocol = resource.Protocol;
 468         fake_node.ClusterInternalProtocol = resource.ClusterInternalProtocol;
 469         fake_node.UserName = resource.UserName;
 470         fake_node.AppliPath = resource.AppliPath;
 471         fake_node.DataForSort = resource.DataForSort;
 472
 473         resource.ClusterMembersList.push_front(fake_node);
 474       }
 475
 476       // Choose mpi implementation -> each MPI implementation has is own machinefile...
 477       if (resource.mpi == lam)
 478       {
 479         // Creating machine file
 480         machine_file_name = tmpnam(NULL);
 481         std::ofstream machine_file(machine_file_name.c_str(), std::ios_base::out);
 482
 483         // We add all cluster machines to the file
 484         std::list<ParserResourcesClusterMembersType>::iterator cluster_it =
 485           resource.ClusterMembersList.begin();
 486         while (cluster_it != resource.ClusterMembersList.end())
 487         {
 488           unsigned int number_of_proc = (*cluster_it).DataForSort._nbOfNodes *
 489             (*cluster_it).DataForSort._nbOfProcPerNode;
 490           machine_file << (*cluster_it).HostName << " cpu=" << number_of_proc << std::endl;
 491           cluster_it++;
 492         }
 493       }
 494       else if (resource.mpi == openmpi)
 495       {
 496         // Creating machine file
 497         machine_file_name = tmpnam(NULL);
 498         std::ofstream machine_file(machine_file_name.c_str(), std::ios_base::out);
 499
 500         // We add all cluster machines to the file
 501         std::list<ParserResourcesClusterMembersType>::iterator cluster_it =
 502           resource.ClusterMembersList.begin();
 503         while (cluster_it != resource.ClusterMembersList.end())
 504         {
 505           unsigned int number_of_proc = (*cluster_it).DataForSort._nbOfNodes *
 506             (*cluster_it).DataForSort._nbOfProcPerNode;
 507           machine_file << (*cluster_it).HostName << " slots=" << number_of_proc << std::endl;
 508           cluster_it++;
 509         }
 510       }
 511       else if (resource.mpi == nompi)
 512       {
 513         INFOS("[getMachineFile] Error resource_name MPI implementation was defined for " << resource_name);
 514       }
 515       else
 516         INFOS("[getMachineFile] Error resource_name MPI implementation not currenly handled for " << resource_name);
 517     }
 518     else
 519       INFOS("[getMachineFile] Error resource_name not found in resourcesList -> " << resource_name);
 520   }
 521   else
 522     INFOS("[getMachineFile] Error parallelLib is not handled -> " << parallelLib);
 523
 524   return machine_file_name;
 525 }