<html>
<head>
<style><!--
.hmmessage P
{
margin:0px;
padding:0px
}
body.hmmessage
{
font-size: 12pt;
font-family:Calibri
}
--></style></head>
<body class='hmmessage'><div dir='ltr'>Dear All,<div>I have submitted static_tov simulation inside Cactus directory by&nbsp;</div><div>./simfactory/bin/sim submit static_tov --parfile=par/static_tov.par --procs=32 --walltime=8:0:0 --allocation=loni_cactus08</div><div><br></div><div>Inside Cactus directory ./simfactory/bin/sim list-simulations gives</div><div>static_tov &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;[ACTIVE(FINISHED), restart 0000, job id 703467]</div><div>But in /scratch/ettest52/simulations/static_tov I found a log.txt file along with output-0000, output-0000-active and SIMFACTORY directories. The log.txt file contains following</div><div><br></div><div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::Creating simulation static_tov&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::Simulation directory: /scratch/ettest52/simulations/static_tov&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::Simulation Properties:&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::[properties]&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::machine &nbsp; &nbsp; &nbsp; &nbsp; = queenbee&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::simulationid &nbsp; &nbsp;= simulation-static_tov-queenbee-qb3.loni.org-ettest52-2013.08.04-11.09.54-31394&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::sourcedir &nbsp; &nbsp; &nbsp; = /home/ettest52/Cactus&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::configuration &nbsp; = sim&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::configid &nbsp; &nbsp; &nbsp; &nbsp;= config-sim-qb4.loni.org-home-ettest52-Cactus&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::buildid &nbsp; &nbsp; &nbsp; &nbsp; = build-sim-qb4.loni.org-ettest52-2013.07.18-07.25.24-12102&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::testsuite &nbsp; &nbsp; &nbsp; = False&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::executable &nbsp; &nbsp; &nbsp;= /scratch/ettest52/simulations/static_tov/SIMFACTORY/exe/cactus_sim&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::optionlist &nbsp; &nbsp; &nbsp;= /scratch/ettest52/simulations/static_tov/SIMFACTORY/cfg/OptionList&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::submitscript &nbsp; &nbsp;= /scratch/ettest52/simulations/static_tov/SIMFACTORY/run/SubmitScript&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::runscript &nbsp; &nbsp; &nbsp; = /scratch/ettest52/simulations/static_tov/SIMFACTORY/run/RunScript&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::parfile &nbsp; &nbsp; &nbsp; &nbsp; = /scratch/ettest52/simulations/static_tov/SIMFACTORY/par/static_tov.par&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.create(simulationName, parfile)::Simulation static_tov created&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::Restart for simulation static_tov created with restart id 0, long restart id 0000&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::Prepping for submission&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::No previous walltime available to be used, using walltime 8:00:00&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::Defined substituion properties for submission&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::{'SIMULATION_ID': 'simulation-static_tov-queenbee-qb3.loni.org-ettest52-2013.08.04-11.09.54-31394', 'NODE_PROCS': 1, 'PPN_USED': 8, 'PPN': 8, 'ALLOCATION': 'loni_cactus08', 'WALLTIME_HH': '08', 'CPUFREQ': '2.33', 'USER': 'ettest52', 'RUNDIR': '/scratch/ettest52/simulations/static_tov/output-0000', 'NODES': 4, 'SIMULATION_NAME': 'static_tov', 'WALLTIME': '8:00:00', 'NUM_THREADS': 8, 'EXECUTABLE': '/scratch/ettest52/simulations/static_tov/SIMFACTORY/exe/cactus_sim', 'PROCS_REQUESTED': 32, 'EMAIL': 'urkhanal@tucdp.edu.np', 'RESTART_ID': 0, 'CHAINED_JOB_ID': '', 'FROM_RESTART_COMMAND': '', 'NUM_SMT': 1, 'WALLTIME_SECONDS': 28800, 'SIMFACTORY': '/home/ettest52/Cactus/simfactory/bin/sim', 'PROCS': 32, 'SUBMITSCRIPT': '/scratch/ettest52/simulations/static_tov/output-0000/SIMFACTORY/SubmitScript', 'WALLTIME_HOURS': 8.0, 'WALLTIME_MM': '00', 'PARFILE': '/scratch/ettest52/simulations/static_tov/output-0000/static_tov.par', 'WALLTIME_SS': '00', 'QUEUE': 'checkpt', 'CONFIGURATION': 'sim', 'SOURCEDIR': '/home/ettest52/Cactus', 'HOSTNAME': 'qb3.loni.org', 'NUM_PROCS': 4, 'SCRIPTFILE': '/scratch/ettest52/simulations/static_tov/output-0000/SIMFACTORY/SubmitScript', 'MEMORY': '8192', 'WALLTIME_MINUTES': 480, 'SHORT_SIMULATION_NAME': 'static_tov-0000'}&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::self.Properties: /scratch/ettest52/simulations/static_tov/output-0000/SIMFACTORY/properties.ini&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::[properties]&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::machine &nbsp; &nbsp; &nbsp; &nbsp; = queenbee&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::simulationid &nbsp; &nbsp;= simulation-static_tov-queenbee-qb3.loni.org-ettest52-2013.08.04-11.09.54-31394&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::sourcedir &nbsp; &nbsp; &nbsp; = /home/ettest52/Cactus&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::configuration &nbsp; = sim&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::configid &nbsp; &nbsp; &nbsp; &nbsp;= config-sim-qb4.loni.org-home-ettest52-Cactus&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::buildid &nbsp; &nbsp; &nbsp; &nbsp; = build-sim-qb4.loni.org-ettest52-2013.07.18-07.25.24-12102&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::testsuite &nbsp; &nbsp; &nbsp; = False&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::executable &nbsp; &nbsp; &nbsp;= /scratch/ettest52/simulations/static_tov/SIMFACTORY/exe/cactus_sim&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::optionlist &nbsp; &nbsp; &nbsp;= /scratch/ettest52/simulations/static_tov/SIMFACTORY/cfg/OptionList&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::submitscript &nbsp; &nbsp;= /scratch/ettest52/simulations/static_tov/SIMFACTORY/run/SubmitScript&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::runscript &nbsp; &nbsp; &nbsp; = /scratch/ettest52/simulations/static_tov/SIMFACTORY/run/RunScript&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::parfile &nbsp; &nbsp; &nbsp; &nbsp; = /scratch/ettest52/simulations/static_tov/SIMFACTORY/par/static_tov.par&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::chainedjobid &nbsp; &nbsp;= -1&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::ppn &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; = 8&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::procsrequested &nbsp;= 32&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::allocation &nbsp; &nbsp; &nbsp;= loni_cactus08&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::user &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;= ettest52&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::numsmt &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;= 1&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::walltime &nbsp; &nbsp; &nbsp; &nbsp;= 8:00:00&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::numprocs &nbsp; &nbsp; &nbsp; &nbsp;= 4&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::nodeprocs &nbsp; &nbsp; &nbsp; = 1&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::numthreads &nbsp; &nbsp; &nbsp;= 8&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::hostname &nbsp; &nbsp; &nbsp; &nbsp;= qb3.loni.org&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::ppnused &nbsp; &nbsp; &nbsp; &nbsp; = 8&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::queue &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; = checkpt&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::cpufreq &nbsp; &nbsp; &nbsp; &nbsp; = 2.33&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::procs &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; = 32&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::memory &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;= 8192&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::nodes &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; = 4&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::pbsSimulationName= static_tov-0000&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::saving substituted submitscript contents to: /scratch/ettest52/simulations/static_tov/output-0000/SIMFACTORY/SubmitScript&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::Executing submission command: qsub /scratch/ettest52/simulations/static_tov/output-0000/SIMFACTORY/SubmitScript&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.makeActive()::Simulation static_tov with restart-id 0 has been made active&nbsp;</div><div>[LOG:2013-08-04 11:09:54] job_id = self.extractJobId(output)::received raw output: 703467.qb2&nbsp;</div><div>[LOG:2013-08-04 11:09:54] job_id = self.extractJobId(output)::&nbsp;</div><div>[LOG:2013-08-04 11:09:54] job_id = self.extractJobId(output)::using submitRegex: (\d+)[.]qb2&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::After searching raw output, it was determined that the job_id is: 703467&nbsp;</div><div>[LOG:2013-08-04 11:09:54] self.submit(submitScript)::Simulation static_tov, with restart id 0, and job id 703467 has been submitted&nbsp;</div><div>[LOG:2013-08-04 11:11:02] ret = restart.load(sim, activeId)::For simulation static_tov, loaded restart id 0, long restart id 0000&nbsp;</div><div>[LOG:2013-08-07 02:43:53] ret = restart.load(sim, activeId)::For simulation static_tov, loaded restart id 0, long restart id 0000&nbsp;</div></div><div><br></div><div><br></div><div><br></div><div>Inside output-0000 there is not static_tov directory but contains SIMFACTORY directory, static_tov.err and static_tov.out files. static_tov.err has [PBS: exec of shell '' failed] and static_tov.out contains following</div><div><br></div><div><div>--------------------------------------&nbsp;</div><div>Running PBS prologue script&nbsp;</div><div>--------------------------------------&nbsp;</div><div>User and Job Data:&nbsp;</div><div>--------------------------------------&nbsp;</div><div>Job ID: &nbsp; &nbsp;703467.qb2&nbsp;</div><div>Username: &nbsp;ettest52&nbsp;</div><div>Group: &nbsp; &nbsp; lsuusers&nbsp;</div><div>Date: &nbsp; &nbsp; &nbsp;04-Aug-2013 11:10&nbsp;</div><div>Node: &nbsp; &nbsp; &nbsp;qb453 (6947)&nbsp;</div><div>--------------------------------------&nbsp;</div><div>PBS has allocated the following nodes:&nbsp;</div><div><br></div><div>qb453&nbsp;</div><div>qb452&nbsp;</div><div>qb451&nbsp;</div><div>qb450&nbsp;</div><div><br></div><div>A total of 32 processors on 4 nodes allocated&nbsp;</div><div>---------------------------------------------&nbsp;</div><div>Check nodes and clean them of stray processes&nbsp;</div><div>---------------------------------------------&nbsp;</div><div>Checking node qb453 11:10:06&nbsp;</div><div>Checking node qb452 11:10:08&nbsp;</div><div>Checking node qb451 11:10:09&nbsp;</div><div>Checking node qb450 11:10:11&nbsp;</div><div>Done clearing all the allocated nodes&nbsp;</div><div>------------------------------------------------------&nbsp;</div><div>Concluding PBS prologue script - 04-Aug-2013 11:10:11&nbsp;</div><div>------------------------------------------------------&nbsp;</div><div>------------------------------------------------------&nbsp;</div><div>Running PBS epilogue script &nbsp; &nbsp;- 04-Aug-2013 11:10:12&nbsp;</div><div>------------------------------------------------------&nbsp;</div><div>Checking node qb453 (MS)&nbsp;</div><div>Checking node qb450 ok&nbsp;</div><div>Checking node qb451 ok&nbsp;</div><div>Checking node qb452 ok&nbsp;</div><div>Checking node qb453 ok&nbsp;</div><div>------------------------------------------------------&nbsp;</div><div>Concluding PBS epilogue script - 04-Aug-2013 11:10:19&nbsp;</div><div>------------------------------------------------------&nbsp;</div><div>Exit Status: &nbsp; &nbsp;&nbsp;</div><div>Job ID: &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;703467.qb2&nbsp;</div><div>Username: &nbsp; &nbsp; &nbsp; &nbsp;ettest52&nbsp;</div><div>Group: &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; lsuusers&nbsp;</div><div>Job Name: &nbsp; &nbsp; &nbsp; &nbsp;static_tov-0000&nbsp;</div><div>Session Id: &nbsp; &nbsp; &nbsp;6946&nbsp;</div><div>Resource Limits: ncpus=1,nodes=4:ppn=8,walltime=08:00:00&nbsp;</div><div>Resources Used: &nbsp;cput=00:00:00,mem=112kb,vmem=1416kb,walltime=00:00:00&nbsp;</div><div>Queue Used: &nbsp; &nbsp; &nbsp;checkpt&nbsp;</div><div>Account String: &nbsp;loni_cactus08&nbsp;</div><div>Node: &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;qb453&nbsp;</div><div>Process id: &nbsp; &nbsp; &nbsp;7476&nbsp;</div><div>------------------------------------------------------&nbsp;</div></div><div>How can I solve this problem?</div><div><br><br>Udayaraj Khanal<div><br></div></div>                                               </div></body>
</html>