<div dir="ltr">Erik<br><br>Actually, even with <span style="font-size:12.8px">--procs=2 --num-threads=1<br>I will get:<br></span><span style="font-size:12.8px">The environment variable CACTUS_NUM_PROCS is set to 2, but there are 1 MPI processes.<br></span><span style="font-size:12.8px"><br>However, with only --procs=2 can really start a simulation, and terminate due to  </span><span style="font-size:12.8px">TAT/Slab limitation<br></span><span style="font-size:12.8px"><br>Is there any configuration corresponding to <br>&quot;</span><span style="font-size:12.8px">but there are 1 MPI processes. This may indicate a severe problem with the MPI startup mechanism.&quot;</span><br><br><span style="font-size:12.8px">I&#39;m using</span><br><div><span style="font-size:12.8px">optionlist       ubuntu.cfg</span></div><div><span style="font-size:12.8px">submitscript      generic.sub</span></div><div><span style="font-size:12.8px">runscript      debian.run<br><br>Cory</span></div><br></div><div class="gmail_extra"><br><div class="gmail_quote">On Fri, Dec 23, 2016 at 9:44 PM, Erik Schnetter <span dir="ltr">&lt;<a href="mailto:schnetter@cct.lsu.edu" target="_blank">schnetter@cct.lsu.edu</a>&gt;</span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Cory<br>
<br>
Using &quot;--procs=4 --num-threads=1&quot; might help. You do not need to<br>
change the settings in the &quot;.ini&quot; file; only the command line<br>
parameters determine how many MPI processes are used.<br>
<span class="HOEnZb"><font color="#888888"><br>
-erik<br>
</font></span><div class="HOEnZb"><div class="h5"><br>
On Fri, Dec 23, 2016 at 8:12 AM, Cory Chu &lt;<a href="mailto:cory.yk.chu@gmail.com">cory.yk.chu@gmail.com</a>&gt; wrote:<br>
&gt; Hi Ian<br>
&gt;<br>
&gt; I&#39;am running on VirtualBox set whit 2 Processors and 8GB RAM<br>
&gt;<br>
&gt; When i try with this submit command<br>
&gt;<br>
&gt; create-submit mybbh --parfile par/BBHLowRes.par --num-threads=1 --procs=2<br>
&gt;<br>
&gt; I get following message in .err file<br>
&gt;<br>
&gt; WARNING level 0 from host kpc-VirtualBox process 0<br>
&gt;   while executing schedule bin (none), routine (no thorn)::(no routine)<br>
&gt;   in thorn Carpet, file<br>
&gt; /home/kuangtly/programming/ET/<wbr>forfun/Cactus/arrangements/<wbr>Carpet/Carpet/src/SetupGH.cc:<wbr>153:<br>
&gt;   -&gt; The environment variable CACTUS_NUM_PROCS is set to 2, but there are 1<br>
&gt; MPI processes. This may indicate a severe problem with the MPI startup<br>
&gt; mechanism.<br>
&gt; cactus_sim:<br>
&gt; /home/kuangtly/programming/ET/<wbr>forfun/Cactus/arrangements/<wbr>Carpet/Carpet/src/helpers.cc:<wbr>275:<br>
&gt; int Carpet::Abort(const cGH*, int): Assertion `0&#39; failed.<br>
&gt; Rank 0 with PID 15985 received signal 6<br>
&gt; Writing backtrace to BBHLowRes/backtrace.0.txt<br>
&gt; Aborted (core dumped)<br>
&gt;<br>
&gt;<br>
&gt; i have change these setting in .ini file<br>
&gt; ppn =2<br>
&gt; max-num-threads =2<br>
&gt; num-threads =2<br>
&gt;<br>
&gt;<br>
&gt;<br>
&gt; On Fri, Dec 23, 2016 at 6:28 PM, Ian Hinder &lt;<a href="mailto:ian.hinder@aei.mpg.de">ian.hinder@aei.mpg.de</a>&gt; wrote:<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; On 23 Dec 2016, at 10:52, Cory Chu &lt;<a href="mailto:cory.yk.chu@gmail.com">cory.yk.chu@gmail.com</a>&gt; wrote:<br>
&gt;&gt;<br>
&gt;&gt; Erik<br>
&gt;&gt;<br>
&gt;&gt; Should I simply change the .ini file in simfactory/mdb/machines<br>
&gt;&gt; with<br>
&gt;&gt; ppn = 2<br>
&gt;&gt; max-num-threads = 2<br>
&gt;&gt; num-threads = 2<br>
&gt;&gt;<br>
&gt;&gt; and adding --procs = 2 on running command ?<br>
&gt;&gt;<br>
&gt;&gt; sorry i just can not find a detail documentation on this part<br>
&gt;&gt; after i change the above setting<br>
&gt;&gt; the problem did not solved<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; Hi Cory,<br>
&gt;&gt;<br>
&gt;&gt; Can you give the command line you are using to submit the simulation?  You<br>
&gt;&gt; need to ensure that the number of MPI processes you use is larger.  You<br>
&gt;&gt; could do this by running fewer threads per process, or if you are already<br>
&gt;&gt; running one thread per process, by increasing the number of processes by<br>
&gt;&gt; increasing the number of threads.  That might mean reconfiguring the machine<br>
&gt;&gt; definition to allow more cores to be used than you actually have.  What<br>
&gt;&gt; machine is it; i.e. how many processors and cores do you have?<br>
&gt;&gt;<br>
&gt;&gt; --<br>
&gt;&gt; Ian Hinder<br>
&gt;&gt; <a href="http://members.aei.mpg.de/ianhin" rel="noreferrer" target="_blank">http://members.aei.mpg.de/<wbr>ianhin</a><br>
&gt;&gt;<br>
&gt;<br>
<br>
<br>
<br>
</div></div><div class="HOEnZb"><div class="h5">--<br>
Erik Schnetter &lt;<a href="mailto:schnetter@cct.lsu.edu">schnetter@cct.lsu.edu</a>&gt;<br>
<a href="http://www.perimeterinstitute.ca/personal/eschnetter/" rel="noreferrer" target="_blank">http://www.perimeterinstitute.<wbr>ca/personal/eschnetter/</a><br>
</div></div></blockquote></div><br></div>