<html>
  <head>
    <meta http-equiv="Content-Type" content="text/html;
      charset=windows-1252">
  </head>
  <body text="#000000" bgcolor="#FFFFFF">
    <p>Hi Ian,</p>
    <p>thanks for your quick reply!</p>
    <p>There are a couple of other guys here who have successfully used
      the toolkit with this version of openmpi, so I'm not sure if this
      is at fault. There is not another version of openmpi available
      currently on the cluster, but I could ask for this to be remedied.<br>
    </p>
    <p>I have tried using procs=48 and num-threads=2 but I find the same
      problem.</p>
    <p>As you say, I recompiled a clean config to double check. I have
      also used the May 16 version but to no avail.</p>
    <p>Could it be something to do with compilation, that has gone wrong
      somehow, even though it finishes successfully with done?<br>
    </p>
    <p>Cheers,</p>
    <p>Chris<br>
    </p>
    <br>
    <div class="moz-cite-prefix">On 05/15/2017 09:10 PM, Ian Hinder
      wrote:<br>
    </div>
    <blockquote type="cite"
      cite="mid:94A78473-D5F6-4588-AD46-EFA5F6EE8C9D@aei.mpg.de">
      <meta http-equiv="Content-Type" content="text/html;
        charset=windows-1252">
      <br>
      <div>
        <div>On 15 May 2017, at 16:49, Chris Stevens &lt;<a
            href="mailto:c.stevens@ru.ac.za" moz-do-not-send="true">c.stevens@ru.ac.za</a>&gt;
          wrote:</div>
        <br class="Apple-interchange-newline">
        <blockquote type="cite">
          <meta http-equiv="content-type" content="text/html;
            charset=windows-1252">
          <div text="#000000" bgcolor="#FFFFFF">
            <p>Hi there,</p>
            <p>I am new to Cactus, and have been having trouble getting
              the qc0-mclachlan.par test file to run. I have compiled
              the latest version of Cactus successfully on the CHPC
              cluster in South Africa.</p>
            <p>I have attached .out and .err files for the run, along
              with my machine file, optionlist file, run and submit
              scripts. The submit command was <br>
            </p>
            <p>./simfactory/bin/sim submit mctest
              --configuration=mclachlantest_mpidebug
              --parfile=par/qc0-mclachlan.par --procs=240
              --num-threads=12 --walltime=10:0:0 --queue=normal
              --machine=lengau-intel</p>
            <p>Using --mca orte_base_help_aggregate 0 in the mpirun
              command in the runscript, the error is:</p>
            <p>[cnode0823:136405] *** An error occurred in
              MPI_Comm_create_keyval<br>
              [cnode0823:136405] *** reported by process [476512257,3]<br>
              [cnode0823:136405] *** on communicator MPI_COMM_WORLD<br>
              [cnode0823:136405] *** MPI_ERR_ARG: invalid argument of
              some other kind<br>
              [cnode0823:136405] *** MPI_ERRORS_ARE_FATAL (processes in
              this communicator will now abort,<br>
              [cnode0823:136405] ***    and potentially your MPI job)</p>
            <p>I unfortunately have no idea where to go from here, and
              some help would be greatly appreciated! I hope I have
              attached enough information.<br>
            </p>
          </div>
        </blockquote>
        <div>Hi Chris,</div>
        <div><br>
        </div>
        <div>Welcome to Cactus!  (meant in a friendly sense, not
          sarcastic!)</div>
        <div><br>
        </div>
        <div>I cannot see anything wrong, and I've never seen this error
          before.  It's a mystery.  Have you tried running on fewer MPI
          processes?  I wonder if something is going wrong because the
          problem size is too small for the number of processes.  This
          *shouldn't* cause a problem, but it's something to try.  Is
          there another MPI implementation, or another version of
          OpenMPI, available on the machine?  Maybe it's a bug in
          OpenMPI 1.8.8.  </div>
        <div><br>
        </div>
        <div>When faced with such strange behaviour, it's always worth
          wiping the configuration and rebuilding it, just in case it
          was not built cleanly.  e.g. when developing the optionlist,
          maybe you partially built the configuration, then corrected
          something, and the resulting configuration has a mixture of
          the two versions.  You can do this with rm -rf
          configs/mclachlantest_mpidebug, though I suspect that the
          debug version was built cleanly, so this is unlikely to be the
          problem.</div>
        <div><br>
        </div>
      </div>
      <div apple-content-edited="true">
        <div style="color: rgb(0, 0, 0); letter-spacing: normal;
          orphans: auto; text-align: start; text-indent: 0px;
          text-transform: none; white-space: normal; widows: auto;
          word-spacing: 0px; -webkit-text-stroke-width: 0px; word-wrap:
          break-word; -webkit-nbsp-mode: space; -webkit-line-break:
          after-white-space;">
          <div style="color: rgb(0, 0, 0); letter-spacing: normal;
            orphans: auto; text-align: start; text-indent: 0px;
            text-transform: none; white-space: normal; widows: auto;
            word-spacing: 0px; -webkit-text-stroke-width: 0px;
            word-wrap: break-word; -webkit-nbsp-mode: space;
            -webkit-line-break: after-white-space;">
            <div style="color: rgb(0, 0, 0); letter-spacing: normal;
              orphans: auto; text-align: start; text-indent: 0px;
              text-transform: none; white-space: normal; widows: auto;
              word-spacing: 0px; -webkit-text-stroke-width: 0px;
              word-wrap: break-word; -webkit-nbsp-mode: space;
              -webkit-line-break: after-white-space;">
              <div style="color: rgb(0, 0, 0); letter-spacing: normal;
                orphans: auto; text-align: start; text-indent: 0px;
                text-transform: none; white-space: normal; widows: auto;
                word-spacing: 0px; -webkit-text-stroke-width: 0px;
                word-wrap: break-word; -webkit-nbsp-mode: space;
                -webkit-line-break: after-white-space;">
                <div>-- </div>
                <div>Ian Hinder</div>
                <div><a href="http://members.aei.mpg.de/ianhin"
                    moz-do-not-send="true">http://members.aei.mpg.de/ianhin</a></div>
              </div>
            </div>
          </div>
        </div>
      </div>
      <br>
    </blockquote>
    <br>
    <div class="moz-signature">-- <br>
      <font size="-1" face="Cantarell" color="#666666">Dr Chris Stevens</font>
      <div class="moz-signature"> <font size="-1" face="Cantarell"
          color="#666666"> </font>
        <p><font size="-1" face="Cantarell" color="#666666">Department
            of Mathematics</font></p>
        <font size="-1" face="Cantarell" color="#666666"> </font>
        <p><font size="-1" face="Cantarell" color="#666666">Rhodes
            University</font></p>
        <p><font color="#666666"><font size="-1"><font face="Cantarell">Room
                5</font></font></font></p>
        <p><font color="#666666"><font size="-1"><font face="Cantarell">
                Ph: +27 46 603 8932</font></font></font></p>
      </div>
    </div>
  </body>
</html>