<div dir="ltr">We have been discussing this topic in the working group, and would be glad to have your input. If you're looking for something you can use today, NCCL is a good option. There's also a library called libmp that uses GPUDirect Async for stream-based communication [1].<div><br></div><div> ~Jim.</div><div><br></div><div>[1] <a href="https://github.com/gpudirect/libmp">https://github.com/gpudirect/libmp</a></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, Feb 9, 2021 at 3:09 PM Choi, Jaemin <<a href="mailto:jchoi157@illinois.edu">jchoi157@illinois.edu</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">





<div lang="KO" style="overflow-wrap: break-word;">
<div class="gmail-m_1015332186806551430WordSection1">
<p class="MsoNormal"><span lang="EN-US" style="font-size:11pt;font-family:Calibri,sans-serif">Hi Jim,<u></u><u></u></span></p>
<p class="MsoNormal"><span lang="EN-US" style="font-size:11pt;font-family:Calibri,sans-serif"><u></u> <u></u></span></p>
<p class="MsoNormal"><span lang="EN-US" style="font-size:11pt;font-family:Calibri,sans-serif">Do you happen to know if there has been progress on supporting CUDA streams in the MPI standard?<u></u><u></u></span></p>
<p class="MsoNormal"><span lang="EN-US" style="font-size:11pt;font-family:Calibri,sans-serif">I’d be interested to hear about this or other frameworks (e.g. NCCL) that support asynchronous communication via streams.<u></u><u></u></span></p>
<p class="MsoNormal"><span lang="EN-US" style="font-size:11pt;font-family:Calibri,sans-serif"><u></u> <u></u></span></p>
<p class="MsoNormal"><span lang="EN-US" style="font-size:11pt;font-family:Calibri,sans-serif">Best,<u></u><u></u></span></p>
<p class="MsoNormal"><span lang="EN-US" style="font-size:11pt;font-family:Calibri,sans-serif"><u></u> <u></u></span></p>
<p class="MsoNormal" style="text-align:justify">
<span lang="EN-US" style="font-size:11pt;font-family:Calibri,sans-serif">Jaemin Choi<u></u><u></u></span></p>
<p class="MsoNormal" style="text-align:justify">
<span lang="EN-US" style="font-size:11pt;font-family:Calibri,sans-serif">PhD Candidate in Computer Science<u></u><u></u></span></p>
<p class="MsoNormal" style="text-align:justify">
<span lang="EN-US" style="font-size:11pt;font-family:Calibri,sans-serif">Research Assistant at the Parallel Programming Laboratory<u></u><u></u></span></p>
<p class="MsoNormal" style="text-align:justify">
<span lang="EN-US" style="font-size:11pt;font-family:Calibri,sans-serif">University of Illinois Urbana-Champaign<u></u><u></u></span></p>
<p class="MsoNormal"><span lang="EN-US" style="font-size:11pt;font-family:Calibri,sans-serif"><u></u> <u></u></span></p>
<div style="border-right:none;border-bottom:none;border-left:none;border-top:1pt solid rgb(225,225,225);padding:3pt 0cm 0cm">
<p class="MsoNormal"><b><span lang="EN-US" style="font-size:11pt;font-family:Calibri,sans-serif">From:</span></b><span lang="EN-US" style="font-size:11pt;font-family:Calibri,sans-serif"> mpiwg-hybridpm <<a href="mailto:mpiwg-hybridpm-bounces@lists.mpi-forum.org" target="_blank">mpiwg-hybridpm-bounces@lists.mpi-forum.org</a>>
<b>On Behalf Of </b>Jim Dinan via mpiwg-hybridpm<br>
<b>Sent:</b> Tuesday, February 9, 2021 1:10 PM<br>
<b>To:</b> Hybrid working group mailing list <<a href="mailto:mpiwg-hybridpm@lists.mpi-forum.org" target="_blank">mpiwg-hybridpm@lists.mpi-forum.org</a>><br>
<b>Cc:</b> Jim Dinan <<a href="mailto:james.dinan@gmail.com" target="_blank">james.dinan@gmail.com</a>><br>
<b>Subject:</b> [mpiwg-hybridpm] Call for Topics<u></u><u></u></span></p>
</div>
<p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p>
<div>
<p class="MsoNormal"><span lang="EN-US">Hi All,<u></u><u></u></span></p>
<div>
<p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal"><span lang="EN-US">The Hybrid & Accelerator WG will meet tomorrow. The agenda so far is empty. Please let me know if you have any topics that you would like to discuss.<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal"><span lang="EN-US"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal"><span lang="EN-US">Cheers,<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal"><span lang="EN-US"> ~Jim.<u></u><u></u></span></p>
</div>
</div>
</div>
</div>

</blockquote></div>