<br><font size=2 face="sans-serif">Darius </font>
<br>
<br><font size=2 face="sans-serif">I can imagine a few errors that I know
will be harmless to MPI state. I can make sure nobody can do any harm by
passing an invalid communicator to MPI_COMM_SIZE.</font>
<br>
<br><font size=2 face="sans-serif">I cannot think of a detectable error
that would return and leave that thread of that process so totally broken
that nothing in MPI will work from then on. In a collective, there may
be processes in which the thread that called the CC never returns and that
tread of the process is no longer usable because it is hung.  Other
threads using other communicators in the process with a hung thread may
work perfectly.</font>
<br>
<br><font size=2 face="sans-serif">Except for the very few cases where
I know there was no damage (like a bad comm on MPI_COMM_SIZE) the situation,
99.99% of the time, will be that everything still works but sometimes the
outcome is a surprise to the user.  Say you  do:</font>
<br>
<br><font size=2 face="sans-serif">1 MPI_Barrier (on world)</font>
<br><font size=2 face="sans-serif">2 MPI_Barrier (on world):</font>
<br><font size=2 face="sans-serif">3 other stuff </font>
<br><font size=2 face="sans-serif">4 MPI_Barrier (on world)</font>
<br><font size=2 face="sans-serif">5 if (my rank is even)</font>
<br><font size=2 face="sans-serif">6      sendrecv(with
odd neighbor)</font>
<br><font size=2 face="sans-serif">7  else </font>
<br><font size=2 face="sans-serif">8     sendrecv(with even neighbor)</font>
<br>
<br>
<br><font size=2 face="sans-serif">but get back an error at  all even
numbered ranks from the line 1 barrier call. The line 2 MPI_Barrier may
still "work" but the line 2 barrier at even numbered ranks will
match the line 1 barrier at odd ranks. Even ranks will begin "other
stuff" and odd ranks will sit in the line 2 barrier until even ranks
 finish "other stuff" and reach the line 4 barrier. The
odd ranks now get through their line 2 barrier and begin other stuff.</font>
<br>
<br><font size=2 face="sans-serif">If "other stuff" involves
communication among  the even ranks and communication among the odd
ranks. that will work too. The even ranks will all send/recv among themselves
later the odd ranks will all send/recv among themselves.</font>
<br>
<br><font size=2 face="sans-serif">The even ranks will reach line 6 and
hang there because the odd tasks are still stuck at line 4.  </font>
<br>
<br><font size=2 face="sans-serif">In this entire example, libmpi has continued
working "correctly" but the behavior you get from correct behavior
is not what you planned.   </font>
<br>
<br><font size=2 face="sans-serif">The situation of MPI state being totally
trashed by an error that returns a return code barely exists.  The
case where it is subtly discombobulated is the norm.</font>
<br>
<br>
<br>
<br>
<br>
<br><font size=2 face="sans-serif">Dick Treumann  -  MPI Team
          <br>
IBM Systems & Technology Group<br>
Dept X2ZA / MS P963 -- 2455 South Road -- Poughkeepsie, NY 12601<br>
Tele (845) 433-7846         Fax (845) 433-8363<br>
</font>
<br>
<br>
<br>
<table width=100%>
<tr valign=top>
<td><font size=1 color=#5f5f5f face="sans-serif">From:</font>
<td><font size=1 face="sans-serif">Darius Buntinas <buntinas@mcs.anl.gov></font>
<tr valign=top>
<td><font size=1 color=#5f5f5f face="sans-serif">To:</font>
<td><font size=1 face="sans-serif">"MPI 3.0 Fault Tolerance and Dynamic
Process Control working Group" <mpi3-ft@lists.mpi-forum.org></font>
<tr valign=top>
<td><font size=1 color=#5f5f5f face="sans-serif">Date:</font>
<td><font size=1 face="sans-serif">09/22/2010 12:24 PM</font>
<tr valign=top>
<td><font size=1 color=#5f5f5f face="sans-serif">Subject:</font>
<td><font size=1 face="sans-serif">Re: [Mpi3-ft] Defining the state of
MPI after an error</font>
<tr valign=top>
<td><font size=1 color=#5f5f5f face="sans-serif">Sent by:</font>
<td><font size=1 face="sans-serif">mpi3-ft-bounces@lists.mpi-forum.org</font></table>
<br>
<hr noshade>
<br>
<br>
<br><tt><font size=2><br>
OK, I (think I) see what you guys are saying, so maybe we should look at
it this way.  The CANNOT_CONTINUE proposal should not define the operation
of the MPI implementation after errors other than CANNOT_CONTINUE.  Instead,
it defines that after the implementation gives a CANNOT_CONTINUE error,
the app knows that the implementation is fatally wedged, and that the user
should definately not expect correct operation after this.  I.e.,
we're not labeling other errors as "recoverable," we're just
marking CANNOT_CONTINUE as "unrecoverable."<br>
<br>
Note that an implementation can still be standard compliant even if it
never returns a CANNOT_CONTINUE error even when it is fatally wedged (because
operation after any other error is still undefined).<br>
<br>
This just defines a way for the implementation to let the user know that
it has given up.  So that if the implementation provides best-effort
functionality after an error, and the user has "read the disclaimer"
and is comfortable with proceeding, this is a way to differentiate between
an error as a result of a failure that hosed everything, and one that may
allow things to continue.<br>
<br>
We still would like to define what happens to a bcast after a process in
the communicator fails.  But we leave that for future proposals.<br>
<br>
Does this make sense?<br>
-d<br>
<br>
On Sep 22, 2010, at 8:43 AM, Terry Dontje wrote:<br>
<br>
> Richard Treumann wrote:<br>
>> <br>
>> This proposal is not a minor change. <br>
>> <br>
>> Please do not make this hole in the standard and assume you can
later add language to standardize everything that comes through the hole.
<br>
>> <br>
>> If the standard is to introduce the notion of a recoverable error
it must be as part of a full description of what "recovery" means.
  <br>
>> <br>
>> I think is is dangerous and ultimately useless to have implementors
mark a failure as "recoverable" when the post error state of
the distributed MPI has gone from "fully standards compliant"
to "mostly standards compliant, read my user doc read my legal disclaimer,
cross your fingers". <br>
>> <br>
>> See comment below for why I do not think the new hole is needed
to allow people to do implementation specific recoverability. <br>
>> <br>
>> There is not even anything to prevent on implementation from deciding
to add a function MPXX_WHAT_STILL_WORKS(err_code, answer) and documenting
5 or 5000 enumerated values for "answer" ranging from NOTHING
through TAKE_A_CHANCE_IF_YOU_LIKE to  EVERYTHING. <br>
>> <br>
>> IBM would probably return TAKE_A_CHANCE_IF_YOU_LIKE because I
cannot imagine how we would promise exactly what will work and what will
not but in practice most things will still work as expected. <br>
>> <br>
> I think I agree with Dick on the above.  Another way of putting
the disagreement is that Josh's proposal is too general in that not all
errorcodes can be completely marked as MPI state is broken or not.  When
Sun implemented fault tolerant client/server we came up with a new error
class that when returned gave the user the understanding that a condition
occurred on a communicator that has rendered the communicator useless and
one should clean it up before continuing on.  The point is there was
a concrete understanding of the error and what could be done to recover.
 As opposed to a general class that say's everything is borked or
not which essential doesn't give you much because you'll end up eventually
having to define a more specific class of error IMO.<br>
> <br>
> --td<br>
>> <br>
>> <br>
>> <br>
>> Dick Treumann  -  MPI Team        
  <br>
>> IBM Systems & Technology Group<br>
>> Dept X2ZA / MS P963 -- 2455 South Road -- Poughkeepsie, NY 12601<br>
>> Tele (845) 433-7846         Fax (845) 433-8363<br>
>> <br>
>> <br>
>> mpi3-ft-bounces@lists.mpi-forum.org wrote on 09/21/2010 04:54:08
PM:<br>
>> <br>
>> > [image removed] <br>
>> > <br>
>> > Re: [Mpi3-ft] Defining the state of MPI after an error <br>
>> > <br>
>> > Bronis R. de Supinski <br>
>> > <br>
>> > to: <br>
>> > <br>
>> > MPI 3.0 Fault Tolerance and Dynamic Process Control working
Group <br>
>> > <br>
>> > 09/21/2010 04:59 PM <br>
>> > <br>
>> > Sent by: <br>
>> > <br>
>> > mpi3-ft-bounces@lists.mpi-forum.org <br>
>> > <br>
>> > Please respond to "Bronis R. de Supinski", "MPI
3.0 Fault Tolerance <br>
>> > and Dynamic Process Control working Group" <br>
>> > <br>
>> > <br>
>> > Dick:<br>
>> > <br>
>> > Re:<br>
>> > > The current MPI standard does not say the MPI implementation
is totally <br>
>> > > broken once there is an error.  Saying MPI state
is undefined after an <br>
>> > > error simply says that the detailed semantic of the
MPI standard can no <br>
>> > > longer be promised. In other words, after an error you
leave behind the <br>
>> > > security of a portable standard semantic.  You
are operating at your own <br>
>> > > risk. You do not need to read more than that into it.<br>
>> > <br>
>> > Perhaps my problem with this position is that I come from
the<br>
>> > background of language definitions for compilers. When you<br>
>> > read "undefined" in the OpenMP specification then
you are<br>
>> > being told that things are broken and the implementation
does<br>
>> > need to do anything or even tell you what they actually do
(and<br>
>> > I believe the same is true for the C and C++ standards).
An<br>
>> > alternative is "implementation defined", which
requires the<br>
>> > implementer to document what they actually do. Without that,<br>
>> > you cannot even rely on actions with a specific implementation<br>
>> > (unless you believe "My tests so far have not failed
so I am OK").<br>
>> <br>
>> <br>
>> When a standard says behavior is "undefined" in some
situation, it cannot mean behavior is "broken". It cannot mean
the implementor is prohibited from making it still work. It cannot mean
the implementor is prohibited from making certain things work and documenting
them. Any statement like this in a standard would be definition of behavior
and the behavior would no longer be "undefined".   <br>
>> <br>
>> The only thing a standard can logically mean by "undefined"
is that the STANDARD no longer mandates the definition. <br>
>> <br>
>> Bronis says: <br>
>> <br>
>> > <br>
>> > I strongly feel "undefined" should be reserved
for situations that<br>
>> > mean "your program is irrevocably broken and the implementer
does<br>
>> > not need to worry about what happens to it after encountering
them." <br>
>> <br>
>> I would say this as: <br>
>> <br>
>> I strongly feel "undefined" should be reserved for situations
that mean "The standard no longer guarantees your program is not irrevocably
broken. The implementer is not required by the standard to worry about
what happens to it after encountering them. An Implementation is free to
provide any "better" behavior that may be of value but users
cannot assume another implementation provides similar behavior so cannot
assume standards defined portability." <br>
>> <br>
>> I do not see how the use if the word "undefined" in
a standard can be interpreted as a prohibition of any behavior an implementation
might offer. <br>
>> <br>
>> <br>
>> <br>
>> <br>
>>  <br>
>> <br>
>> _______________________________________________<br>
>> mpi3-ft mailing list<br>
>> <br>
>> mpi3-ft@lists.mpi-forum.org<br>
>> </font></tt><a href="http://lists.mpi-forum.org/mailman/listinfo.cgi/mpi3-ft"><tt><font size=2>http://lists.mpi-forum.org/mailman/listinfo.cgi/mpi3-ft</font></tt></a><tt><font size=2><br>
>> <br>
>>   <br>
>> <br>
> <br>
> <br>
> -- <br>
> <Mail Attachment.gif><br>
> Terry D. Dontje | Principal Software Engineer<br>
> Developer Tools Engineering | +1.781.442.2631<br>
> Oracle - Performance Technologies<br>
> 95 Network Drive, Burlington, MA 01803<br>
> Email terry.dontje@oracle.com<br>
> <br>
> _______________________________________________<br>
> mpi3-ft mailing list<br>
> mpi3-ft@lists.mpi-forum.org<br>
> </font></tt><a href="http://lists.mpi-forum.org/mailman/listinfo.cgi/mpi3-ft"><tt><font size=2>http://lists.mpi-forum.org/mailman/listinfo.cgi/mpi3-ft</font></tt></a><tt><font size=2><br>
<br>
<br>
_______________________________________________<br>
mpi3-ft mailing list<br>
mpi3-ft@lists.mpi-forum.org<br>
</font></tt><a href="http://lists.mpi-forum.org/mailman/listinfo.cgi/mpi3-ft"><tt><font size=2>http://lists.mpi-forum.org/mailman/listinfo.cgi/mpi3-ft</font></tt></a><tt><font size=2><br>
</font></tt>
<br>
<br>