source: trunk/pbs_drmaa/job.c @ 3

Revision 3, 12.2 KB checked in by mmamonski, 9 years ago (diff)

try to be resistant to torque restarts - avoid double disconnect == double free

Line 
1/* $Id: job.c 370 2010-11-16 09:51:00Z mamonski $ */
2/*
3 *  FedStage DRMAA for PBS Pro
4 *  Copyright (C) 2006-2009  FedStage Systems
5 *
6 *  This program is free software: you can redistribute it and/or modify
7 *  it under the terms of the GNU General Public License as published by
8 *  the Free Software Foundation, either version 3 of the License, or
9 *  (at your option) any later version.
10 *
11 *  This program is distributed in the hope that it will be useful,
12 *  but WITHOUT ANY WARRANTY; without even the implied warranty of
13 *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14 *  GNU General Public License for more details.
15 *
16 *  You should have received a copy of the GNU General Public License
17 *  along with this program.  If not, see <http://www.gnu.org/licenses/>.
18 */
19
20#ifdef HAVE_CONFIG_H
21#       include <config.h>
22#endif
23
24#include <signal.h>
25#include <stdlib.h>
26#include <string.h>
27#include <unistd.h>
28
29#include <drmaa_utils/drmaa.h>
30#include <drmaa_utils/drmaa_util.h>
31#include <pbs_error.h>
32#include <pbs_ifl.h>
33
34#include <pbs_drmaa/job.h>
35#include <pbs_drmaa/pbs_attrib.h>
36#include <pbs_drmaa/session.h>
37#include <pbs_drmaa/util.h>
38
39#ifndef lint
40static char rcsid[]
41#       ifdef __GNUC__
42                __attribute__ ((unused))
43#       endif
44        = "$Id: job.c 370 2010-11-16 09:51:00Z mamonski $";
45#endif
46
47
48static void
49pbsdrmaa_job_control( fsd_job_t *self, int action );
50
51static void
52pbsdrmaa_job_update_status( fsd_job_t *self );
53
54static void
55pbsdrmaa_job_on_missing( fsd_job_t *self );
56
57static void
58pbsdrmaa_job_update( fsd_job_t *self, struct batch_status* );
59
60
61fsd_job_t *
62pbsdrmaa_job_new( char *job_id )
63{
64        pbsdrmaa_job_t *self = (pbsdrmaa_job_t*)fsd_job_new( job_id );
65        fsd_realloc( self, 1, pbsdrmaa_job_t );
66        self->super.control = pbsdrmaa_job_control;
67        self->super.update_status = pbsdrmaa_job_update_status;
68        self->super.on_missing = pbsdrmaa_job_on_missing;
69        self->update = pbsdrmaa_job_update;
70        return (fsd_job_t*)self;
71}
72
73
74static void
75pbsdrmaa_job_control( fsd_job_t *self, int action )
76{
77        volatile bool conn_lock = false;
78        pbsdrmaa_session_t *session = (pbsdrmaa_session_t*)self->session;
79        const char *job_id = self->job_id;
80        const char *apicall = NULL;
81        int rc = PBSE_NONE;
82
83        fsd_log_enter(( "({job_id=%s}, action=%d)",
84                        self->job_id, action ));
85
86        TRY
87         {
88                int try_count;
89                const int max_tries = 3;
90
91                conn_lock = fsd_mutex_lock( &self->session->drm_connection_mutex );
92
93                /*TODO reconnect */
94                for( try_count=0;  try_count < max_tries;  try_count++ )
95                 {
96                        switch( action )
97                         {
98                                /*
99                                 * We cannot know whether we did suspend job
100                                 * in other way than remembering this inside DRMAA session.
101                                 */
102                                case DRMAA_CONTROL_SUSPEND:
103                                        apicall = "pbs_sigjob";
104                                        rc = pbs_sigjob( session->pbs_conn, (char*)job_id,
105                                                        "SIGSTOP", NULL );
106                                        if( rc == PBSE_NONE )
107                                                self->flags |= FSD_JOB_SUSPENDED;
108                                        break;
109                                case DRMAA_CONTROL_RESUME:
110                                        apicall = "pbs_sigjob";
111                                        rc = pbs_sigjob( session->pbs_conn, (char*)job_id,
112                                                        "SIGCONT", NULL );
113                                        if( rc == PBSE_NONE )
114                                                self->flags &= ~FSD_JOB_SUSPENDED;
115                                        break;
116                                case DRMAA_CONTROL_HOLD:
117                                        apicall = "pbs_holdjob";
118                                        rc = pbs_holdjob( session->pbs_conn, (char*)job_id,
119                                                        USER_HOLD, NULL );
120                                        if( rc == PBSE_NONE )
121                                                self->flags |= FSD_JOB_HOLD;
122                                        break;
123                                case DRMAA_CONTROL_RELEASE:
124                                        apicall = "pbs_rlsjob";
125                                        rc = pbs_rlsjob( session->pbs_conn, (char*)job_id,
126                                                        USER_HOLD, NULL );
127                                        if( rc == PBSE_NONE )
128                                                self->flags &= FSD_JOB_HOLD;
129                                        break;
130                                case DRMAA_CONTROL_TERMINATE:
131                                        apicall = "pbs_deljob";
132                                        rc = pbs_deljob( session->pbs_conn, (char*)job_id, NULL );
133                                        /* Torque:
134                                         * deldelay=N -- delay between SIGTERM and SIGKILL (default 0) */
135                                        if( rc == PBSE_NONE )
136                                         {
137                                                self->flags &= FSD_JOB_TERMINATED_MASK;
138                                                if( (self->flags & FSD_JOB_TERMINATED) == 0 )
139                                                        self->flags |= FSD_JOB_TERMINATED | FSD_JOB_ABORTED;
140                                         }
141                                        break;
142                         }
143
144                        if( rc == PBSE_NONE )
145                                break;
146                        else if( rc == PBSE_INTERNAL )
147                         {
148                                /*
149                                 * In PBS Pro pbs_sigjob raises internal server error (PBSE_INTERNAL)
150                                 * when job just changed its state to running.
151                                 */
152                                fsd_log_debug(( "repeating request (%d of %d)",
153                                                        try_count+2, max_tries ));
154                                sleep( 1 );
155                         }
156                        else
157                                pbsdrmaa_exc_raise_pbs( apicall );
158                 } /* end for */
159         }
160        FINALLY
161         {
162                if( conn_lock )
163                        conn_lock = fsd_mutex_unlock( &self->session->drm_connection_mutex );
164         }
165        END_TRY
166
167        fsd_log_return((""));
168}
169
170
171void
172pbsdrmaa_job_update_status( fsd_job_t *self )
173{
174        volatile bool conn_lock = false;
175        struct batch_status *volatile status = NULL;
176        pbsdrmaa_session_t *session = (pbsdrmaa_session_t*)self->session;
177
178        fsd_log_enter(( "({job_id=%s})", self->job_id ));
179        TRY
180         {
181                conn_lock = fsd_mutex_lock( &self->session->drm_connection_mutex );
182retry:
183#ifdef PBS_PROFESSIONAL
184                status = pbs_statjob( session->pbs_conn, self->job_id, NULL, NULL );
185#else
186                status = pbs_statjob( session->pbs_conn, self->job_id, session->status_attrl, NULL );
187#endif
188                fsd_log_debug(( "pbs_statjob(fd=%d, job_id=%s, attribs={...}) =%p",
189                                 session->pbs_conn, self->job_id, (void*)status ));
190                if( status == NULL )
191                 {
192#ifndef PBS_PROFESSIONAL
193                        fsd_log_error(("pbs_statjob error: %d, %s, %s", pbs_errno, pbse_to_txt(pbs_errno), pbs_strerror(pbs_errno)));
194#else
195                        fsd_log_error(("pbs_statjob error: %d, %s", pbs_errno, pbse_to_txt(pbs_errno)));
196#endif
197                        switch( pbs_errno )
198                         {
199                                case PBSE_UNKJOBID:
200                                        break;
201                                case PBSE_PROTOCOL:
202                                case PBSE_EXPIRED:
203                                        if ( session->pbs_conn >= 0 )
204                                                pbs_disconnect( session->pbs_conn );
205                                        sleep(1);
206                                        session->pbs_conn = pbs_connect( session->super.contact );
207                                        if( session->pbs_conn < 0 )
208                                                pbsdrmaa_exc_raise_pbs( "pbs_connect" );
209                                        else
210                                         {
211                                                fsd_log_error(("retry:"));
212                                                goto retry;
213                                         }
214                                default:
215                                        pbsdrmaa_exc_raise_pbs( "pbs_statjob" );
216                                        break;
217                                case 0:  /* ? */
218                                        fsd_exc_raise_code( FSD_ERRNO_INTERNAL_ERROR );
219                                        break;
220                         }
221                 }
222
223                conn_lock = fsd_mutex_unlock( &self->session->drm_connection_mutex );
224
225                if( status != NULL )
226                 {
227                        ((pbsdrmaa_job_t*)self)->update( self, status );
228                 }
229                else
230                        self->on_missing( self );
231         }
232        FINALLY
233         {
234                if( conn_lock )
235                        conn_lock = fsd_mutex_unlock( &self->session->drm_connection_mutex );
236                if( status != NULL )
237                        pbs_statfree( status );
238         }
239        END_TRY
240
241        fsd_log_return((""));
242}
243
244
245void
246pbsdrmaa_job_update( fsd_job_t *self, struct batch_status *status )
247{
248        struct attrl *attribs = status->attribs;
249        struct attrl *i = NULL;
250        char pbs_state = 0;
251        int exit_status = -2;
252        const char *cpu_usage = NULL;
253        const char *mem_usage = NULL;
254        const char *vmem_usage = NULL;
255        const char *walltime = NULL;
256        long unsigned int modify_time = 0;
257
258        fsd_log_enter(( "({job_id=%s})", self->job_id ));
259#ifdef DEBUGGING
260        pbsdrmaa_dump_attrl( attribs, NULL );
261#endif
262        fsd_assert( !strcmp( self->job_id, status->name ) );
263
264        for( i = attribs;  i != NULL;  i = i->next )
265         {
266                int attr;
267                attr = pbsdrmaa_pbs_attrib_by_name( i->name );
268                switch( attr )
269                 {
270                        case PBSDRMAA_ATTR_JOB_STATE:
271                                pbs_state = i->value[0];                               
272                                break;
273                        case PBSDRMAA_ATTR_EXIT_STATUS:
274                                exit_status = atoi( i->value );
275                                break;
276                        case PBSDRMAA_ATTR_RESOURCES_USED:
277                                if( !strcmp( i->resource, "cput" ) )
278                                        cpu_usage = i->value;
279                                else if( !strcmp( i->resource, "mem" ) )
280                                        mem_usage = i->value;
281                                else if( !strcmp( i->resource, "vmem" ) )
282                                        vmem_usage = i->value;
283                                else if( !strcmp( i->resource, "walltime" ) )
284                                        walltime = i->value;
285                                break;
286                        case PBSDRMAA_ATTR_QUEUE:
287                                if (!self->queue)
288                                        self->queue = fsd_strdup(i->value);
289                                break;
290                        case PBSDRMAA_ATTR_ACCOUNT_NAME:
291                                if (!self->project)
292                                        self->project = fsd_strdup(i->value);
293                                break;
294                        case PBSDRMAA_ATTR_EXECUTION_HOST:
295                                if (!self->execution_hosts) {
296                                        fsd_log_debug(("execution_hosts = %s", i->value));
297                                        self->execution_hosts = fsd_strdup(i->value);
298                                }
299                                break;
300                        case PBSDRMAA_ATTR_START_TIME:
301                                {
302                                  long unsigned int start_time;
303                                  if (self->start_time == 0 && sscanf(i->value, "%lu", &start_time) == 1)
304                                        self->start_time = start_time;
305                                  break;
306                                }
307                        case PBSDRMAA_ATTR_MTIME:
308                                if (sscanf(i->value, "%lu", &modify_time) != 1)
309                                        modify_time = 0;
310                                break;
311                 }
312         }
313
314        if( pbs_state )
315                fsd_log_debug(( "pbs_state: %c", pbs_state ));
316
317        if( exit_status != -2 )
318         {
319                fsd_log_debug(( "exit_status: %d", exit_status ));
320                self->exit_status = exit_status;
321         }
322        if(pbs_state){
323                switch( pbs_state )
324                 {
325                        case 'C': /* Job is completed after having run. */
326                                self->flags &= FSD_JOB_TERMINATED_MASK;
327                                self->flags |= FSD_JOB_TERMINATED;
328                                if (exit_status != -2) { /* has exit code */
329                                        if( self->exit_status == 0)
330                                                self->state = DRMAA_PS_DONE;
331                                        else
332                                                self->state = DRMAA_PS_FAILED;
333                                } else {
334                                        self->state = DRMAA_PS_FAILED;
335                                        self->exit_status = -1;
336                                }
337                                self->end_time = modify_time; /* take last modify time as end time */
338                                break;
339                        case 'E': /* Job is exiting after having run. - MM: ignore exiting state (transient state) - outputs might have not been transfered yet,
340                                        MM2: mark job as running if current job status is undetermined - fix "ps after job was ripped" */
341                                if (self->state == DRMAA_PS_UNDETERMINED)
342                                        self->state = DRMAA_PS_RUNNING;
343                                break;
344                        case 'H': /* Job is held. */
345                                self->state = DRMAA_PS_USER_ON_HOLD;
346                                self->flags |= FSD_JOB_HOLD;
347                                break;
348                        case 'Q': /* Job is queued, eligible to run or routed. */
349                        case 'W': /* Job is waiting for its execution time to be reached. */
350                                self->state = DRMAA_PS_QUEUED_ACTIVE;
351                                self->flags &= ~FSD_JOB_HOLD;
352                                break;
353                        case 'R': /* Job is running. */
354                        case 'T': /* Job is being moved to new location (?). */
355                         {
356                                if( self->flags & FSD_JOB_SUSPENDED )
357                                        self->state = DRMAA_PS_USER_SUSPENDED;
358                                else
359                                        self->state = DRMAA_PS_RUNNING;
360                                break;
361                         }
362                        case 'S': /* (Unicos only) job is suspend. */
363                                self->state = DRMAA_PS_SYSTEM_SUSPENDED;
364                                break;
365                        case 0:  default:
366                                self->state = DRMAA_PS_UNDETERMINED;
367                                break;
368         }
369}
370        fsd_log_debug(( "job_ps: %s", drmaa_job_ps_to_str(self->state) ));
371
372         {
373                int hours, minutes, seconds;
374                long mem;
375                if( cpu_usage && sscanf( cpu_usage, "%d:%d:%d",
376                                &hours, &minutes, &seconds ) == 3 )
377                 {
378                        self->cpu_usage = 60*( 60*hours + minutes ) + seconds;
379                        fsd_log_debug(( "cpu_usage: %s=%lds", cpu_usage, self->cpu_usage ));
380                 }
381                if( mem_usage && sscanf( mem_usage, "%ldkb", &mem ) == 1 )
382                 {
383                        self->mem_usage = 1024*mem;
384                        fsd_log_debug(( "mem_usage: %s=%ldB", mem_usage, self->mem_usage ));
385                 }
386                if( vmem_usage && sscanf( vmem_usage, "%ldkb", &mem ) == 1 )
387                 {
388                        self->vmem_usage = 1024*mem;
389                        fsd_log_debug(( "vmem_usage: %s=%ldB", vmem_usage, self->vmem_usage ));
390                 }
391                if( walltime && sscanf( walltime, "%d:%d:%d",
392                                        &hours, &minutes, &seconds ) == 3 )
393                 {
394                        self->walltime = 60*( 60*hours + minutes ) + seconds;
395                        fsd_log_debug(( "walltime: %s=%lds", walltime, self->walltime ));
396                 }
397         }
398}
399
400
401void
402pbsdrmaa_job_on_missing( fsd_job_t *self )
403{
404        fsd_drmaa_session_t *session = self->session;
405        pbsdrmaa_session_t *pbssession = (pbsdrmaa_session_t*)session;
406        if( !pbssession->wait_thread_log){     
407        unsigned missing_mask = 0;
408
409        fsd_log_enter(( "({job_id=%s})", self->job_id ));
410        fsd_log_warning(( "self %s missing from DRM queue", self->job_id ));
411
412        switch( session->missing_jobs )
413         {
414                case FSD_REVEAL_MISSING_JOBS:         missing_mask = 0;     break;
415                case FSD_IGNORE_MISSING_JOBS:         missing_mask = 0x73;  break;
416                case FSD_IGNORE_QUEUED_MISSING_JOBS:  missing_mask = 0x13;  break;
417         }
418        fsd_log_debug(( "last job_ps: %s (0x%02x); mask: 0x%02x",
419                                drmaa_job_ps_to_str(self->state), self->state, missing_mask ));
420
421        if( self->state < DRMAA_PS_DONE
422                        &&  (self->state & ~missing_mask) )
423                fsd_exc_raise_fmt(
424                                FSD_ERRNO_INTERNAL_ERROR,
425                                "self %s missing from queue", self->job_id
426                                );
427
428        if( (self->flags & FSD_JOB_TERMINATED_MASK) == 0 )
429         {
430                self->flags &= FSD_JOB_TERMINATED_MASK;
431                self->flags |= FSD_JOB_TERMINATED;
432         }
433
434        if( (self->flags & FSD_JOB_ABORTED) == 0
435                        &&  session->missing_jobs == FSD_IGNORE_MISSING_JOBS )
436         { /* assume everthing was ok */
437                self->state = DRMAA_PS_DONE;
438                self->exit_status = 0;
439         }
440        else
441         { /* job aborted */
442                self->state = DRMAA_PS_FAILED;
443                self->exit_status = -1;
444         }
445
446        fsd_log_return(( "; job_ps=%s, exit_status=%d",
447                                drmaa_job_ps_to_str(self->state), self->exit_status ));
448        }
449}
450
Note: See TracBrowser for help on using the repository browser.