source: trunk/pbs_drmaa/job.c @ 13

Revision 13, 13.4 KB checked in by mmamonski, 11 years ago (diff)

workaround on bug in some older PBS releasaes (no -fPIC)

  • Property svn:keywords set to Id
Line 
1/* $Id$ */
2/*
3 *  FedStage DRMAA for PBS Pro
4 *  Copyright (C) 2006-2009  FedStage Systems
5 *
6 *  This program is free software: you can redistribute it and/or modify
7 *  it under the terms of the GNU General Public License as published by
8 *  the Free Software Foundation, either version 3 of the License, or
9 *  (at your option) any later version.
10 *
11 *  This program is distributed in the hope that it will be useful,
12 *  but WITHOUT ANY WARRANTY; without even the implied warranty of
13 *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14 *  GNU General Public License for more details.
15 *
16 *  You should have received a copy of the GNU General Public License
17 *  along with this program.  If not, see <http://www.gnu.org/licenses/>.
18 */
19
20#ifdef HAVE_CONFIG_H
21#       include <config.h>
22#endif
23
24#include <signal.h>
25#include <stdlib.h>
26#include <string.h>
27#include <unistd.h>
28
29#include <drmaa_utils/drmaa.h>
30#include <drmaa_utils/drmaa_util.h>
31#include <pbs_error.h>
32#include <pbs_ifl.h>
33
34#include <pbs_drmaa/job.h>
35#include <pbs_drmaa/log_reader.h>
36#include <pbs_drmaa/pbs_attrib.h>
37#include <pbs_drmaa/session.h>
38#include <pbs_drmaa/util.h>
39
40#ifndef lint
41static char rcsid[]
42#       ifdef __GNUC__
43                __attribute__ ((unused))
44#       endif
45        = "$Id$";
46#endif
47
48
49static void
50pbsdrmaa_job_control( fsd_job_t *self, int action );
51
52static void
53pbsdrmaa_job_update_status( fsd_job_t *self );
54
55static void
56pbsdrmaa_job_on_missing( fsd_job_t *self );
57
58void
59pbsdrmaa_job_on_missing_standard( fsd_job_t *self );
60
61void
62pbsdrmaa_job_on_missing_log_based( fsd_job_t *self );
63
64static void
65pbsdrmaa_job_update( fsd_job_t *self, struct batch_status* );
66
67
68fsd_job_t *
69pbsdrmaa_job_new( char *job_id )
70{
71        pbsdrmaa_job_t *self = (pbsdrmaa_job_t*)fsd_job_new( job_id );
72        fsd_realloc( self, 1, pbsdrmaa_job_t );
73        self->super.control = pbsdrmaa_job_control;
74        self->super.update_status = pbsdrmaa_job_update_status;
75        self->super.on_missing = pbsdrmaa_job_on_missing;
76        self->update = pbsdrmaa_job_update;
77        return (fsd_job_t*)self;
78}
79
80
81static void
82pbsdrmaa_job_control( fsd_job_t *self, int action )
83{
84        volatile bool conn_lock = false;
85        pbsdrmaa_session_t *session = (pbsdrmaa_session_t*)self->session;
86        const char *job_id = self->job_id;
87        const char *apicall = NULL;
88        int rc = PBSE_NONE;
89
90        fsd_log_enter(( "({job_id=%s}, action=%d)",
91                        self->job_id, action ));
92
93        TRY
94         {
95                int try_count;
96                const int max_tries = 3;
97
98                conn_lock = fsd_mutex_lock( &self->session->drm_connection_mutex );
99
100                /*TODO reconnect */
101                for( try_count=0;  try_count < max_tries;  try_count++ )
102                 {
103                        switch( action )
104                         {
105                                /*
106                                 * We cannot know whether we did suspend job
107                                 * in other way than remembering this inside DRMAA session.
108                                 */
109                                case DRMAA_CONTROL_SUSPEND:
110                                        apicall = "pbs_sigjob";
111                                        rc = pbs_sigjob( session->pbs_conn, (char*)job_id,
112                                                        "SIGSTOP", NULL );
113                                        fsd_log_info(("pbs_sigjob(%s, SIGSTOP) =%d", job_id, rc));
114                                        if( rc == PBSE_NONE )
115                                                self->flags |= FSD_JOB_SUSPENDED;
116                                        break;
117                                case DRMAA_CONTROL_RESUME:
118                                        apicall = "pbs_sigjob";
119                                        rc = pbs_sigjob( session->pbs_conn, (char*)job_id,
120                                                        "SIGCONT", NULL );
121                                        fsd_log_info(("pbs_sigjob(%s, SIGCONT) =%d", job_id, rc));
122                                        if( rc == PBSE_NONE )
123                                                self->flags &= ~FSD_JOB_SUSPENDED;
124                                        break;
125                                case DRMAA_CONTROL_HOLD:
126                                        apicall = "pbs_holdjob";
127                                        rc = pbs_holdjob( session->pbs_conn, (char*)job_id,
128                                                        USER_HOLD, NULL );
129                                        fsd_log_info(("pbs_sigjob(%s, SIGHOLD) =%d", job_id, rc));
130                                        if( rc == PBSE_NONE )
131                                                self->flags |= FSD_JOB_HOLD;
132                                        break;
133                                case DRMAA_CONTROL_RELEASE:
134                                        apicall = "pbs_rlsjob";
135                                        rc = pbs_rlsjob( session->pbs_conn, (char*)job_id,
136                                                        USER_HOLD, NULL );
137                                        fsd_log_info(("pbs_rlsjob(%s) =%d", job_id, rc));
138                                        if( rc == PBSE_NONE )
139                                                self->flags &= FSD_JOB_HOLD;
140                                        break;
141                                case DRMAA_CONTROL_TERMINATE:
142                                        apicall = "pbs_deljob";
143                                        rc = pbs_deljob( session->pbs_conn, (char*)job_id, NULL );
144                                        fsd_log_info(("pbs_deljob(%s) =%d", job_id, rc));
145                                        /* Torque:
146                                         * deldelay=N -- delay between SIGTERM and SIGKILL (default 0) */
147                                        if( rc == PBSE_NONE )
148                                         {
149                                                self->flags &= FSD_JOB_TERMINATED_MASK;
150                                                if( (self->flags & FSD_JOB_TERMINATED) == 0 )
151                                                        self->flags |= FSD_JOB_TERMINATED | FSD_JOB_ABORTED;
152                                         }
153                                        break;
154                         }
155
156                        if( rc == PBSE_NONE )
157                                break;
158                        else if( rc == PBSE_INTERNAL )
159                         {
160                                /*
161                                 * In PBS Pro pbs_sigjob raises internal server error (PBSE_INTERNAL)
162                                 * when job just changed its state to running.
163                                 */
164                                fsd_log_debug(( "repeating request (%d of %d)",
165                                                        try_count+2, max_tries ));
166                                sleep( 1 );
167                         }
168                        else
169                                pbsdrmaa_exc_raise_pbs( apicall );
170                 } /* end for */
171         }
172        FINALLY
173         {
174                if( conn_lock )
175                        conn_lock = fsd_mutex_unlock( &self->session->drm_connection_mutex );
176         }
177        END_TRY
178
179        fsd_log_return((""));
180}
181
182
183void
184pbsdrmaa_job_update_status( fsd_job_t *self )
185{
186        volatile bool conn_lock = false;
187        struct batch_status *volatile status = NULL;
188        pbsdrmaa_session_t *session = (pbsdrmaa_session_t*)self->session;
189
190        fsd_log_enter(( "({job_id=%s})", self->job_id ));
191        TRY
192         {
193                conn_lock = fsd_mutex_lock( &self->session->drm_connection_mutex );
194retry:
195#ifdef PBS_PROFESSIONAL
196                status = pbs_statjob( session->pbs_conn, self->job_id, NULL, NULL );
197#else
198                status = pbs_statjob( session->pbs_conn, self->job_id, session->status_attrl, NULL );
199#endif
200                fsd_log_info(( "pbs_statjob(fd=%d, job_id=%s, attribs={...}) =%p",
201                                 session->pbs_conn, self->job_id, (void*)status ));
202                if( status == NULL )
203                 {
204#ifndef PBS_PROFESSIONAL
205                        fsd_log_error(("pbs_statjob error: %d, %s, %s", pbs_errno, pbse_to_txt(pbs_errno), pbs_strerror(pbs_errno)));
206#else
207#ifndef PBS_PROFESSIONAL_NO_LOG
208                        fsd_log_error(("pbs_statjob error: %d, %s", pbs_errno, pbse_to_txt(pbs_errno)));
209#else
210                        fsd_log_error(("pbs_statjob error: %d", pbs_errno));
211#endif
212                        switch( pbs_errno )
213                         {
214                                case PBSE_UNKJOBID:
215                                        break;
216                                case PBSE_PROTOCOL:
217                                case PBSE_EXPIRED:
218                                        if ( session->pbs_conn >= 0 )
219                                                pbs_disconnect( session->pbs_conn );
220                                        sleep(1);
221                                        session->pbs_conn = pbs_connect( session->super.contact );
222                                        if( session->pbs_conn < 0 )
223                                                pbsdrmaa_exc_raise_pbs( "pbs_connect" );
224                                        else
225                                         {
226                                                fsd_log_error(("retry:"));
227                                                goto retry;
228                                         }
229                                default:
230                                        pbsdrmaa_exc_raise_pbs( "pbs_statjob" );
231                                        break;
232                                case 0:  /* ? */
233                                        fsd_exc_raise_code( FSD_ERRNO_INTERNAL_ERROR );
234                                        break;
235                         }
236                 }
237
238                conn_lock = fsd_mutex_unlock( &self->session->drm_connection_mutex );
239
240                if( status != NULL )
241                 {
242                        ((pbsdrmaa_job_t*)self)->update( self, status );
243                 }
244                else if( self->state < DRMAA_PS_DONE )
245                        self->on_missing( self );
246         }
247        FINALLY
248         {
249                if( conn_lock )
250                        conn_lock = fsd_mutex_unlock( &self->session->drm_connection_mutex );
251                if( status != NULL )
252                        pbs_statfree( status );
253         }
254        END_TRY
255
256        fsd_log_return((""));
257}
258
259
260void
261pbsdrmaa_job_update( fsd_job_t *self, struct batch_status *status )
262{
263        struct attrl *attribs = status->attribs;
264        struct attrl *i = NULL;
265        char pbs_state = 0;
266        int exit_status = -2;
267        const char *cpu_usage = NULL;
268        const char *mem_usage = NULL;
269        const char *vmem_usage = NULL;
270        const char *walltime = NULL;
271        long unsigned int modify_time = 0;
272
273        fsd_log_enter(( "({job_id=%s})", self->job_id ));
274#ifdef DEBUGGING
275        pbsdrmaa_dump_attrl( attribs, NULL );
276#endif
277        fsd_assert( !strcmp( self->job_id, status->name ) );
278
279        for( i = attribs;  i != NULL;  i = i->next )
280         {
281                int attr;
282                attr = pbsdrmaa_pbs_attrib_by_name( i->name );
283                switch( attr )
284                 {
285                        case PBSDRMAA_ATTR_JOB_STATE:
286                                pbs_state = i->value[0];                               
287                                break;
288                        case PBSDRMAA_ATTR_EXIT_STATUS:
289                                exit_status = atoi( i->value );
290                                break;
291                        case PBSDRMAA_ATTR_RESOURCES_USED:
292                                if( !strcmp( i->resource, "cput" ) )
293                                        cpu_usage = i->value;
294                                else if( !strcmp( i->resource, "mem" ) )
295                                        mem_usage = i->value;
296                                else if( !strcmp( i->resource, "vmem" ) )
297                                        vmem_usage = i->value;
298                                else if( !strcmp( i->resource, "walltime" ) )
299                                        walltime = i->value;
300                                break;
301                        case PBSDRMAA_ATTR_QUEUE:
302                                if (!self->queue)
303                                        self->queue = fsd_strdup(i->value);
304                                break;
305                        case PBSDRMAA_ATTR_ACCOUNT_NAME:
306                                if (!self->project)
307                                        self->project = fsd_strdup(i->value);
308                                break;
309                        case PBSDRMAA_ATTR_EXECUTION_HOST:
310                                if (!self->execution_hosts) {
311                                        fsd_log_debug(("execution_hosts = %s", i->value));
312                                        self->execution_hosts = fsd_strdup(i->value);
313                                }
314                                break;
315                        case PBSDRMAA_ATTR_START_TIME:
316                                {
317                                  long unsigned int start_time;
318                                  if (self->start_time == 0 && sscanf(i->value, "%lu", &start_time) == 1)
319                                        self->start_time = start_time;
320                                  break;
321                                }
322                        case PBSDRMAA_ATTR_MTIME:
323                                if (sscanf(i->value, "%lu", &modify_time) != 1)
324                                        modify_time = 0;
325                                break;
326                 }
327         }
328
329        if( pbs_state )
330                fsd_log_debug(( "pbs_state: %c", pbs_state ));
331
332        if( exit_status != -2 )
333         {
334                fsd_log_debug(( "exit_status: %d", exit_status ));
335                self->exit_status = exit_status;
336         }
337        if(pbs_state){
338                switch( pbs_state )
339                 {
340                        case 'C': /* Job is completed after having run. */
341                                self->flags &= FSD_JOB_TERMINATED_MASK;
342                                self->flags |= FSD_JOB_TERMINATED;
343                                if (exit_status != -2) { /* has exit code */
344                                        if( self->exit_status == 0)
345                                                self->state = DRMAA_PS_DONE;
346                                        else
347                                                self->state = DRMAA_PS_FAILED;
348                                } else {
349                                        self->state = DRMAA_PS_FAILED;
350                                        self->exit_status = -1;
351                                }
352                                self->end_time = modify_time; /* take last modify time as end time */
353                                break;
354                        case 'E': /* Job is exiting after having run. - MM: ignore exiting state (transient state) - outputs might have not been transfered yet,
355                                        MM2: mark job as running if current job status is undetermined - fix "ps after job was ripped" */
356                                if (self->state == DRMAA_PS_UNDETERMINED)
357                                        self->state = DRMAA_PS_RUNNING;
358                                break;
359                        case 'H': /* Job is held. */
360                                self->state = DRMAA_PS_USER_ON_HOLD;
361                                self->flags |= FSD_JOB_HOLD;
362                                break;
363                        case 'Q': /* Job is queued, eligible to run or routed. */
364                        case 'W': /* Job is waiting for its execution time to be reached. */
365                                self->state = DRMAA_PS_QUEUED_ACTIVE;
366                                self->flags &= ~FSD_JOB_HOLD;
367                                break;
368                        case 'R': /* Job is running. */
369                        case 'T': /* Job is being moved to new location (?). */
370                         {
371                                if( self->flags & FSD_JOB_SUSPENDED )
372                                        self->state = DRMAA_PS_USER_SUSPENDED;
373                                else
374                                        self->state = DRMAA_PS_RUNNING;
375                                break;
376                         }
377                        case 'S': /* (Unicos only) job is suspend. */
378                                self->state = DRMAA_PS_SYSTEM_SUSPENDED;
379                                break;
380                        case 0:  default:
381                                self->state = DRMAA_PS_UNDETERMINED;
382                                break;
383         }
384}
385        fsd_log_debug(( "job_ps: %s", drmaa_job_ps_to_str(self->state) ));
386
387         {
388                int hours, minutes, seconds;
389                long mem;
390                if( cpu_usage && sscanf( cpu_usage, "%d:%d:%d", &hours, &minutes, &seconds ) == 3 )
391                 {
392                        self->cpu_usage = 60*( 60*hours + minutes ) + seconds;
393                        fsd_log_debug(( "cpu_usage: %s=%lds", cpu_usage, self->cpu_usage ));
394                 }
395                if( mem_usage && sscanf( mem_usage, "%ldkb", &mem ) == 1 )
396                 {
397                        self->mem_usage = 1024*mem;
398                        fsd_log_debug(( "mem_usage: %s=%ldB", mem_usage, self->mem_usage ));
399                 }
400                if( vmem_usage && sscanf( vmem_usage, "%ldkb", &mem ) == 1 )
401                 {
402                        self->vmem_usage = 1024*mem;
403                        fsd_log_debug(( "vmem_usage: %s=%ldB", vmem_usage, self->vmem_usage ));
404                 }
405                if( walltime && sscanf( walltime, "%d:%d:%d", &hours, &minutes, &seconds ) == 3 )
406                 {
407                        self->walltime = 60*( 60*hours + minutes ) + seconds;
408                        fsd_log_debug(( "walltime: %s=%lds", walltime, self->walltime ));
409                 }
410         }
411}
412
413void
414pbsdrmaa_job_on_missing( fsd_job_t *self )
415{
416        pbsdrmaa_session_t *pbssession = (pbsdrmaa_session_t*)self->session;
417
418        if( pbssession->pbs_home == NULL )
419                pbsdrmaa_job_on_missing_standard( self );       
420        else
421                pbsdrmaa_job_on_missing_log_based( self );     
422}
423
424void
425pbsdrmaa_job_on_missing_standard( fsd_job_t *self )
426{
427        fsd_drmaa_session_t *session = self->session;
428       
429        unsigned missing_mask = 0;
430
431        fsd_log_enter(( "({job_id=%s})", self->job_id ));
432        fsd_log_warning(( "Job %s missing from DRM queue", self->job_id ));
433
434        switch( session->missing_jobs )
435        {
436                case FSD_REVEAL_MISSING_JOBS:         missing_mask = 0;     break;
437                case FSD_IGNORE_MISSING_JOBS:         missing_mask = 0x73;  break;
438                case FSD_IGNORE_QUEUED_MISSING_JOBS:  missing_mask = 0x13;  break;
439        }
440        fsd_log_debug(( "last job_ps: %s (0x%02x); mask: 0x%02x",
441                                drmaa_job_ps_to_str(self->state), self->state, missing_mask ));
442
443        if( self->state < DRMAA_PS_DONE
444                        &&  (self->state & ~missing_mask) )
445                fsd_exc_raise_fmt(
446                                FSD_ERRNO_INTERNAL_ERROR,
447                                "self %s missing from queue", self->job_id
448                                );
449
450        if( (self->flags & FSD_JOB_TERMINATED_MASK) == 0 )
451        {
452                self->flags &= FSD_JOB_TERMINATED_MASK;
453                self->flags |= FSD_JOB_TERMINATED;
454        }
455
456        if( (self->flags & FSD_JOB_ABORTED) == 0
457                        &&  session->missing_jobs == FSD_IGNORE_MISSING_JOBS )
458        { /* assume everthing was ok */
459                self->state = DRMAA_PS_DONE;
460                self->exit_status = 0;
461        }
462        else
463        { /* job aborted */
464                self->state = DRMAA_PS_FAILED;
465                self->exit_status = -1;
466        }
467
468        fsd_cond_broadcast( &self->status_cond);
469
470        fsd_log_return(( "; job_ps=%s, exit_status=%d",
471                                drmaa_job_ps_to_str(self->state), self->exit_status ));
472}
473
474void
475pbsdrmaa_job_on_missing_log_based( fsd_job_t *self )
476{
477        fsd_drmaa_session_t *session = self->session;
478        pbsdrmaa_log_reader_t *log_reader = NULL;
479       
480        fsd_log_enter(( "({job_id=%s})", self->job_id ));
481        fsd_log_info(( "Job %s missing from DRM queue", self->job_id ));
482       
483        TRY
484        {       
485                log_reader = pbsdrmaa_log_reader_new( session, self);
486                log_reader->read_log( log_reader );
487        }
488        FINALLY
489        {
490                pbsdrmaa_log_reader_destroy( log_reader );
491        }
492        END_TRY
493
494        fsd_log_return(( "; job_ps=%s, exit_status=%d",
495                                drmaa_job_ps_to_str(self->state), self->exit_status ));
496}
Note: See TracBrowser for help on using the repository browser.