source: trunk/pbs_drmaa/job.c @ 50

Revision 50, 14.6 KB checked in by mmamonski, 12 years ago (diff)

more verbose logging in pbs_stat

  • Property svn:keywords set to Id
Line 
1/* $Id$ */
2/*
3 *  FedStage DRMAA for PBS Pro
4 *  Copyright (C) 2006-2009  FedStage Systems
5 *
6 *  This program is free software: you can redistribute it and/or modify
7 *  it under the terms of the GNU General Public License as published by
8 *  the Free Software Foundation, either version 3 of the License, or
9 *  (at your option) any later version.
10 *
11 *  This program is distributed in the hope that it will be useful,
12 *  but WITHOUT ANY WARRANTY; without even the implied warranty of
13 *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14 *  GNU General Public License for more details.
15 *
16 *  You should have received a copy of the GNU General Public License
17 *  along with this program.  If not, see <http://www.gnu.org/licenses/>.
18 */
19
20#ifdef HAVE_CONFIG_H
21#       include <config.h>
22#endif
23
24#include <signal.h>
25#include <stdlib.h>
26#include <string.h>
27#include <unistd.h>
28
29#include <drmaa_utils/drmaa.h>
30#include <drmaa_utils/drmaa_util.h>
31#include <pbs_error.h>
32#include <pbs_ifl.h>
33
34#include <pbs_drmaa/job.h>
35#include <pbs_drmaa/log_reader.h>
36#include <pbs_drmaa/pbs_attrib.h>
37#include <pbs_drmaa/session.h>
38#include <pbs_drmaa/util.h>
39
40#ifndef lint
41static char rcsid[]
42#       ifdef __GNUC__
43                __attribute__ ((unused))
44#       endif
45        = "$Id$";
46#endif
47
48
49static void
50pbsdrmaa_job_control( fsd_job_t *self, int action );
51
52static void
53pbsdrmaa_job_update_status( fsd_job_t *self );
54
55static void
56pbsdrmaa_job_on_missing( fsd_job_t *self );
57
58void
59pbsdrmaa_job_on_missing_standard( fsd_job_t *self );
60
61static void
62pbsdrmaa_job_update( fsd_job_t *self, struct batch_status* );
63
64
65fsd_job_t *
66pbsdrmaa_job_new( char *job_id )
67{
68        pbsdrmaa_job_t *self = (pbsdrmaa_job_t*)fsd_job_new( job_id );
69        fsd_realloc( self, 1, pbsdrmaa_job_t );
70        self->super.control = pbsdrmaa_job_control;
71        self->super.update_status = pbsdrmaa_job_update_status;
72        self->super.on_missing = pbsdrmaa_job_on_missing;
73        self->update = pbsdrmaa_job_update;
74        return (fsd_job_t*)self;
75}
76
77
78static void
79pbsdrmaa_job_control( fsd_job_t *self, int action )
80{
81        volatile bool conn_lock = false;
82        pbsdrmaa_session_t *session = (pbsdrmaa_session_t*)self->session;
83        const char *job_id = self->job_id;
84        const char *apicall = NULL;
85        int rc = PBSE_NONE;
86
87        fsd_log_enter(( "({job_id=%s}, action=%d)",
88                        self->job_id, action ));
89
90        TRY
91         {
92                int tries_left = session->max_retries_count;
93                int sleep_time = 1;
94
95                conn_lock = fsd_mutex_lock( &self->session->drm_connection_mutex );
96
97                /*TODO reconnect */
98                while ( true )
99                 {
100                        switch( action )
101                         {
102                                /*
103                                 * We cannot know whether we did suspend job
104                                 * in other way than remembering this inside DRMAA session.
105                                 */
106                                case DRMAA_CONTROL_SUSPEND:
107                                        apicall = "pbs_sigjob";
108                                        rc = pbs_sigjob( session->pbs_conn, (char*)job_id,
109                                                        "SIGSTOP", NULL );
110                                        fsd_log_info(("pbs_sigjob(%s, SIGSTOP) =%d", job_id, rc));
111                                        if( rc == PBSE_NONE )
112                                                self->flags |= FSD_JOB_SUSPENDED;
113                                        break;
114                                case DRMAA_CONTROL_RESUME:
115                                        apicall = "pbs_sigjob";
116                                        rc = pbs_sigjob( session->pbs_conn, (char*)job_id,
117                                                        "SIGCONT", NULL );
118                                        fsd_log_info(("pbs_sigjob(%s, SIGCONT) =%d", job_id, rc));
119                                        if( rc == PBSE_NONE )
120                                                self->flags &= ~FSD_JOB_SUSPENDED;
121                                        break;
122                                case DRMAA_CONTROL_HOLD:
123                                        apicall = "pbs_holdjob";
124                                        rc = pbs_holdjob( session->pbs_conn, (char*)job_id,
125                                                        USER_HOLD, NULL );
126                                        fsd_log_info(("pbs_sigjob(%s, SIGHOLD) =%d", job_id, rc));
127                                        if( rc == PBSE_NONE )
128                                                self->flags |= FSD_JOB_HOLD;
129                                        break;
130                                case DRMAA_CONTROL_RELEASE:
131                                        apicall = "pbs_rlsjob";
132                                        rc = pbs_rlsjob( session->pbs_conn, (char*)job_id,
133                                                        USER_HOLD, NULL );
134                                        fsd_log_info(("pbs_rlsjob(%s) =%d", job_id, rc));
135                                        if( rc == PBSE_NONE )
136                                                self->flags &= FSD_JOB_HOLD;
137                                        break;
138                                case DRMAA_CONTROL_TERMINATE:
139                                        apicall = "pbs_deljob";
140                                        rc = pbs_deljob( session->pbs_conn, (char*)job_id, NULL );
141                                        fsd_log_info(("pbs_deljob(%s) =%d", job_id, rc));
142                                        /* Torque:
143                                         * deldelay=N -- delay between SIGTERM and SIGKILL (default 0) */
144                                        if( rc == PBSE_NONE )
145                                         {
146                                                self->flags &= FSD_JOB_TERMINATED_MASK;
147                                                if( (self->flags & FSD_JOB_TERMINATED) == 0 )
148                                                        self->flags |= FSD_JOB_TERMINATED | FSD_JOB_ABORTED;
149                                         }
150                                        break;
151                         }
152
153retry_connect:
154                        if ( rc == PBSE_NONE )
155                                break;
156                        else if (( rc == PBSE_INTERNAL || rc == PBSE_PROTOCOL || rc == PBSE_EXPIRED) && (tries_left--))
157                         {
158                                if (rc == PBSE_PROTOCOL || rc == PBSE_EXPIRED)
159                                 {
160                                        if ( session->pbs_conn >= 0)
161                                                pbs_disconnect( session->pbs_conn );
162
163                                        sleep( sleep_time++ );
164
165                                        session->pbs_conn = pbs_connect( session->super.contact );
166
167                                        if (session->pbs_conn < 0)
168                                                goto retry_connect;
169
170                                        fsd_log_info(( "pbs_connect(%s) =%d", session->super.contact, session->pbs_conn ));
171                                 }
172                                else /* PBSE_INTERNAL */
173                                 {
174                                        /*
175                                         * In PBS Pro pbs_sigjob raises internal server error (PBSE_INTERNAL)
176                                         * when job just changed its state to running.
177                                         */
178                                        sleep( sleep_time++ );
179                                 }
180                                fsd_log_debug(( "repeating request (%d of %d)", tries_left, session->max_retries_count));
181                         }
182                        else
183                                pbsdrmaa_exc_raise_pbs( apicall );
184                 } /* end while */
185         }
186        FINALLY
187         {
188                if( conn_lock )
189                        conn_lock = fsd_mutex_unlock( &self->session->drm_connection_mutex );
190         }
191        END_TRY
192
193        fsd_log_return((""));
194}
195
196
197void
198pbsdrmaa_job_update_status( fsd_job_t *self )
199{
200        volatile bool conn_lock = false;
201        struct batch_status *volatile status = NULL;
202        pbsdrmaa_session_t *session = (pbsdrmaa_session_t*)self->session;
203        int tries_left = session->max_retries_count;
204        int sleep_time = 1;
205
206        fsd_log_enter(( "({job_id=%s})", self->job_id ));
207       
208        TRY
209         {
210                conn_lock = fsd_mutex_lock( &self->session->drm_connection_mutex );
211retry:
212
213#ifdef PBS_PROFESSIONAL
214                status = pbs_statjob( session->pbs_conn, self->job_id, NULL, NULL );
215#else
216                status = pbs_statjob( session->pbs_conn, self->job_id, session->status_attrl, NULL );
217#endif
218                fsd_log_info(( "pbs_statjob(fd=%d, job_id=%s, attribs={...}) =%p",
219                                 session->pbs_conn, self->job_id, (void*)status ));
220                if( status == NULL )
221                 {
222
223#ifndef PBS_PROFESSIONAL
224                        if ( pbs_errno != PBSE_UNKJOBID )
225                                fsd_log_error(("pbs_statjob error: %d, %s, %s", pbs_errno, pbse_to_txt(pbs_errno), pbs_strerror(pbs_errno)));
226                        else
227                                fsd_log_debug(("pbs_statjob error: %d, %s, %s", pbs_errno, pbse_to_txt(pbs_errno), pbs_strerror(pbs_errno)));
228#else
229#  ifndef PBS_PROFESSIONAL_NO_LOG
230                        if ( pbs_errno != PBSE_UNKJOBID )
231                                fsd_log_error(("pbs_statjob error: %d, %s", pbs_errno, pbse_to_txt(pbs_errno)));
232                        else
233                                fsd_log_debug(("pbs_statjob error: %d, %s", pbs_errno, pbse_to_txt(pbs_errno)));
234#  else
235                        if ( pbs_errno != PBSE_UNKJOBID )
236                                fsd_log_error(("pbs_statjob error: %d", pbs_errno));
237                        else
238                                fsd_log_debug(("pbs_statjob error: %d", pbs_errno));
239#  endif
240#endif
241
242                        switch( pbs_errno )
243                         {
244                                case PBSE_UNKJOBID:
245                                        break;
246                                case PBSE_PROTOCOL:
247                                case PBSE_EXPIRED:
248                                        if ( session->pbs_conn >= 0 )
249                                                pbs_disconnect( session->pbs_conn );
250                                        fsd_log_info(("Protocol error. Reconnecting..."));
251retry_connect:
252                                        sleep(sleep_time++);
253                                        session->pbs_conn = pbs_connect( session->super.contact );
254                                        if( session->pbs_conn < 0 )
255                                         {
256                                                if (tries_left--) {
257                                                        fsd_log_info(("%d tries left. Retrying...", tries_left));
258                                                        goto retry_connect;
259                                                } else {
260                                                        fsd_log_error(("No more tries left... Throwing exception"));
261                                                        pbsdrmaa_exc_raise_pbs( "pbs_connect" );
262                                                }
263                                         }
264                                        else
265                                         {
266                                                goto retry;
267                                         }
268                                default:
269                                        pbsdrmaa_exc_raise_pbs( "pbs_statjob" );
270                                        break;
271                                case 0:  /* ? */
272                                        fsd_exc_raise_code( FSD_ERRNO_INTERNAL_ERROR );
273                                        break;
274                         }
275
276                 }
277
278                conn_lock = fsd_mutex_unlock( &self->session->drm_connection_mutex );
279
280
281                if( status != NULL )
282                 {
283                        ((pbsdrmaa_job_t*)self)->update( self, status );
284                 }
285                else if( self->state < DRMAA_PS_DONE )
286                 {
287                        self->on_missing( self );
288                 }
289         }
290        FINALLY
291         {
292                if( conn_lock )
293                        conn_lock = fsd_mutex_unlock( &self->session->drm_connection_mutex );
294                if( status != NULL )
295                        pbs_statfree( status );
296         }
297        END_TRY
298
299        fsd_log_return((""));
300}
301
302
303void
304pbsdrmaa_job_update( fsd_job_t *self, struct batch_status *status )
305{
306        struct attrl *attribs = status->attribs;
307        struct attrl *i = NULL;
308        char pbs_state = 0;
309        int exit_status = -2;
310        const char *cpu_usage = NULL;
311        const char *mem_usage = NULL;
312        const char *vmem_usage = NULL;
313        const char *walltime = NULL;
314        long unsigned int modify_time = 0;
315
316        fsd_log_enter(( "({job_id=%s})", self->job_id ));
317#ifdef DEBUGGING
318        pbsdrmaa_dump_attrl( attribs, NULL );
319#endif
320        fsd_assert( !strcmp( self->job_id, status->name ) );
321
322        for( i = attribs;  i != NULL;  i = i->next )
323         {
324                int attr;
325                attr = pbsdrmaa_pbs_attrib_by_name( i->name );
326                switch( attr )
327                 {
328                        case PBSDRMAA_ATTR_JOB_STATE:
329                                pbs_state = i->value[0];                               
330                                break;
331                        case PBSDRMAA_ATTR_EXIT_STATUS:
332                                exit_status = fsd_atoi( i->value );
333                                break;
334                        case PBSDRMAA_ATTR_RESOURCES_USED:
335                                if( !strcmp( i->resource, "cput" ) )
336                                        cpu_usage = i->value;
337                                else if( !strcmp( i->resource, "mem" ) )
338                                        mem_usage = i->value;
339                                else if( !strcmp( i->resource, "vmem" ) )
340                                        vmem_usage = i->value;
341                                else if( !strcmp( i->resource, "walltime" ) )
342                                        walltime = i->value;
343                                break;
344                        case PBSDRMAA_ATTR_QUEUE:
345                                if (!self->queue)
346                                        self->queue = fsd_strdup(i->value);
347                                break;
348                        case PBSDRMAA_ATTR_ACCOUNT_NAME:
349                                if (!self->project)
350                                        self->project = fsd_strdup(i->value);
351                                break;
352#ifndef PBS_PROFESSIONAL
353                        case PBSDRMAA_ATTR_EXECUTION_HOST:
354                                if (!self->execution_hosts) {
355                                        fsd_log_debug(("execution_hosts = %s", i->value));
356                                        self->execution_hosts = fsd_strdup(i->value);
357                                }
358                                break;
359#else
360                        case PBSDRMAA_ATTR_EXECUTION_VNODE:
361                                if (!self->execution_hosts) {
362                                        fsd_log_debug(("execution_hosts = %s", i->value));
363                                        self->execution_hosts = fsd_strdup(i->value);
364                                }
365                                break;
366#endif
367                        case PBSDRMAA_ATTR_START_TIME:
368                                {
369                                  long unsigned int start_time;
370                                  if (self->start_time == 0 && sscanf(i->value, "%lu", &start_time) == 1)
371                                        self->start_time = start_time;
372                                  break;
373                                }
374                        case PBSDRMAA_ATTR_MTIME:
375                                if (sscanf(i->value, "%lu", &modify_time) != 1)
376                                        modify_time = 0;
377                                break;
378                 }
379         }
380
381        if( pbs_state )
382                fsd_log_debug(( "pbs_state: %c", pbs_state ));
383
384        if( exit_status != -2 )
385         {
386                fsd_log_debug(( "exit_status: %d", exit_status ));
387                self->exit_status = exit_status;
388         }
389        if(pbs_state){
390                switch( pbs_state )
391                 {
392                        case 'C': /* Job is completed after having run. */
393                                self->flags &= FSD_JOB_TERMINATED_MASK;
394                                self->flags |= FSD_JOB_TERMINATED;
395                                if (exit_status != -2) { /* has exit code */
396                                        if( self->exit_status == 0)
397                                                self->state = DRMAA_PS_DONE;
398                                        else
399                                                self->state = DRMAA_PS_FAILED;
400                                } else {
401                                        self->state = DRMAA_PS_FAILED;
402                                        self->exit_status = -1;
403                                }
404                                if (modify_time != 0)
405                                        self->end_time = modify_time; /* take last modify time as end time */
406                                else
407                                        self->end_time = time(NULL);
408                               
409                                if (self->start_time == 0)
410                                        self->start_time = self->end_time;
411
412                                break;
413                        case 'E': /* Job is exiting after having run. - MM: ignore exiting state (transient state) - outputs might have not been transfered yet,
414                                        MM2: mark job as running if current job status is undetermined - fix "ps after job was ripped" */
415                                if (self->state == DRMAA_PS_UNDETERMINED)
416                                        self->state = DRMAA_PS_RUNNING;
417                                break;
418                        case 'H': /* Job is held. */
419                                self->state = DRMAA_PS_USER_ON_HOLD;
420                                self->flags |= FSD_JOB_HOLD;
421                                break;
422                        case 'Q': /* Job is queued, eligible to run or routed. */
423                        case 'W': /* Job is waiting for its execution time to be reached. */
424                                self->state = DRMAA_PS_QUEUED_ACTIVE;
425                                self->flags &= ~FSD_JOB_HOLD;
426                                break;
427                        case 'R': /* Job is running. */
428                        case 'T': /* Job is being moved to new location (?). */
429                         {
430                                if( self->flags & FSD_JOB_SUSPENDED )
431                                        self->state = DRMAA_PS_USER_SUSPENDED;
432                                else
433                                        self->state = DRMAA_PS_RUNNING;
434                                break;
435                         }
436                        case 'S': /* (Unicos only) job is suspend. */
437                                self->state = DRMAA_PS_SYSTEM_SUSPENDED;
438                                break;
439                        case 0:  default:
440                                self->state = DRMAA_PS_UNDETERMINED;
441                                break;
442         }
443}
444        fsd_log_debug(( "job_ps: %s", drmaa_job_ps_to_str(self->state) ));
445
446         {
447                int hours, minutes, seconds;
448                long mem;
449                if( cpu_usage && sscanf( cpu_usage, "%d:%d:%d", &hours, &minutes, &seconds ) == 3 )
450                 {
451                        self->cpu_usage = 60*( 60*hours + minutes ) + seconds;
452                        fsd_log_debug(( "cpu_usage: %s=%lds", cpu_usage, self->cpu_usage ));
453                 }
454                if( mem_usage && sscanf( mem_usage, "%ldkb", &mem ) == 1 )
455                 {
456                        self->mem_usage = 1024*mem;
457                        fsd_log_debug(( "mem_usage: %s=%ldB", mem_usage, self->mem_usage ));
458                 }
459                if( vmem_usage && sscanf( vmem_usage, "%ldkb", &mem ) == 1 )
460                 {
461                        self->vmem_usage = 1024*mem;
462                        fsd_log_debug(( "vmem_usage: %s=%ldB", vmem_usage, self->vmem_usage ));
463                 }
464                if( walltime && sscanf( walltime, "%d:%d:%d", &hours, &minutes, &seconds ) == 3 )
465                 {
466                        self->walltime = 60*( 60*hours + minutes ) + seconds;
467                        fsd_log_debug(( "walltime: %s=%lds", walltime, self->walltime ));
468                 }
469         }
470}
471
472void
473pbsdrmaa_job_on_missing( fsd_job_t *self )
474{
475        pbsdrmaa_session_t *pbssession = (pbsdrmaa_session_t*)self->session;
476
477        if( pbssession->pbs_home != NULL && pbssession->super.wait_thread_started )
478                fsd_log_info(("Job on missing but WT is running. Skipping...")); /* TODO: try to provide implementation that uses accounting/server log files */
479        else
480                pbsdrmaa_job_on_missing_standard( self );       
481}
482
483void
484pbsdrmaa_job_on_missing_standard( fsd_job_t *self )
485{
486        fsd_drmaa_session_t *session = self->session;
487       
488        unsigned missing_mask = 0;
489
490        fsd_log_enter(( "({job_id=%s})", self->job_id ));
491        fsd_log_warning(( "Job %s missing from DRM queue", self->job_id ));
492
493        switch( session->missing_jobs )
494        {
495                case FSD_REVEAL_MISSING_JOBS:         missing_mask = 0;     break;
496                case FSD_IGNORE_MISSING_JOBS:         missing_mask = 0x73;  break;
497                case FSD_IGNORE_QUEUED_MISSING_JOBS:  missing_mask = 0x13;  break;
498        }
499        fsd_log_info(( "last job_ps: %s (0x%02x); mask: 0x%02x",
500                                drmaa_job_ps_to_str(self->state), self->state, missing_mask ));
501
502        if( self->state < DRMAA_PS_DONE
503                        &&  (self->state & ~missing_mask) )
504                fsd_exc_raise_fmt(
505                                FSD_DRMAA_ERRNO_INVALID_JOB,
506                                "self %s missing from queue", self->job_id
507                                );
508
509        if( (self->flags & FSD_JOB_TERMINATED_MASK) == 0 )
510        {
511                self->flags &= FSD_JOB_TERMINATED_MASK;
512                self->flags |= FSD_JOB_TERMINATED;
513        }
514
515        if( (self->flags & FSD_JOB_ABORTED) == 0
516                        &&  session->missing_jobs == FSD_IGNORE_MISSING_JOBS )
517        { /* assume everthing was ok */
518                self->state = DRMAA_PS_DONE;
519                self->exit_status = 0;
520        }
521        else
522        { /* job aborted */
523                self->state = DRMAA_PS_FAILED;
524                self->exit_status = -1;
525        }
526
527        fsd_cond_broadcast( &self->status_cond);
528
529        fsd_log_return(( "; job_ps=%s, exit_status=%d",
530                                drmaa_job_ps_to_str(self->state), self->exit_status ));
531}
532
Note: See TracBrowser for help on using the repository browser.