source: trunk/pbs_drmaa/job.c @ 21

Revision 21, 14.2 KB checked in by mmatloka, 13 years ago (diff)

exec host from accounting file

  • Property svn:keywords set to Id
RevLine 
[12]1/* $Id$ */
[1]2/*
3 *  FedStage DRMAA for PBS Pro
4 *  Copyright (C) 2006-2009  FedStage Systems
5 *
6 *  This program is free software: you can redistribute it and/or modify
7 *  it under the terms of the GNU General Public License as published by
8 *  the Free Software Foundation, either version 3 of the License, or
9 *  (at your option) any later version.
10 *
11 *  This program is distributed in the hope that it will be useful,
12 *  but WITHOUT ANY WARRANTY; without even the implied warranty of
13 *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14 *  GNU General Public License for more details.
15 *
16 *  You should have received a copy of the GNU General Public License
17 *  along with this program.  If not, see <http://www.gnu.org/licenses/>.
18 */
19
20#ifdef HAVE_CONFIG_H
21#       include <config.h>
22#endif
23
24#include <signal.h>
25#include <stdlib.h>
26#include <string.h>
27#include <unistd.h>
28
29#include <drmaa_utils/drmaa.h>
30#include <drmaa_utils/drmaa_util.h>
31#include <pbs_error.h>
32#include <pbs_ifl.h>
33
34#include <pbs_drmaa/job.h>
[7]35#include <pbs_drmaa/log_reader.h>
[1]36#include <pbs_drmaa/pbs_attrib.h>
37#include <pbs_drmaa/session.h>
38#include <pbs_drmaa/util.h>
39
40#ifndef lint
41static char rcsid[]
42#       ifdef __GNUC__
43                __attribute__ ((unused))
44#       endif
[12]45        = "$Id$";
[1]46#endif
47
48
49static void
50pbsdrmaa_job_control( fsd_job_t *self, int action );
51
52static void
53pbsdrmaa_job_update_status( fsd_job_t *self );
54
55static void
56pbsdrmaa_job_on_missing( fsd_job_t *self );
57
[7]58void
59pbsdrmaa_job_on_missing_standard( fsd_job_t *self );
60
61void
62pbsdrmaa_job_on_missing_log_based( fsd_job_t *self );
63
[1]64static void
65pbsdrmaa_job_update( fsd_job_t *self, struct batch_status* );
66
[21]67bool
68pbsdrmaa_job_update_status_accounting( fsd_job_t *self );
[1]69
[21]70
[1]71fsd_job_t *
72pbsdrmaa_job_new( char *job_id )
73{
74        pbsdrmaa_job_t *self = (pbsdrmaa_job_t*)fsd_job_new( job_id );
75        fsd_realloc( self, 1, pbsdrmaa_job_t );
76        self->super.control = pbsdrmaa_job_control;
77        self->super.update_status = pbsdrmaa_job_update_status;
78        self->super.on_missing = pbsdrmaa_job_on_missing;
79        self->update = pbsdrmaa_job_update;
80        return (fsd_job_t*)self;
81}
82
83
84static void
85pbsdrmaa_job_control( fsd_job_t *self, int action )
86{
87        volatile bool conn_lock = false;
88        pbsdrmaa_session_t *session = (pbsdrmaa_session_t*)self->session;
89        const char *job_id = self->job_id;
90        const char *apicall = NULL;
91        int rc = PBSE_NONE;
92
93        fsd_log_enter(( "({job_id=%s}, action=%d)",
94                        self->job_id, action ));
95
96        TRY
97         {
98                int try_count;
99                const int max_tries = 3;
100
101                conn_lock = fsd_mutex_lock( &self->session->drm_connection_mutex );
102
103                /*TODO reconnect */
104                for( try_count=0;  try_count < max_tries;  try_count++ )
105                 {
106                        switch( action )
107                         {
108                                /*
109                                 * We cannot know whether we did suspend job
110                                 * in other way than remembering this inside DRMAA session.
111                                 */
112                                case DRMAA_CONTROL_SUSPEND:
113                                        apicall = "pbs_sigjob";
114                                        rc = pbs_sigjob( session->pbs_conn, (char*)job_id,
115                                                        "SIGSTOP", NULL );
[10]116                                        fsd_log_info(("pbs_sigjob(%s, SIGSTOP) =%d", job_id, rc));
[1]117                                        if( rc == PBSE_NONE )
118                                                self->flags |= FSD_JOB_SUSPENDED;
119                                        break;
120                                case DRMAA_CONTROL_RESUME:
121                                        apicall = "pbs_sigjob";
122                                        rc = pbs_sigjob( session->pbs_conn, (char*)job_id,
123                                                        "SIGCONT", NULL );
[10]124                                        fsd_log_info(("pbs_sigjob(%s, SIGCONT) =%d", job_id, rc));
[1]125                                        if( rc == PBSE_NONE )
126                                                self->flags &= ~FSD_JOB_SUSPENDED;
127                                        break;
128                                case DRMAA_CONTROL_HOLD:
129                                        apicall = "pbs_holdjob";
130                                        rc = pbs_holdjob( session->pbs_conn, (char*)job_id,
131                                                        USER_HOLD, NULL );
[10]132                                        fsd_log_info(("pbs_sigjob(%s, SIGHOLD) =%d", job_id, rc));
[1]133                                        if( rc == PBSE_NONE )
134                                                self->flags |= FSD_JOB_HOLD;
135                                        break;
136                                case DRMAA_CONTROL_RELEASE:
137                                        apicall = "pbs_rlsjob";
138                                        rc = pbs_rlsjob( session->pbs_conn, (char*)job_id,
139                                                        USER_HOLD, NULL );
[10]140                                        fsd_log_info(("pbs_rlsjob(%s) =%d", job_id, rc));
[1]141                                        if( rc == PBSE_NONE )
142                                                self->flags &= FSD_JOB_HOLD;
143                                        break;
144                                case DRMAA_CONTROL_TERMINATE:
145                                        apicall = "pbs_deljob";
146                                        rc = pbs_deljob( session->pbs_conn, (char*)job_id, NULL );
[10]147                                        fsd_log_info(("pbs_deljob(%s) =%d", job_id, rc));
[1]148                                        /* Torque:
149                                         * deldelay=N -- delay between SIGTERM and SIGKILL (default 0) */
150                                        if( rc == PBSE_NONE )
151                                         {
152                                                self->flags &= FSD_JOB_TERMINATED_MASK;
153                                                if( (self->flags & FSD_JOB_TERMINATED) == 0 )
154                                                        self->flags |= FSD_JOB_TERMINATED | FSD_JOB_ABORTED;
155                                         }
156                                        break;
157                         }
158
159                        if( rc == PBSE_NONE )
160                                break;
161                        else if( rc == PBSE_INTERNAL )
162                         {
163                                /*
164                                 * In PBS Pro pbs_sigjob raises internal server error (PBSE_INTERNAL)
165                                 * when job just changed its state to running.
166                                 */
167                                fsd_log_debug(( "repeating request (%d of %d)",
168                                                        try_count+2, max_tries ));
169                                sleep( 1 );
170                         }
171                        else
172                                pbsdrmaa_exc_raise_pbs( apicall );
173                 } /* end for */
174         }
175        FINALLY
176         {
177                if( conn_lock )
178                        conn_lock = fsd_mutex_unlock( &self->session->drm_connection_mutex );
179         }
180        END_TRY
181
182        fsd_log_return((""));
183}
184
185
186void
187pbsdrmaa_job_update_status( fsd_job_t *self )
188{
189        volatile bool conn_lock = false;
190        struct batch_status *volatile status = NULL;
191        pbsdrmaa_session_t *session = (pbsdrmaa_session_t*)self->session;
192
193        fsd_log_enter(( "({job_id=%s})", self->job_id ));
[21]194       
[1]195        TRY
196         {
197                conn_lock = fsd_mutex_lock( &self->session->drm_connection_mutex );
198retry:
[16]199
[1]200#ifdef PBS_PROFESSIONAL
201                status = pbs_statjob( session->pbs_conn, self->job_id, NULL, NULL );
202#else
203                status = pbs_statjob( session->pbs_conn, self->job_id, session->status_attrl, NULL );
204#endif
[9]205                fsd_log_info(( "pbs_statjob(fd=%d, job_id=%s, attribs={...}) =%p",
[1]206                                 session->pbs_conn, self->job_id, (void*)status ));
207                if( status == NULL )
208                 {
[21]209                        if(pbsdrmaa_job_update_status_accounting(self) == false)
210                        {
211        #ifndef PBS_PROFESSIONAL
212                                fsd_log_error(("pbs_statjob error: %d, %s, %s", pbs_errno, pbse_to_txt(pbs_errno), pbs_strerror(pbs_errno)));
213        #else
214        #  ifndef PBS_PROFESSIONAL_NO_LOG
215                                fsd_log_error(("pbs_statjob error: %d, %s", pbs_errno, pbse_to_txt(pbs_errno)));
216        #  else
217                                fsd_log_error(("pbs_statjob error: %d", pbs_errno));
218        #  endif
219        #endif
220
221                                /**/
222
223                                switch( pbs_errno )
224                                 {
225                                        case PBSE_UNKJOBID:
226                                                break;
227                                        case PBSE_PROTOCOL:
228                                        case PBSE_EXPIRED:
229                                                if ( session->pbs_conn >= 0 )
230                                                        pbs_disconnect( session->pbs_conn );
231                                                sleep(1);
232                                                session->pbs_conn = pbs_connect( session->super.contact );
233                                                if( session->pbs_conn < 0 )
234                                                        pbsdrmaa_exc_raise_pbs( "pbs_connect" );
235                                                else
236                                                 {
237                                                        fsd_log_error(("retry:"));
238                                                        goto retry;
239                                                 }
240                                        default:
241                                                pbsdrmaa_exc_raise_pbs( "pbs_statjob" );
242                                                break;
243                                        case 0:  /* ? */
244                                                fsd_exc_raise_code( FSD_ERRNO_INTERNAL_ERROR );
245                                                break;
246                                 }
[1]247                         }
248                 }
249
250                conn_lock = fsd_mutex_unlock( &self->session->drm_connection_mutex );
251
252                if( status != NULL )
253                 {
254                        ((pbsdrmaa_job_t*)self)->update( self, status );
255                 }
[7]256                else if( self->state < DRMAA_PS_DONE )
[1]257                        self->on_missing( self );
258         }
259        FINALLY
260         {
261                if( conn_lock )
262                        conn_lock = fsd_mutex_unlock( &self->session->drm_connection_mutex );
263                if( status != NULL )
264                        pbs_statfree( status );
265         }
266        END_TRY
267
268        fsd_log_return((""));
269}
270
271
272void
273pbsdrmaa_job_update( fsd_job_t *self, struct batch_status *status )
274{
275        struct attrl *attribs = status->attribs;
276        struct attrl *i = NULL;
277        char pbs_state = 0;
278        int exit_status = -2;
279        const char *cpu_usage = NULL;
280        const char *mem_usage = NULL;
281        const char *vmem_usage = NULL;
282        const char *walltime = NULL;
283        long unsigned int modify_time = 0;
284
285        fsd_log_enter(( "({job_id=%s})", self->job_id ));
286#ifdef DEBUGGING
287        pbsdrmaa_dump_attrl( attribs, NULL );
288#endif
289        fsd_assert( !strcmp( self->job_id, status->name ) );
290
291        for( i = attribs;  i != NULL;  i = i->next )
292         {
293                int attr;
294                attr = pbsdrmaa_pbs_attrib_by_name( i->name );
295                switch( attr )
296                 {
297                        case PBSDRMAA_ATTR_JOB_STATE:
298                                pbs_state = i->value[0];                               
299                                break;
300                        case PBSDRMAA_ATTR_EXIT_STATUS:
301                                exit_status = atoi( i->value );
302                                break;
303                        case PBSDRMAA_ATTR_RESOURCES_USED:
304                                if( !strcmp( i->resource, "cput" ) )
305                                        cpu_usage = i->value;
306                                else if( !strcmp( i->resource, "mem" ) )
307                                        mem_usage = i->value;
308                                else if( !strcmp( i->resource, "vmem" ) )
309                                        vmem_usage = i->value;
310                                else if( !strcmp( i->resource, "walltime" ) )
311                                        walltime = i->value;
312                                break;
313                        case PBSDRMAA_ATTR_QUEUE:
314                                if (!self->queue)
315                                        self->queue = fsd_strdup(i->value);
316                                break;
317                        case PBSDRMAA_ATTR_ACCOUNT_NAME:
318                                if (!self->project)
319                                        self->project = fsd_strdup(i->value);
320                                break;
321                        case PBSDRMAA_ATTR_EXECUTION_HOST:
322                                if (!self->execution_hosts) {
323                                        fsd_log_debug(("execution_hosts = %s", i->value));
324                                        self->execution_hosts = fsd_strdup(i->value);
325                                }
326                                break;
327                        case PBSDRMAA_ATTR_START_TIME:
328                                {
329                                  long unsigned int start_time;
330                                  if (self->start_time == 0 && sscanf(i->value, "%lu", &start_time) == 1)
331                                        self->start_time = start_time;
332                                  break;
333                                }
334                        case PBSDRMAA_ATTR_MTIME:
335                                if (sscanf(i->value, "%lu", &modify_time) != 1)
336                                        modify_time = 0;
337                                break;
338                 }
339         }
340
341        if( pbs_state )
342                fsd_log_debug(( "pbs_state: %c", pbs_state ));
343
344        if( exit_status != -2 )
345         {
346                fsd_log_debug(( "exit_status: %d", exit_status ));
347                self->exit_status = exit_status;
348         }
349        if(pbs_state){
350                switch( pbs_state )
351                 {
352                        case 'C': /* Job is completed after having run. */
353                                self->flags &= FSD_JOB_TERMINATED_MASK;
354                                self->flags |= FSD_JOB_TERMINATED;
355                                if (exit_status != -2) { /* has exit code */
356                                        if( self->exit_status == 0)
357                                                self->state = DRMAA_PS_DONE;
358                                        else
359                                                self->state = DRMAA_PS_FAILED;
360                                } else {
361                                        self->state = DRMAA_PS_FAILED;
362                                        self->exit_status = -1;
363                                }
364                                self->end_time = modify_time; /* take last modify time as end time */
365                                break;
366                        case 'E': /* Job is exiting after having run. - MM: ignore exiting state (transient state) - outputs might have not been transfered yet,
367                                        MM2: mark job as running if current job status is undetermined - fix "ps after job was ripped" */
368                                if (self->state == DRMAA_PS_UNDETERMINED)
369                                        self->state = DRMAA_PS_RUNNING;
370                                break;
371                        case 'H': /* Job is held. */
372                                self->state = DRMAA_PS_USER_ON_HOLD;
373                                self->flags |= FSD_JOB_HOLD;
374                                break;
375                        case 'Q': /* Job is queued, eligible to run or routed. */
376                        case 'W': /* Job is waiting for its execution time to be reached. */
377                                self->state = DRMAA_PS_QUEUED_ACTIVE;
378                                self->flags &= ~FSD_JOB_HOLD;
379                                break;
380                        case 'R': /* Job is running. */
381                        case 'T': /* Job is being moved to new location (?). */
382                         {
383                                if( self->flags & FSD_JOB_SUSPENDED )
384                                        self->state = DRMAA_PS_USER_SUSPENDED;
385                                else
386                                        self->state = DRMAA_PS_RUNNING;
387                                break;
388                         }
389                        case 'S': /* (Unicos only) job is suspend. */
390                                self->state = DRMAA_PS_SYSTEM_SUSPENDED;
391                                break;
392                        case 0:  default:
393                                self->state = DRMAA_PS_UNDETERMINED;
394                                break;
395         }
396}
397        fsd_log_debug(( "job_ps: %s", drmaa_job_ps_to_str(self->state) ));
398
399         {
400                int hours, minutes, seconds;
401                long mem;
[12]402                if( cpu_usage && sscanf( cpu_usage, "%d:%d:%d", &hours, &minutes, &seconds ) == 3 )
[1]403                 {
404                        self->cpu_usage = 60*( 60*hours + minutes ) + seconds;
405                        fsd_log_debug(( "cpu_usage: %s=%lds", cpu_usage, self->cpu_usage ));
406                 }
407                if( mem_usage && sscanf( mem_usage, "%ldkb", &mem ) == 1 )
408                 {
409                        self->mem_usage = 1024*mem;
410                        fsd_log_debug(( "mem_usage: %s=%ldB", mem_usage, self->mem_usage ));
411                 }
412                if( vmem_usage && sscanf( vmem_usage, "%ldkb", &mem ) == 1 )
413                 {
414                        self->vmem_usage = 1024*mem;
415                        fsd_log_debug(( "vmem_usage: %s=%ldB", vmem_usage, self->vmem_usage ));
416                 }
[12]417                if( walltime && sscanf( walltime, "%d:%d:%d", &hours, &minutes, &seconds ) == 3 )
[1]418                 {
419                        self->walltime = 60*( 60*hours + minutes ) + seconds;
420                        fsd_log_debug(( "walltime: %s=%lds", walltime, self->walltime ));
421                 }
422         }
423}
424
425void
426pbsdrmaa_job_on_missing( fsd_job_t *self )
427{
[7]428        pbsdrmaa_session_t *pbssession = (pbsdrmaa_session_t*)self->session;
[12]429
[17]430        if( pbssession->pbs_home == NULL || pbssession->super.wait_thread_started )
[7]431                pbsdrmaa_job_on_missing_standard( self );       
432        else
433                pbsdrmaa_job_on_missing_log_based( self );     
434}
435
436void
437pbsdrmaa_job_on_missing_standard( fsd_job_t *self )
438{
[1]439        fsd_drmaa_session_t *session = self->session;
[7]440       
[1]441        unsigned missing_mask = 0;
442
443        fsd_log_enter(( "({job_id=%s})", self->job_id ));
[12]444        fsd_log_warning(( "Job %s missing from DRM queue", self->job_id ));
[1]445
446        switch( session->missing_jobs )
[7]447        {
[1]448                case FSD_REVEAL_MISSING_JOBS:         missing_mask = 0;     break;
449                case FSD_IGNORE_MISSING_JOBS:         missing_mask = 0x73;  break;
450                case FSD_IGNORE_QUEUED_MISSING_JOBS:  missing_mask = 0x13;  break;
[7]451        }
[1]452        fsd_log_debug(( "last job_ps: %s (0x%02x); mask: 0x%02x",
453                                drmaa_job_ps_to_str(self->state), self->state, missing_mask ));
454
455        if( self->state < DRMAA_PS_DONE
456                        &&  (self->state & ~missing_mask) )
457                fsd_exc_raise_fmt(
[17]458                                FSD_DRMAA_ERRNO_INVALID_JOB,
[1]459                                "self %s missing from queue", self->job_id
460                                );
461
462        if( (self->flags & FSD_JOB_TERMINATED_MASK) == 0 )
[7]463        {
[1]464                self->flags &= FSD_JOB_TERMINATED_MASK;
465                self->flags |= FSD_JOB_TERMINATED;
[7]466        }
[1]467
468        if( (self->flags & FSD_JOB_ABORTED) == 0
469                        &&  session->missing_jobs == FSD_IGNORE_MISSING_JOBS )
[7]470        { /* assume everthing was ok */
[1]471                self->state = DRMAA_PS_DONE;
472                self->exit_status = 0;
[7]473        }
[1]474        else
[7]475        { /* job aborted */
[1]476                self->state = DRMAA_PS_FAILED;
477                self->exit_status = -1;
[7]478        }
[1]479
[12]480        fsd_cond_broadcast( &self->status_cond);
481
[1]482        fsd_log_return(( "; job_ps=%s, exit_status=%d",
483                                drmaa_job_ps_to_str(self->state), self->exit_status ));
[7]484}
485
486void
487pbsdrmaa_job_on_missing_log_based( fsd_job_t *self )
488{
489        fsd_drmaa_session_t *session = self->session;
490        pbsdrmaa_log_reader_t *log_reader = NULL;
491       
492        fsd_log_enter(( "({job_id=%s})", self->job_id ));
[12]493        fsd_log_info(( "Job %s missing from DRM queue", self->job_id ));
[7]494       
495        TRY
496        {       
497                log_reader = pbsdrmaa_log_reader_new( session, self);
498                log_reader->read_log( log_reader );
[1]499        }
[7]500        FINALLY
501        {
502                pbsdrmaa_log_reader_destroy( log_reader );
503        }
504        END_TRY
505
506        fsd_log_return(( "; job_ps=%s, exit_status=%d",
507                                drmaa_job_ps_to_str(self->state), self->exit_status ));
[1]508}
[21]509
510bool
511pbsdrmaa_job_update_status_accounting( fsd_job_t *self )
512{
513        fsd_drmaa_session_t *session = self->session;
514        pbsdrmaa_log_reader_t *log_reader = NULL;
515        bool res = false;
516       
517        fsd_log_enter(( "({job_id=%s})", self->job_id ));
518        fsd_log_info(( "Reading job %s info from accounting file", self->job_id ));
519       
520        TRY
521        {       
522                log_reader = pbsdrmaa_log_reader_accounting_new( session, self);
523                bool res = log_reader->read_log( log_reader );
524        }
525        FINALLY
526        {
527                pbsdrmaa_log_reader_destroy( log_reader );
528        }
529        END_TRY
530
531        fsd_log_return((""));
532        return res;
533}
Note: See TracBrowser for help on using the repository browser.