dpif-linux: Zero 'stats' outputs of dpif_operate() ops on failure.
[openvswitch] / lib / daemon.c
1 /*
2  * Copyright (c) 2008, 2009, 2010, 2011, 2012 Nicira, Inc.
3  *
4  * Licensed under the Apache License, Version 2.0 (the "License");
5  * you may not use this file except in compliance with the License.
6  * You may obtain a copy of the License at:
7  *
8  *     http://www.apache.org/licenses/LICENSE-2.0
9  *
10  * Unless required by applicable law or agreed to in writing, software
11  * distributed under the License is distributed on an "AS IS" BASIS,
12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13  * See the License for the specific language governing permissions and
14  * limitations under the License.
15  */
16
17 #include <config.h>
18 #include "daemon.h"
19 #include <assert.h>
20 #include <errno.h>
21 #include <fcntl.h>
22 #include <signal.h>
23 #include <stdlib.h>
24 #include <string.h>
25 #include <sys/resource.h>
26 #include <sys/wait.h>
27 #include <sys/stat.h>
28 #include <unistd.h>
29 #include "command-line.h"
30 #include "fatal-signal.h"
31 #include "dirs.h"
32 #include "lockfile.h"
33 #include "process.h"
34 #include "socket-util.h"
35 #include "timeval.h"
36 #include "util.h"
37 #include "vlog.h"
38
39 VLOG_DEFINE_THIS_MODULE(daemon);
40
41 /* --detach: Should we run in the background? */
42 static bool detach;
43
44 /* --pidfile: Name of pidfile (null if none). */
45 static char *pidfile;
46
47 /* Device and inode of pidfile, so we can avoid reopening it. */
48 static dev_t pidfile_dev;
49 static ino_t pidfile_ino;
50
51 /* --overwrite-pidfile: Create pidfile even if one already exists and is
52    locked? */
53 static bool overwrite_pidfile;
54
55 /* --no-chdir: Should we chdir to "/"? */
56 static bool chdir_ = true;
57
58 /* File descriptor used by daemonize_start() and daemonize_complete(). */
59 static int daemonize_fd = -1;
60
61 /* --monitor: Should a supervisory process monitor the daemon and restart it if
62  * it dies due to an error signal? */
63 static bool monitor;
64
65 /* For each of the standard file descriptors, whether to replace it by
66  * /dev/null (if false) or keep it for the daemon to use (if true). */
67 static bool save_fds[3];
68
69 static void check_already_running(void);
70 static int lock_pidfile(FILE *, int command);
71
72 /* Returns the file name that would be used for a pidfile if 'name' were
73  * provided to set_pidfile().  The caller must free the returned string. */
74 char *
75 make_pidfile_name(const char *name)
76 {
77     return (!name
78             ? xasprintf("%s/%s.pid", ovs_rundir(), program_name)
79             : abs_file_name(ovs_rundir(), name));
80 }
81
82 /* Sets up a following call to daemonize() to create a pidfile named 'name'.
83  * If 'name' begins with '/', then it is treated as an absolute path.
84  * Otherwise, it is taken relative to RUNDIR, which is $(prefix)/var/run by
85  * default.
86  *
87  * If 'name' is null, then program_name followed by ".pid" is used. */
88 void
89 set_pidfile(const char *name)
90 {
91     free(pidfile);
92     pidfile = make_pidfile_name(name);
93 }
94
95 /* Returns an absolute path to the configured pidfile, or a null pointer if no
96  * pidfile is configured.  The caller must not modify or free the returned
97  * string. */
98 const char *
99 get_pidfile(void)
100 {
101     return pidfile;
102 }
103
104 /* Sets that we do not chdir to "/". */
105 void
106 set_no_chdir(void)
107 {
108     chdir_ = false;
109 }
110
111 /* Will we chdir to "/" as part of daemonizing? */
112 bool
113 is_chdir_enabled(void)
114 {
115     return chdir_;
116 }
117
118 /* Normally, daemonize() or damonize_start() will terminate the program with a
119  * message if a locked pidfile already exists.  If this function is called, an
120  * existing pidfile will be replaced, with a warning. */
121 void
122 ignore_existing_pidfile(void)
123 {
124     overwrite_pidfile = true;
125 }
126
127 /* Sets up a following call to daemonize() to detach from the foreground
128  * session, running this process in the background.  */
129 void
130 set_detach(void)
131 {
132     detach = true;
133 }
134
135 /* Will daemonize() really detach? */
136 bool
137 get_detach(void)
138 {
139     return detach;
140 }
141
142 /* Sets up a following call to daemonize() to fork a supervisory process to
143  * monitor the daemon and restart it if it dies due to an error signal.  */
144 void
145 daemon_set_monitor(void)
146 {
147     monitor = true;
148 }
149
150 /* A daemon doesn't normally have any use for the file descriptors for stdin,
151  * stdout, and stderr after it detaches.  To keep these file descriptors from
152  * e.g. holding an SSH session open, by default detaching replaces each of
153  * these file descriptors by /dev/null.  But a few daemons expect the user to
154  * redirect stdout or stderr to a file, in which case it is desirable to keep
155  * these file descriptors.  This function, therefore, disables replacing 'fd'
156  * by /dev/null when the daemon detaches. */
157 void
158 daemon_save_fd(int fd)
159 {
160     assert(fd == STDIN_FILENO || fd == STDOUT_FILENO || fd == STDERR_FILENO);
161     save_fds[fd] = true;
162 }
163
164 /* If a pidfile has been configured, creates it and stores the running
165  * process's pid in it.  Ensures that the pidfile will be deleted when the
166  * process exits. */
167 static void
168 make_pidfile(void)
169 {
170     long int pid = getpid();
171     struct stat s;
172     char *tmpfile;
173     FILE *file;
174     int error;
175
176     /* Create a temporary pidfile. */
177     tmpfile = xasprintf("%s.tmp%ld", pidfile, pid);
178     fatal_signal_add_file_to_unlink(tmpfile);
179     file = fopen(tmpfile, "w+");
180     if (!file) {
181         VLOG_FATAL("%s: create failed (%s)", tmpfile, strerror(errno));
182     }
183
184     if (fstat(fileno(file), &s) == -1) {
185         VLOG_FATAL("%s: fstat failed (%s)", tmpfile, strerror(errno));
186     }
187
188     fprintf(file, "%ld\n", pid);
189     if (fflush(file) == EOF) {
190         VLOG_FATAL("%s: write failed (%s)", tmpfile, strerror(errno));
191     }
192
193     error = lock_pidfile(file, F_SETLK);
194     if (error) {
195         VLOG_FATAL("%s: fcntl(F_SETLK) failed (%s)", tmpfile, strerror(error));
196     }
197
198     /* Rename or link it to the correct name. */
199     if (overwrite_pidfile) {
200         if (rename(tmpfile, pidfile) < 0) {
201             VLOG_FATAL("failed to rename \"%s\" to \"%s\" (%s)",
202                        tmpfile, pidfile, strerror(errno));
203         }
204     } else {
205         do {
206             error = link(tmpfile, pidfile) == -1 ? errno : 0;
207             if (error == EEXIST) {
208                 check_already_running();
209             }
210         } while (error == EINTR || error == EEXIST);
211         if (error) {
212             VLOG_FATAL("failed to link \"%s\" as \"%s\" (%s)",
213                        tmpfile, pidfile, strerror(error));
214         }
215     }
216
217     /* Ensure that the pidfile will get deleted on exit. */
218     fatal_signal_add_file_to_unlink(pidfile);
219
220     /* Delete the temporary pidfile if it still exists. */
221     if (!overwrite_pidfile) {
222         error = fatal_signal_unlink_file_now(tmpfile);
223         if (error) {
224             VLOG_FATAL("%s: unlink failed (%s)", tmpfile, strerror(error));
225         }
226     }
227
228     /* Clean up.
229      *
230      * We don't close 'file' because its file descriptor must remain open to
231      * hold the lock. */
232     pidfile_dev = s.st_dev;
233     pidfile_ino = s.st_ino;
234     free(tmpfile);
235     free(pidfile);
236     pidfile = NULL;
237 }
238
239 /* If configured with set_pidfile() or set_detach(), creates the pid file and
240  * detaches from the foreground session.  */
241 void
242 daemonize(void)
243 {
244     daemonize_start();
245     daemonize_complete();
246 }
247
248 /* Forks, then:
249  *
250  *   - In the parent, waits for the child to signal that it has completed its
251  *     startup sequence.  Then stores -1 in '*fdp' and returns the child's pid.
252  *
253  *   - In the child, stores a fd in '*fdp' and returns 0.  The caller should
254  *     pass the fd to fork_notify_startup() after it finishes its startup
255  *     sequence.
256  *
257  * If something goes wrong with the fork, logs a critical error and aborts the
258  * process. */
259 static pid_t
260 fork_and_wait_for_startup(int *fdp)
261 {
262     int fds[2];
263     pid_t pid;
264
265     xpipe(fds);
266
267     pid = fork();
268     if (pid > 0) {
269         /* Running in parent process. */
270         size_t bytes_read;
271         char c;
272
273         close(fds[1]);
274         fatal_signal_fork();
275         if (read_fully(fds[0], &c, 1, &bytes_read) != 0) {
276             int retval;
277             int status;
278
279             do {
280                 retval = waitpid(pid, &status, 0);
281             } while (retval == -1 && errno == EINTR);
282
283             if (retval == pid) {
284                 if (WIFEXITED(status) && WEXITSTATUS(status)) {
285                     /* Child exited with an error.  Convey the same error
286                      * to our parent process as a courtesy. */
287                     exit(WEXITSTATUS(status));
288                 } else {
289                     char *status_msg = process_status_msg(status);
290                     VLOG_FATAL("fork child died before signaling startup (%s)",
291                                status_msg);
292                 }
293             } else if (retval < 0) {
294                 VLOG_FATAL("waitpid failed (%s)", strerror(errno));
295             } else {
296                 NOT_REACHED();
297             }
298         }
299         close(fds[0]);
300         *fdp = -1;
301     } else if (!pid) {
302         /* Running in child process. */
303         close(fds[0]);
304         time_postfork();
305         lockfile_postfork();
306         *fdp = fds[1];
307     } else {
308         VLOG_FATAL("fork failed (%s)", strerror(errno));
309     }
310
311     return pid;
312 }
313
314 static void
315 fork_notify_startup(int fd)
316 {
317     if (fd != -1) {
318         size_t bytes_written;
319         int error;
320
321         error = write_fully(fd, "", 1, &bytes_written);
322         if (error) {
323             VLOG_FATAL("pipe write failed (%s)", strerror(error));
324         }
325
326         close(fd);
327     }
328 }
329
330 static bool
331 should_restart(int status)
332 {
333     if (WIFSIGNALED(status)) {
334         static const int error_signals[] = {
335             SIGABRT, SIGALRM, SIGBUS, SIGFPE, SIGILL, SIGPIPE, SIGSEGV,
336             SIGXCPU, SIGXFSZ
337         };
338
339         size_t i;
340
341         for (i = 0; i < ARRAY_SIZE(error_signals); i++) {
342             if (error_signals[i] == WTERMSIG(status)) {
343                 return true;
344             }
345         }
346     }
347     return false;
348 }
349
350 static void
351 monitor_daemon(pid_t daemon_pid)
352 {
353     /* XXX Should log daemon's stderr output at startup time. */
354     const char *saved_program_name;
355     time_t last_restart;
356     char *status_msg;
357     int crashes;
358
359     saved_program_name = program_name;
360     program_name = xasprintf("monitor(%s)", program_name);
361     status_msg = xstrdup("healthy");
362     last_restart = TIME_MIN;
363     crashes = 0;
364     for (;;) {
365         int retval;
366         int status;
367
368         proctitle_set("%s: monitoring pid %lu (%s)",
369                       saved_program_name, (unsigned long int) daemon_pid,
370                       status_msg);
371
372         do {
373             retval = waitpid(daemon_pid, &status, 0);
374         } while (retval == -1 && errno == EINTR);
375
376         if (retval == -1) {
377             VLOG_FATAL("waitpid failed (%s)", strerror(errno));
378         } else if (retval == daemon_pid) {
379             char *s = process_status_msg(status);
380             if (should_restart(status)) {
381                 free(status_msg);
382                 status_msg = xasprintf("%d crashes: pid %lu died, %s",
383                                        ++crashes,
384                                        (unsigned long int) daemon_pid, s);
385                 free(s);
386
387                 if (WCOREDUMP(status)) {
388                     /* Disable further core dumps to save disk space. */
389                     struct rlimit r;
390
391                     r.rlim_cur = 0;
392                     r.rlim_max = 0;
393                     if (setrlimit(RLIMIT_CORE, &r) == -1) {
394                         VLOG_WARN("failed to disable core dumps: %s",
395                                   strerror(errno));
396                     }
397                 }
398
399                 /* Throttle restarts to no more than once every 10 seconds. */
400                 if (time(NULL) < last_restart + 10) {
401                     VLOG_WARN("%s, waiting until 10 seconds since last "
402                               "restart", status_msg);
403                     for (;;) {
404                         time_t now = time(NULL);
405                         time_t wakeup = last_restart + 10;
406                         if (now >= wakeup) {
407                             break;
408                         }
409                         sleep(wakeup - now);
410                     }
411                 }
412                 last_restart = time(NULL);
413
414                 VLOG_ERR("%s, restarting", status_msg);
415                 daemon_pid = fork_and_wait_for_startup(&daemonize_fd);
416                 if (!daemon_pid) {
417                     break;
418                 }
419             } else {
420                 VLOG_INFO("pid %lu died, %s, exiting",
421                           (unsigned long int) daemon_pid, s);
422                 free(s);
423                 exit(0);
424             }
425         }
426     }
427     free(status_msg);
428
429     /* Running in new daemon process. */
430     proctitle_restore();
431     free((char *) program_name);
432     program_name = saved_program_name;
433 }
434
435 /* Close standard file descriptors (except any that the client has requested we
436  * leave open by calling daemon_save_fd()).  If we're started from e.g. an SSH
437  * session, then this keeps us from holding that session open artificially. */
438 static void
439 close_standard_fds(void)
440 {
441     int null_fd = get_null_fd();
442     if (null_fd >= 0) {
443         int fd;
444
445         for (fd = 0; fd < 3; fd++) {
446             if (!save_fds[fd]) {
447                 dup2(null_fd, fd);
448             }
449         }
450     }
451
452     /* Disable logging to stderr to avoid wasting CPU time. */
453     vlog_set_levels(NULL, VLF_CONSOLE, VLL_OFF);
454 }
455
456 /* If daemonization is configured, then starts daemonization, by forking and
457  * returning in the child process.  The parent process hangs around until the
458  * child lets it know either that it completed startup successfully (by calling
459  * daemon_complete()) or that it failed to start up (by exiting with a nonzero
460  * exit code). */
461 void
462 daemonize_start(void)
463 {
464     daemonize_fd = -1;
465
466     if (detach) {
467         if (fork_and_wait_for_startup(&daemonize_fd) > 0) {
468             /* Running in parent process. */
469             exit(0);
470         }
471         /* Running in daemon or monitor process. */
472     }
473
474     if (monitor) {
475         int saved_daemonize_fd = daemonize_fd;
476         pid_t daemon_pid;
477
478         daemon_pid = fork_and_wait_for_startup(&daemonize_fd);
479         if (daemon_pid > 0) {
480             /* Running in monitor process. */
481             fork_notify_startup(saved_daemonize_fd);
482             close_standard_fds();
483             monitor_daemon(daemon_pid);
484         }
485         /* Running in daemon process. */
486     }
487
488     if (pidfile) {
489         make_pidfile();
490     }
491
492     /* Make sure that the unixctl commands for vlog get registered in a
493      * daemon, even before the first log message. */
494     vlog_init();
495 }
496
497 /* If daemonization is configured, then this function notifies the parent
498  * process that the child process has completed startup successfully.
499  *
500  * Calling this function more than once has no additional effect. */
501 void
502 daemonize_complete(void)
503 {
504     fork_notify_startup(daemonize_fd);
505     daemonize_fd = -1;
506
507     if (detach) {
508         setsid();
509         if (chdir_) {
510             ignore(chdir("/"));
511         }
512         close_standard_fds();
513         detach = false;
514     }
515 }
516
517 void
518 daemon_usage(void)
519 {
520     printf(
521         "\nDaemon options:\n"
522         "  --detach                run in background as daemon\n"
523         "  --no-chdir              do not chdir to '/'\n"
524         "  --pidfile[=FILE]        create pidfile (default: %s/%s.pid)\n"
525         "  --overwrite-pidfile     with --pidfile, start even if already "
526                                    "running\n",
527         ovs_rundir(), program_name);
528 }
529
530 static int
531 lock_pidfile__(FILE *file, int command, struct flock *lck)
532 {
533     int error;
534
535     lck->l_type = F_WRLCK;
536     lck->l_whence = SEEK_SET;
537     lck->l_start = 0;
538     lck->l_len = 0;
539     lck->l_pid = 0;
540
541     do {
542         error = fcntl(fileno(file), command, lck) == -1 ? errno : 0;
543     } while (error == EINTR);
544     return error;
545 }
546
547 static int
548 lock_pidfile(FILE *file, int command)
549 {
550     struct flock lck;
551
552     return lock_pidfile__(file, command, &lck);
553 }
554
555 static pid_t
556 read_pidfile__(const char *pidfile, bool delete_if_stale)
557 {
558     struct stat s, s2;
559     struct flock lck;
560     char line[128];
561     FILE *file;
562     int error;
563
564     if ((pidfile_ino || pidfile_dev)
565         && !stat(pidfile, &s)
566         && s.st_ino == pidfile_ino && s.st_dev == pidfile_dev) {
567         /* It's our own pidfile.  We can't afford to open it, because closing
568          * *any* fd for a file that a process has locked also releases all the
569          * locks on that file.
570          *
571          * Fortunately, we know the associated pid anyhow: */
572         return getpid();
573     }
574
575     file = fopen(pidfile, "r+");
576     if (!file) {
577         if (errno == ENOENT && delete_if_stale) {
578             return 0;
579         }
580         error = errno;
581         VLOG_WARN("%s: open: %s", pidfile, strerror(error));
582         goto error;
583     }
584
585     error = lock_pidfile__(file, F_GETLK, &lck);
586     if (error) {
587         VLOG_WARN("%s: fcntl: %s", pidfile, strerror(error));
588         goto error;
589     }
590     if (lck.l_type == F_UNLCK) {
591         /* pidfile exists but it isn't locked by anyone.  We need to delete it
592          * so that a new pidfile can go in its place.  But just calling
593          * unlink(pidfile) makes a nasty race: what if someone else unlinks it
594          * before we do and then replaces it by a valid pidfile?  We'd unlink
595          * their valid pidfile.  We do a little dance to avoid the race, by
596          * locking the invalid pidfile.  Only one process can have the invalid
597          * pidfile locked, and only that process has the right to unlink it. */
598         if (!delete_if_stale) {
599             error = ESRCH;
600             VLOG_DBG("%s: pid file is stale", pidfile);
601             goto error;
602         }
603
604         /* Get the lock. */
605         error = lock_pidfile(file, F_SETLK);
606         if (error) {
607             /* We lost a race with someone else doing the same thing. */
608             VLOG_WARN("%s: lost race to lock pidfile", pidfile);
609             goto error;
610         }
611
612         /* Is the file we have locked still named 'pidfile'? */
613         if (stat(pidfile, &s) || fstat(fileno(file), &s2)
614             || s.st_ino != s2.st_ino || s.st_dev != s2.st_dev) {
615             /* No.  We lost a race with someone else who got the lock before
616              * us, deleted the pidfile, and closed it (releasing the lock). */
617             error = EALREADY;
618             VLOG_WARN("%s: lost race to delete pidfile", pidfile);
619             goto error;
620         }
621
622         /* We won the right to delete the stale pidfile. */
623         if (unlink(pidfile)) {
624             error = errno;
625             VLOG_WARN("%s: failed to delete stale pidfile (%s)",
626                       pidfile, strerror(error));
627             goto error;
628         }
629         VLOG_DBG("%s: deleted stale pidfile", pidfile);
630         fclose(file);
631         return 0;
632     }
633
634     if (!fgets(line, sizeof line, file)) {
635         if (ferror(file)) {
636             error = errno;
637             VLOG_WARN("%s: read: %s", pidfile, strerror(error));
638         } else {
639             error = ESRCH;
640             VLOG_WARN("%s: read: unexpected end of file", pidfile);
641         }
642         goto error;
643     }
644
645     if (lck.l_pid != strtoul(line, NULL, 10)) {
646         /* The process that has the pidfile locked is not the process that
647          * created it.  It must be stale, with the process that has it locked
648          * preparing to delete it. */
649         error = ESRCH;
650         VLOG_WARN("%s: stale pidfile for pid %s being deleted by pid %ld",
651                   pidfile, line, (long int) lck.l_pid);
652         goto error;
653     }
654
655     fclose(file);
656     return lck.l_pid;
657
658 error:
659     if (file) {
660         fclose(file);
661     }
662     return -error;
663 }
664
665 /* Opens and reads a PID from 'pidfile'.  Returns the positive PID if
666  * successful, otherwise a negative errno value. */
667 pid_t
668 read_pidfile(const char *pidfile)
669 {
670     return read_pidfile__(pidfile, false);
671 }
672
673 /* Checks whether a process with the given 'pidfile' is already running and,
674  * if so, aborts.  If 'pidfile' is stale, deletes it. */
675 static void
676 check_already_running(void)
677 {
678     long int pid = read_pidfile__(pidfile, true);
679     if (pid > 0) {
680         VLOG_FATAL("%s: already running as pid %ld, aborting", pidfile, pid);
681     } else if (pid < 0) {
682         VLOG_FATAL("%s: pidfile check failed (%s), aborting",
683                    pidfile, strerror(-pid));
684     }
685 }