src/main.c

   1 #include "common.h"
   2
   3 extern void *cgroups_main(void *ptr);
   4
   5 void netdata_cleanup_and_exit(int ret) {
   6     netdata_exit = 1;
   7
   8     error_log_limit_unlimited();
   9
  10     debug(D_EXIT, "Called: netdata_cleanup_and_exit()");
  11
  12     // save the database
  13     rrdset_save_all();
  14
  15     // unlink the pid
  16     if(pidfile[0]) {
  17         if(unlink(pidfile) != 0)
  18             error("Cannot unlink pidfile '%s'.", pidfile);
  19     }
  20
  21 #ifdef NETDATA_INTERNAL_CHECKS
  22     // kill all childs
  23     //kill_childs();
  24
  25     // free database
  26     rrdset_free_all();
  27 #endif
  28
  29     info("netdata exiting. Bye bye...");
  30     exit(ret);
  31 }
  32
  33 struct netdata_static_thread static_threads[] = {
  34 #ifdef INTERNAL_PLUGIN_NFACCT
  35 // nfacct requires root access
  36     // so, we build it as an external plugin with setuid to root
  37     {"nfacct",              "plugins",  "nfacct",     1, NULL, NULL, nfacct_main},
  38 #endif
  39
  40     {"tc",                 "plugins",   "tc",         1, NULL, NULL, tc_main},
  41     {"idlejitter",         "plugins",   "idlejitter", 1, NULL, NULL, cpuidlejitter_main},
  42 #if defined(__FreeBSD__)
  43     {"freebsd",            "plugins",   "freebsd",    1, NULL, NULL, freebsd_main},
  44 #elif defined(__APPLE__)
  45     {"macos",              "plugins",   "macos",      1, NULL, NULL, macos_main},
  46 #else
  47     {"proc",               "plugins",   "proc",       1, NULL, NULL, proc_main},
  48     {"diskspace",          "plugins",   "diskspace",  1, NULL, NULL, proc_diskspace_main},
  49     {"cgroups",            "plugins",   "cgroups",    1, NULL, NULL, cgroups_main},
  50 #endif /* __FreeBSD__, __APPLE__*/
  51     {"check",              "plugins",   "checks",     0, NULL, NULL, checks_main},
  52     {"backends",            NULL,       NULL,         1, NULL, NULL, backends_main},
  53     {"health",              NULL,       NULL,         1, NULL, NULL, health_main},
  54     {"plugins.d",           NULL,       NULL,         1, NULL, NULL, pluginsd_main},
  55     {"web",                 NULL,       NULL,         1, NULL, NULL, socket_listen_main_multi_threaded},
  56     {"web-single-threaded", NULL,       NULL,         0, NULL, NULL, socket_listen_main_single_threaded},
  57     {NULL,                  NULL,       NULL,         0, NULL, NULL, NULL}
  58 };
  59
  60 void web_server_threading_selection(void) {
  61     int threaded = config_get_boolean("global", "multi threaded web server", 1);
  62
  63     int i;
  64     for(i = 0; static_threads[i].name ; i++) {
  65         if(static_threads[i].start_routine == socket_listen_main_multi_threaded)
  66             static_threads[i].enabled = threaded?1:0;
  67
  68         if(static_threads[i].start_routine == socket_listen_main_single_threaded)
  69             static_threads[i].enabled = threaded?0:1;
  70     }
  71
  72     web_client_timeout = (int) config_get_number("global", "disconnect idle web clients after seconds", DEFAULT_DISCONNECT_IDLE_WEB_CLIENTS_AFTER_SECONDS);
  73
  74     web_donotrack_comply = config_get_boolean("global", "respect web browser do not track policy", web_donotrack_comply);
  75
  76 #ifdef NETDATA_WITH_ZLIB
  77     web_enable_gzip = config_get_boolean("global", "enable web responses gzip compression", web_enable_gzip);
  78
  79     char *s = config_get("global", "web compression strategy", "default");
  80     if(!strcmp(s, "default"))
  81         web_gzip_strategy = Z_DEFAULT_STRATEGY;
  82     else if(!strcmp(s, "filtered"))
  83         web_gzip_strategy = Z_FILTERED;
  84     else if(!strcmp(s, "huffman only"))
  85         web_gzip_strategy = Z_HUFFMAN_ONLY;
  86     else if(!strcmp(s, "rle"))
  87         web_gzip_strategy = Z_RLE;
  88     else if(!strcmp(s, "fixed"))
  89         web_gzip_strategy = Z_FIXED;
  90     else {
  91         error("Invalid compression strategy '%s'. Valid strategies are 'default', 'filtered', 'huffman only', 'rle' and 'fixed'. Proceeding with 'default'.", s);
  92         web_gzip_strategy = Z_DEFAULT_STRATEGY;
  93     }
  94
  95     web_gzip_level = (int)config_get_number("global", "web compression level", 3);
  96     if(web_gzip_level < 1) {
  97         error("Invalid compression level %d. Valid levels are 1 (fastest) to 9 (best ratio). Proceeding with level 1 (fastest compression).", web_gzip_level);
  98         web_gzip_level = 1;
  99     }
 100     else if(web_gzip_level > 9) {
 101         error("Invalid compression level %d. Valid levels are 1 (fastest) to 9 (best ratio). Proceeding with level 9 (best compression).", web_gzip_level);
 102         web_gzip_level = 9;
 103     }
 104 #endif /* NETDATA_WITH_ZLIB */
 105 }
 106
 107
 108 int killpid(pid_t pid, int sig)
 109 {
 110     int ret = -1;
 111     debug(D_EXIT, "Request to kill pid %d", pid);
 112
 113     errno = 0;
 114     if(kill(pid, 0) == -1) {
 115         switch(errno) {
 116             case ESRCH:
 117                 error("Request to kill pid %d, but it is not running.", pid);
 118                 break;
 119
 120             case EPERM:
 121                 error("Request to kill pid %d, but I do not have enough permissions.", pid);
 122                 break;
 123
 124             default:
 125                 error("Request to kill pid %d, but I received an error.", pid);
 126                 break;
 127         }
 128     }
 129     else {
 130         errno = 0;
 131         ret = kill(pid, sig);
 132         if(ret == -1) {
 133             switch(errno) {
 134                 case ESRCH:
 135                     error("Cannot kill pid %d, but it is not running.", pid);
 136                     break;
 137
 138                 case EPERM:
 139                     error("Cannot kill pid %d, but I do not have enough permissions.", pid);
 140                     break;
 141
 142                 default:
 143                     error("Cannot kill pid %d, but I received an error.", pid);
 144                     break;
 145             }
 146         }
 147     }
 148
 149     return ret;
 150 }
 151
 152 void kill_childs()
 153 {
 154     error_log_limit_unlimited();
 155
 156     siginfo_t info;
 157
 158     struct web_client *w;
 159     for(w = web_clients; w ; w = w->next) {
 160         info("Stopping web client %s", w->client_ip);
 161         pthread_cancel(w->thread);
 162         // it is detached
 163         // pthread_join(w->thread, NULL);
 164
 165         w->obsolete = 1;
 166     }
 167
 168     int i;
 169     for (i = 0; static_threads[i].name != NULL ; i++) {
 170         if(static_threads[i].enabled) {
 171             info("Stopping %s thread", static_threads[i].name);
 172             pthread_cancel(*static_threads[i].thread);
 173             // it is detached
 174             // pthread_join(*static_threads[i].thread, NULL);
 175
 176             static_threads[i].enabled = 0;
 177         }
 178     }
 179
 180     if(tc_child_pid) {
 181         info("Killing tc-qos-helper process %d", tc_child_pid);
 182         if(killpid(tc_child_pid, SIGTERM) != -1)
 183             waitid(P_PID, (id_t) tc_child_pid, &info, WEXITED);
 184
 185         tc_child_pid = 0;
 186     }
 187
 188     struct plugind *cd;
 189     for(cd = pluginsd_root ; cd ; cd = cd->next) {
 190         if(cd->enabled && !cd->obsolete) {
 191             info("Stopping %s plugin thread", cd->id);
 192             pthread_cancel(cd->thread);
 193
 194             if(cd->pid) {
 195                 info("killing %s plugin child process pid %d", cd->id, cd->pid);
 196                 if(killpid(cd->pid, SIGTERM) != -1)
 197                     waitid(P_PID, (id_t) cd->pid, &info, WEXITED);
 198
 199                 cd->pid = 0;
 200             }
 201
 202             cd->obsolete = 1;
 203         }
 204     }
 205
 206     // if, for any reason there is any child exited
 207     // catch it here
 208     info("Cleaning up an other children");
 209     waitid(P_PID, 0, &info, WEXITED|WNOHANG);
 210
 211     info("All threads/childs stopped.");
 212 }
 213
 214 struct option_def options[] = {
 215     // opt description                                    arg name       default value
 216     { 'c', "Configuration file to load.",                 "filename",    CONFIG_DIR "/" CONFIG_FILENAME},
 217     { 'D', "Do not fork. Run in the foreground.",         NULL,          "run in the background"},
 218     { 'h', "Display this help message.",                  NULL,          NULL},
 219     { 'P', "File to save a pid while running.",           "filename",    "do not save pid to a file"},
 220     { 'i', "The IP address to listen to.",                "IP",          "all IP addresses IPv4 and IPv6"},
 221     { 'k', "Check health configuration and exit.",        NULL,          NULL},
 222     { 'p', "API/Web port to use.",                        "port",        "19999"},
 223     { 's', "Prefix for /proc and /sys (for containers).", "path",        "no prefix"},
 224     { 't', "The internal clock of netdata.",              "seconds",     "1"},
 225     { 'u', "Run as user.",                                "username",    "netdata"},
 226     { 'v', "Print netdata version and exit.",             NULL,          NULL},
 227     { 'W', "See Advanced options below.",                 "options",     NULL},
 228 };
 229
 230 void help(int exitcode) {
 231     FILE *stream;
 232     if(exitcode == 0)
 233         stream = stdout;
 234     else
 235         stream = stderr;
 236
 237     int num_opts = sizeof(options) / sizeof(struct option_def);
 238     int i;
 239     int max_len_arg = 0;
 240
 241     // Compute maximum argument length
 242     for( i = 0; i < num_opts; i++ ) {
 243         if(options[i].arg_name) {
 244             int len_arg = (int)strlen(options[i].arg_name);
 245             if(len_arg > max_len_arg) max_len_arg = len_arg;
 246         }
 247     }
 248
 249     if(max_len_arg > 30) max_len_arg = 30;
 250     if(max_len_arg < 20) max_len_arg = 20;
 251
 252     fprintf(stream, "%s", "\n"
 253             " ^\n"
 254             " |.-.   .-.   .-.   .-.   .  netdata                                         \n"
 255             " |   '-'   '-'   '-'   '-'   real-time performance monitoring, done right!   \n"
 256             " +----+-----+-----+-----+-----+-----+-----+-----+-----+-----+-----+-----+--->\n"
 257             "\n"
 258             " Copyright (C) 2016-2017, Costa Tsaousis <costa@tsaousis.gr>\n"
 259             " Released under GNU General Public License v3 or later.\n"
 260             " All rights reserved.\n"
 261             "\n"
 262             " Home Page  : https://my-netdata.io\n"
 263             " Source Code: https://github.com/firehol/netdata\n"
 264             " Wiki / Docs: https://github.com/firehol/netdata/wiki\n"
 265             " Support    : https://github.com/firehol/netdata/issues\n"
 266             " License    : https://github.com/firehol/netdata/blob/master/LICENSE.md\n"
 267             "\n"
 268             " Twitter    : https://twitter.com/linuxnetdata\n"
 269             " Facebook   : https://www.facebook.com/linuxnetdata/\n"
 270             "\n"
 271             " netdata is a https://firehol.org project.\n"
 272             "\n"
 273             "\n"
 274     );
 275
 276     fprintf(stream, " SYNOPSIS: netdata [options]\n");
 277     fprintf(stream, "\n");
 278     fprintf(stream, " Options:\n\n");
 279
 280     // Output options description.
 281     for( i = 0; i < num_opts; i++ ) {
 282         fprintf(stream, "  -%c %-*s  %s", options[i].val, max_len_arg, options[i].arg_name ? options[i].arg_name : "", options[i].description);
 283         if(options[i].default_value) {
 284             fprintf(stream, "\n   %c %-*s  Default: %s\n", ' ', max_len_arg, "", options[i].default_value);
 285         } else {
 286             fprintf(stream, "\n");
 287         }
 288         fprintf(stream, "\n");
 289     }
 290
 291     fprintf(stream, "\n Advanced options:\n\n"
 292             "  -W stacksize=N           Set the stacksize (in bytes).\n\n"
 293             "  -W debug_flags=N         Set runtime tracing to debug.log.\n\n"
 294             "  -W unittest              Run internal unittests and exit.\n\n"
 295             "  -W simple-pattern pattern string\n"
 296             "                           Check if string matches pattern and exit.\n\n"
 297     );
 298
 299     fprintf(stream, "\n Signals netdata handles:\n\n"
 300             "  - HUP                    Close and reopen log files.\n"
 301             "  - USR1                   Save internal DB to disk.\n"
 302             "  - USR2                   Reload health configuration.\n"
 303             "\n"
 304     );
 305
 306     fflush(stream);
 307     exit(exitcode);
 308 }
 309
 310 // TODO: Remove this function with the nix major release.
 311 void remove_option(int opt_index, int *argc, char **argv) {
 312     int i = opt_index;
 313     // remove the options.
 314     do {
 315         *argc = *argc - 1;
 316         for(i = opt_index; i < *argc; i++) {
 317             argv[i] = argv[i+1];
 318         }
 319         i = opt_index;
 320     } while(argv[i][0] != '-' && opt_index >= *argc);
 321 }
 322
 323 static const char *verify_required_directory(const char *dir) {
 324     if(chdir(dir) == -1)
 325         fatal("Cannot cd to directory '%s'", dir);
 326
 327     DIR *d = opendir(dir);
 328     if(!d)
 329         fatal("Cannot examine the contents of directory '%s'", dir);
 330     closedir(d);
 331
 332     return dir;
 333 }
 334
 335 int main(int argc, char **argv)
 336 {
 337     char *hostname = "localhost";
 338     int i, check_config = 0;
 339     int config_loaded = 0;
 340     int dont_fork = 0;
 341     size_t wanted_stacksize = 0, stacksize = 0;
 342     pthread_attr_t attr;
 343
 344     // set the name for logging
 345     program_name = "netdata";
 346
 347     // parse depercated options
 348     // TODO: Remove this block with the next major release.
 349     {
 350         i = 1;
 351         while(i < argc) {
 352             if(strcmp(argv[i], "-pidfile") == 0 && (i+1) < argc) {
 353                 strncpyz(pidfile, argv[i+1], FILENAME_MAX);
 354                 fprintf(stderr, "%s: deprecated option -- %s -- please use -P instead.\n", argv[0], argv[i]);
 355                 remove_option(i, &argc, argv);
 356             }
 357             else if(strcmp(argv[i], "-nodaemon") == 0 || strcmp(argv[i], "-nd") == 0) {
 358                 dont_fork = 1;
 359                 fprintf(stderr, "%s: deprecated option -- %s -- please use -D instead.\n ", argv[0], argv[i]);
 360                 remove_option(i, &argc, argv);
 361             }
 362             else if(strcmp(argv[i], "-ch") == 0 && (i+1) < argc) {
 363                 config_set("global", "host access prefix", argv[i+1]);
 364                 fprintf(stderr, "%s: deprecated option -- %s -- please use -s instead.\n", argv[0], argv[i]);
 365                 remove_option(i, &argc, argv);
 366             }
 367             else if(strcmp(argv[i], "-l") == 0 && (i+1) < argc) {
 368                 config_set("global", "history", argv[i+1]);
 369                 fprintf(stderr, "%s: deprecated option -- %s -- This option will be removed with V2.*.\n", argv[0], argv[i]);
 370                 remove_option(i, &argc, argv);
 371             }
 372             else i++;
 373         }
 374     }
 375
 376     // parse options
 377     {
 378         int num_opts = sizeof(options) / sizeof(struct option_def);
 379         char optstring[(num_opts * 2) + 1];
 380
 381         int string_i = 0;
 382         for( i = 0; i < num_opts; i++ ) {
 383             optstring[string_i] = options[i].val;
 384             string_i++;
 385             if(options[i].arg_name) {
 386                 optstring[string_i] = ':';
 387                 string_i++;
 388             }
 389         }
 390         // terminate optstring
 391         optstring[string_i] ='\0';
 392         optstring[(num_opts *2)] ='\0';
 393
 394         int opt;
 395         while( (opt = getopt(argc, argv, optstring)) != -1 ) {
 396             switch(opt) {
 397                 case 'c':
 398                     if(load_config(optarg, 1) != 1) {
 399                         error("Cannot load configuration file %s.", optarg);
 400                         exit(1);
 401                     }
 402                     else {
 403                         debug(D_OPTIONS, "Configuration loaded from %s.", optarg);
 404                         config_loaded = 1;
 405                     }
 406                     break;
 407                 case 'D':
 408                     dont_fork = 1;
 409                     break;
 410                 case 'h':
 411                     help(0);
 412                     break;
 413                 case 'i':
 414                     config_set("global", "bind to", optarg);
 415                     break;
 416                 case 'k':
 417                     dont_fork = 1;
 418                     check_config = 1;
 419                     break;
 420                 case 'P':
 421                     strncpy(pidfile, optarg, FILENAME_MAX);
 422                     pidfile[FILENAME_MAX] = '\0';
 423                     break;
 424                 case 'p':
 425                     config_set("global", "default port", optarg);
 426                     break;
 427                 case 's':
 428                     config_set("global", "host access prefix", optarg);
 429                     break;
 430                 case 't':
 431                     config_set("global", "update every", optarg);
 432                     break;
 433                 case 'u':
 434                     config_set("global", "run as user", optarg);
 435                     break;
 436                 case 'v':
 437                     printf("%s %s\n", program_name, program_version);
 438                     return 0;
 439                 case 'W':
 440                     {
 441                         char* stacksize_string = "stacksize=";
 442                         char* debug_flags_string = "debug_flags=";
 443                         if(strcmp(optarg, "unittest") == 0) {
 444                             rrd_update_every = 1;
 445                             if(run_all_mockup_tests()) exit(1);
 446                             if(unit_test_storage()) exit(1);
 447                             fprintf(stderr, "\n\nALL TESTS PASSED\n\n");
 448                             exit(0);
 449                         }
 450                         else if(strcmp(optarg, "simple-pattern") == 0) {
 451                             if(optind + 2 > argc) {
 452                                 fprintf(stderr, "%s", "\nUSAGE: -W simple-pattern 'pattern' 'string'\n\n"
 453                                         " Checks if 'pattern' matches the given 'string'.\n"
 454                                         " - 'pattern' can be one or more space separated words.\n"
 455                                         " - each 'word' can contain one or more asterisks.\n"
 456                                         " - words starting with '!' give negative matches.\n"
 457                                         " - words are processed left to right\n"
 458                                         "\n"
 459                                         "Examples:\n"
 460                                         "\n"
 461                                         " > match all veth interfaces, except veth0:\n"
 462                                         "\n"
 463                                         "   -W simple-pattern '!veth0 veth*' 'veth12'\n"
 464                                         "\n"
 465                                         "\n"
 466                                         " > match all *.ext files directly in /path/:\n"
 467                                         "   (this will not match *.ext files in a subdir of /path/)\n"
 468                                         "\n"
 469                                         "   -W simple-pattern '!/path/*/*.ext /path/*.ext' '/path/test.ext'\n"
 470                                         "\n"
 471                                 );
 472                                 exit(1);
 473                             }
 474
 475                             const char *heystack = argv[optind];
 476                             const char *needle = argv[optind + 1];
 477
 478                             SIMPLE_PATTERN *p = simple_pattern_create(heystack
 479                                                                       , SIMPLE_PATTERN_EXACT);
 480                             int ret = simple_pattern_matches(p, needle);
 481                             simple_pattern_free(p);
 482
 483                             if(ret) {
 484                                 fprintf(stdout, "RESULT: MATCHED - pattern '%s' matches '%s'\n", heystack, needle);
 485                                 exit(0);
 486                             }
 487                             else {
 488                                 fprintf(stdout, "RESULT: NOT MATCHED - pattern '%s' does not match '%s'\n", heystack, needle);
 489                                 exit(1);
 490                             }
 491                         }
 492                         else if(strncmp(optarg, stacksize_string, strlen(stacksize_string)) == 0) {
 493                             optarg += strlen(stacksize_string);
 494                             config_set("global", "pthread stack size", optarg);
 495                         }
 496                         else if(strncmp(optarg, debug_flags_string, strlen(debug_flags_string)) == 0) {
 497                             optarg += strlen(debug_flags_string);
 498                             config_set("global", "debug flags",  optarg);
 499                             debug_flags = strtoull(optarg, NULL, 0);
 500                         }
 501                     }
 502                     break;
 503                 default: /* ? */
 504                     help(1);
 505                     break;
 506             }
 507         }
 508     }
 509
 510     if(!config_loaded)
 511         load_config(NULL, 0);
 512
 513     {
 514         char *pmax = config_get("global", "glibc malloc arena max for plugins", "1");
 515         if(pmax && *pmax)
 516             setenv("MALLOC_ARENA_MAX", pmax, 1);
 517
 518 #if defined(HAVE_C_MALLOPT)
 519         int i = config_get_number("global", "glibc malloc arena max for netdata", 1);
 520         if(i > 0)
 521             mallopt(M_ARENA_MAX, 1);
 522 #endif
 523
 524         char *config_dir = config_get("global", "config directory", CONFIG_DIR);
 525
 526         // prepare configuration environment variables for the plugins
 527         setenv("NETDATA_CONFIG_DIR" , verify_required_directory(config_dir) , 1);
 528         setenv("NETDATA_PLUGINS_DIR", verify_required_directory(config_get("global", "plugins directory"  , PLUGINS_DIR)), 1);
 529         setenv("NETDATA_WEB_DIR"    , verify_required_directory(config_get("global", "web files directory", WEB_DIR))    , 1);
 530         setenv("NETDATA_CACHE_DIR"  , verify_required_directory(config_get("global", "cache directory"    , CACHE_DIR))  , 1);
 531         setenv("NETDATA_LIB_DIR"    , verify_required_directory(config_get("global", "lib directory"      , VARLIB_DIR)) , 1);
 532         setenv("NETDATA_LOG_DIR"    , verify_required_directory(config_get("global", "log directory"      , LOG_DIR))    , 1);
 533
 534         setenv("NETDATA_HOST_PREFIX", config_get("global", "host access prefix" , "")         , 1);
 535         setenv("HOME"               , config_get("global", "home directory"     , CACHE_DIR)  , 1);
 536
 537         // disable buffering for python plugins
 538         setenv("PYTHONUNBUFFERED", "1", 1);
 539
 540         // avoid flood calls to stat(/etc/localtime)
 541         // http://stackoverflow.com/questions/4554271/how-to-avoid-excessive-stat-etc-localtime-calls-in-strftime-on-linux
 542         setenv("TZ", ":/etc/localtime", 0);
 543
 544         // work while we are cd into config_dir
 545         // to allow the plugins refer to their config
 546         // files using relative filenames
 547         if(chdir(config_dir) == -1)
 548             fatal("Cannot cd to '%s'", config_dir);
 549
 550         char path[1024 + 1], *p = getenv("PATH");
 551         if(!p) p = "/bin:/usr/bin";
 552         snprintfz(path, 1024, "%s:%s", p, "/sbin:/usr/sbin:/usr/local/bin:/usr/local/sbin");
 553         setenv("PATH", config_get("plugins", "PATH environment variable", path), 1);
 554
 555         p = getenv("PYTHONPATH");
 556         if(!p) p = "";
 557         setenv("PYTHONPATH", config_get("plugins", "PYTHONPATH environment variable", p), 1);
 558     }
 559
 560     char *user = NULL;
 561     {
 562         char *flags = config_get("global", "debug flags",  "0x00000000");
 563         setenv("NETDATA_DEBUG_FLAGS", flags, 1);
 564
 565         debug_flags = strtoull(flags, NULL, 0);
 566         debug(D_OPTIONS, "Debug flags set to '0x%8llx'.", debug_flags);
 567
 568         if(debug_flags != 0) {
 569             struct rlimit rl = { RLIM_INFINITY, RLIM_INFINITY };
 570             if(setrlimit(RLIMIT_CORE, &rl) != 0)
 571                 error("Cannot request unlimited core dumps for debugging... Proceeding anyway...");
 572
 573 #ifdef HAVE_SYS_PRCTL_H
 574             prctl(PR_SET_DUMPABLE, 1, 0, 0, 0);
 575 #endif
 576         }
 577
 578         // --------------------------------------------------------------------
 579
 580 #ifdef MADV_MERGEABLE
 581         enable_ksm = config_get_boolean("global", "memory deduplication (ksm)", enable_ksm);
 582 #else
 583 #warning "Kernel memory deduplication (KSM) is not available"
 584 #endif
 585
 586         // --------------------------------------------------------------------
 587
 588         global_host_prefix = config_get("global", "host access prefix", "");
 589         setenv("NETDATA_HOST_PREFIX", global_host_prefix, 1);
 590
 591         get_system_HZ();
 592         get_system_cpus();
 593         get_system_pid_max();
 594
 595         // --------------------------------------------------------------------
 596
 597         stdout_filename    = config_get("global", "debug log",  LOG_DIR "/debug.log");
 598         stderr_filename    = config_get("global", "error log",  LOG_DIR "/error.log");
 599         stdaccess_filename = config_get("global", "access log", LOG_DIR "/access.log");
 600
 601         error_log_throttle_period_backup =
 602             error_log_throttle_period = config_get_number("global", "errors flood protection period", error_log_throttle_period);
 603         setenv("NETDATA_ERRORS_THROTTLE_PERIOD", config_get("global", "errors flood protection period"    , ""), 1);
 604
 605         error_log_errors_per_period = (unsigned long)config_get_number("global", "errors to trigger flood protection", error_log_errors_per_period);
 606         setenv("NETDATA_ERRORS_PER_PERIOD"     , config_get("global", "errors to trigger flood protection", ""), 1);
 607
 608         if(check_config) {
 609             stdout_filename = stderr_filename = stdaccess_filename = "system";
 610             error_log_throttle_period = 0;
 611             error_log_errors_per_period = 0;
 612         }
 613         error_log_limit_unlimited();
 614
 615         // --------------------------------------------------------------------
 616
 617         rrd_memory_mode = rrd_memory_mode_id(config_get("global", "memory mode", rrd_memory_mode_name(rrd_memory_mode)));
 618
 619         // --------------------------------------------------------------------
 620
 621         {
 622             char hostnamebuf[HOSTNAME_MAX + 1];
 623             if(gethostname(hostnamebuf, HOSTNAME_MAX) == -1)
 624                 error("WARNING: Cannot get machine hostname.");
 625             hostname = config_get("global", "hostname", hostnamebuf);
 626             debug(D_OPTIONS, "hostname set to '%s'", hostname);
 627             setenv("NETDATA_HOSTNAME", hostname, 1);
 628         }
 629
 630         // --------------------------------------------------------------------
 631
 632         rrd_default_history_entries = (int) config_get_number("global", "history", RRD_DEFAULT_HISTORY_ENTRIES);
 633         if(rrd_default_history_entries < 5 || rrd_default_history_entries > RRD_HISTORY_ENTRIES_MAX) {
 634             error("Invalid history entries %d given. Defaulting to %d.", rrd_default_history_entries, RRD_DEFAULT_HISTORY_ENTRIES);
 635             rrd_default_history_entries = RRD_DEFAULT_HISTORY_ENTRIES;
 636         }
 637         else {
 638             debug(D_OPTIONS, "save lines set to %d.", rrd_default_history_entries);
 639         }
 640
 641         // --------------------------------------------------------------------
 642
 643         rrd_update_every = (int) config_get_number("global", "update every", UPDATE_EVERY);
 644         if(rrd_update_every < 1 || rrd_update_every > 600) {
 645             error("Invalid data collection frequency (update every) %d given. Defaulting to %d.", rrd_update_every, UPDATE_EVERY_MAX);
 646             rrd_update_every = UPDATE_EVERY;
 647         }
 648         else debug(D_OPTIONS, "update timer set to %d.", rrd_update_every);
 649
 650         // let the plugins know the min update_every
 651         {
 652             char buf[16];
 653             snprintfz(buf, 15, "%d", rrd_update_every);
 654             setenv("NETDATA_UPDATE_EVERY", buf, 1);
 655         }
 656
 657         // --------------------------------------------------------------------
 658
 659         // block signals while initializing threads.
 660         // this causes the threads to block signals.
 661         sigset_t sigset;
 662         sigfillset(&sigset);
 663         if(pthread_sigmask(SIG_BLOCK, &sigset, NULL) == -1)
 664             error("Could not block signals for threads");
 665
 666         // Catch signals which we want to use
 667         struct sigaction sa;
 668         sa.sa_flags = 0;
 669
 670         // ingore all signals while we run in a signal handler
 671         sigfillset(&sa.sa_mask);
 672
 673         // INFO: If we add signals here we have to unblock them
 674         // at popen.c when running a external plugin.
 675
 676         // Ignore SIGPIPE completely.
 677         sa.sa_handler = SIG_IGN;
 678         if(sigaction(SIGPIPE, &sa, NULL) == -1)
 679             error("Failed to change signal handler for SIGPIPE");
 680
 681         sa.sa_handler = sig_handler_exit;
 682         if(sigaction(SIGINT, &sa, NULL) == -1)
 683             error("Failed to change signal handler for SIGINT");
 684
 685         sa.sa_handler = sig_handler_exit;
 686         if(sigaction(SIGTERM, &sa, NULL) == -1)
 687             error("Failed to change signal handler for SIGTERM");
 688
 689         sa.sa_handler = sig_handler_logrotate;
 690         if(sigaction(SIGHUP, &sa, NULL) == -1)
 691             error("Failed to change signal handler for SIGHUP");
 692
 693         // save database on SIGUSR1
 694         sa.sa_handler = sig_handler_save;
 695         if(sigaction(SIGUSR1, &sa, NULL) == -1)
 696             error("Failed to change signal handler for SIGUSR1");
 697
 698         // reload health configuration on SIGUSR2
 699         sa.sa_handler = sig_handler_reload_health;
 700         if(sigaction(SIGUSR2, &sa, NULL) == -1)
 701             error("Failed to change signal handler for SIGUSR2");
 702
 703         // --------------------------------------------------------------------
 704
 705         i = pthread_attr_init(&attr);
 706         if(i != 0)
 707             fatal("pthread_attr_init() failed with code %d.", i);
 708
 709         i = pthread_attr_getstacksize(&attr, &stacksize);
 710         if(i != 0)
 711             fatal("pthread_attr_getstacksize() failed with code %d.", i);
 712         else
 713             debug(D_OPTIONS, "initial pthread stack size is %zu bytes", stacksize);
 714
 715         wanted_stacksize = (size_t)config_get_number("global", "pthread stack size", (long)stacksize);
 716
 717         // --------------------------------------------------------------------
 718
 719         for (i = 0; static_threads[i].name != NULL ; i++) {
 720             struct netdata_static_thread *st = &static_threads[i];
 721
 722             if(st->config_name) st->enabled = config_get_boolean(st->config_section, st->config_name, st->enabled);
 723             if(st->enabled && st->init_routine) st->init_routine();
 724         }
 725
 726         // --------------------------------------------------------------------
 727
 728         // get the user we should run
 729         // IMPORTANT: this is required before web_files_uid()
 730         user = config_get("global", "run as user"    , (getuid() == 0)?NETDATA_USER:"");
 731
 732         // IMPORTANT: these have to run once, while single threaded
 733         web_files_uid(); // IMPORTANT: web_files_uid() before web_files_gid()
 734         web_files_gid();
 735
 736         // --------------------------------------------------------------------
 737
 738         if(!check_config)
 739             create_listen_sockets();
 740     }
 741
 742     // initialize the log files
 743     open_all_log_files();
 744
 745 #ifdef NETDATA_INTERNAL_CHECKS
 746     if(debug_flags != 0) {
 747         struct rlimit rl = { RLIM_INFINITY, RLIM_INFINITY };
 748         if(setrlimit(RLIMIT_CORE, &rl) != 0)
 749             error("Cannot request unlimited core dumps for debugging... Proceeding anyway...");
 750 #ifdef HAVE_SYS_PRCTL_H
 751         prctl(PR_SET_DUMPABLE, 1, 0, 0, 0);
 752 #endif
 753     }
 754 #endif /* NETDATA_INTERNAL_CHECKS */
 755
 756     // fork, switch user, create pid file, set process priority
 757     if(become_daemon(dont_fork, user) == -1)
 758         fatal("Cannot daemonize myself.");
 759
 760     info("netdata started on pid %d.", getpid());
 761
 762     // ------------------------------------------------------------------------
 763     // get default pthread stack size
 764
 765     if(stacksize < wanted_stacksize) {
 766         i = pthread_attr_setstacksize(&attr, wanted_stacksize);
 767         if(i != 0)
 768             fatal("pthread_attr_setstacksize() to %zu bytes, failed with code %d.", wanted_stacksize, i);
 769         else
 770             debug(D_SYSTEM, "Successfully set pthread stacksize to %zu bytes", wanted_stacksize);
 771     }
 772
 773     // ------------------------------------------------------------------------
 774     // initialize rrd host
 775
 776     rrdhost_init(hostname);
 777
 778     // ------------------------------------------------------------------------
 779     // initialize the registry
 780
 781     registry_init();
 782
 783     // ------------------------------------------------------------------------
 784     // initialize health monitoring
 785
 786     health_init();
 787
 788     if(check_config)
 789         exit(1);
 790
 791     // ------------------------------------------------------------------------
 792     // enable log flood protection
 793
 794     error_log_limit_reset();
 795
 796     // ------------------------------------------------------------------------
 797     // spawn the threads
 798
 799     web_server_threading_selection();
 800
 801     for (i = 0; static_threads[i].name != NULL ; i++) {
 802         struct netdata_static_thread *st = &static_threads[i];
 803
 804         if(st->enabled) {
 805             st->thread = mallocz(sizeof(pthread_t));
 806
 807             debug(D_SYSTEM, "Starting thread %s.", st->name);
 808
 809             if(pthread_create(st->thread, &attr, st->start_routine, st))
 810                 error("failed to create new thread for %s.", st->name);
 811
 812             else if(pthread_detach(*st->thread))
 813                 error("Cannot request detach of newly created %s thread.", st->name);
 814         }
 815         else debug(D_SYSTEM, "Not starting thread %s.", st->name);
 816     }
 817
 818     info("netdata initialization completed. Enjoy real-time performance monitoring!");
 819
 820     // ------------------------------------------------------------------------
 821     // block signals while initializing threads.
 822     sigset_t sigset;
 823     sigfillset(&sigset);
 824
 825     if(pthread_sigmask(SIG_UNBLOCK, &sigset, NULL) == -1) {
 826         error("Could not unblock signals for threads");
 827     }
 828
 829     // Handle flags set in the signal handler.
 830     while(1) {
 831         pause();
 832         if(netdata_exit) {
 833             debug(D_EXIT, "Exit main loop of netdata.");
 834             netdata_cleanup_and_exit(0);
 835             exit(0);
 836         }
 837     }
 838 }