]> arthur.barton.de Git - netdata.git/blobdiff - src/main.c
Merge branch 'master' into ab-debian
[netdata.git] / src / main.c
index d8381adba604868a8ec2fcdbb9dc79463d3a27b3..a72585e28377a1157bcae85459bc73176b14d8d3 100644 (file)
@@ -35,44 +35,35 @@ struct netdata_static_thread static_threads[] = {
 #ifdef INTERNAL_PLUGIN_NFACCT
 // nfacct requires root access
     // so, we build it as an external plugin with setuid to root
-    {"nfacct",              "plugins",  "nfacct",     1, NULL, NULL, nfacct_main},
+    {"nfacct",              CONFIG_SECTION_PLUGINS,  "nfacct",     1, NULL, NULL, nfacct_main},
 #endif
 
-    {"tc",                 "plugins",   "tc",         1, NULL, NULL, tc_main},
-    {"idlejitter",         "plugins",   "idlejitter", 1, NULL, NULL, cpuidlejitter_main},
+    {"tc",                  CONFIG_SECTION_PLUGINS,  "tc",         1, NULL, NULL, tc_main},
+    {"idlejitter",          CONFIG_SECTION_PLUGINS,  "idlejitter", 1, NULL, NULL, cpuidlejitter_main},
 #if defined(__FreeBSD__)
-    {"freebsd",            "plugins",   "freebsd",    1, NULL, NULL, freebsd_main},
+    {"freebsd",             CONFIG_SECTION_PLUGINS,  "freebsd",    1, NULL, NULL, freebsd_main},
 #elif defined(__APPLE__)
-    {"macos",              "plugins",   "macos",      1, NULL, NULL, macos_main},
+    {"macos",               CONFIG_SECTION_PLUGINS,  "macos",      1, NULL, NULL, macos_main},
 #else
-    {"proc",               "plugins",   "proc",       1, NULL, NULL, proc_main},
-    {"diskspace",          "plugins",   "diskspace",  1, NULL, NULL, proc_diskspace_main},
-    {"cgroups",            "plugins",   "cgroups",    1, NULL, NULL, cgroups_main},
+    {"proc",                CONFIG_SECTION_PLUGINS,  "proc",       1, NULL, NULL, proc_main},
+    {"diskspace",           CONFIG_SECTION_PLUGINS,  "diskspace",  1, NULL, NULL, proc_diskspace_main},
+    {"cgroups",             CONFIG_SECTION_PLUGINS,  "cgroups",    1, NULL, NULL, cgroups_main},
 #endif /* __FreeBSD__, __APPLE__*/
-    {"check",              "plugins",   "checks",     0, NULL, NULL, checks_main},
-    {"backends",            NULL,       NULL,         1, NULL, NULL, backends_main},
-    {"health",              NULL,       NULL,         1, NULL, NULL, health_main},
-    {"plugins.d",           NULL,       NULL,         1, NULL, NULL, pluginsd_main},
-    {"web",                 NULL,       NULL,         1, NULL, NULL, socket_listen_main_multi_threaded},
-    {"web-single-threaded", NULL,       NULL,         0, NULL, NULL, socket_listen_main_single_threaded},
-    {"central-netdata-push",NULL,       NULL,         0, NULL, NULL, rrdpush_sender_thread},
-    {NULL,                  NULL,       NULL,         0, NULL, NULL, NULL}
+    {"check",               CONFIG_SECTION_PLUGINS,  "checks",     0, NULL, NULL, checks_main},
+    {"backends",            NULL,                    NULL,         1, NULL, NULL, backends_main},
+    {"health",              NULL,                    NULL,         1, NULL, NULL, health_main},
+    {"plugins.d",           NULL,                    NULL,         1, NULL, NULL, pluginsd_main},
+    {"web",                 NULL,                    NULL,         1, NULL, NULL, socket_listen_main_multi_threaded},
+    {"web-single-threaded", NULL,                    NULL,         0, NULL, NULL, socket_listen_main_single_threaded},
+    {"push-metrics",        NULL,                    NULL,         0, NULL, NULL, rrdpush_sender_thread},
+    {NULL,                  NULL,                    NULL,         0, NULL, NULL, NULL}
 };
 
 void web_server_threading_selection(void) {
-    int multi_threaded = 0;
-    int single_threaded = 0;
-    int rrdpush_thread = 1;
-    int backends_thread = 1;
-
-    if(rrdpush_exclusive) {
-        backends_thread = 0;
-        info("Web servers and backends thread are disabled - use the central netdata.");
-    }
-    else {
-        multi_threaded = config_get_boolean("global", "multi threaded web server", 1);
-        single_threaded = !multi_threaded;
-    }
+    web_server_mode = web_server_mode_id(config_get(CONFIG_SECTION_WEB, "mode", web_server_mode_name(web_server_mode)));
+
+    int multi_threaded = (web_server_mode == WEB_SERVER_MODE_MULTI_THREADED);
+    int single_threaded = (web_server_mode == WEB_SERVER_MODE_SINGLE_THREADED);
 
     int i;
     for(i = 0; static_threads[i].name ; i++) {
@@ -81,27 +72,18 @@ void web_server_threading_selection(void) {
 
         if(static_threads[i].start_routine == socket_listen_main_single_threaded)
             static_threads[i].enabled = single_threaded;
-
-        if(static_threads[i].start_routine == rrdpush_sender_thread)
-            static_threads[i].enabled = rrdpush_thread;
-
-        if(static_threads[i].start_routine == backends_main)
-            static_threads[i].enabled = backends_thread;
     }
 
-    if(rrdpush_exclusive)
-        return;
-
-    web_client_timeout = (int) config_get_number("global", "disconnect idle web clients after seconds", DEFAULT_DISCONNECT_IDLE_WEB_CLIENTS_AFTER_SECONDS);
+    web_client_timeout = (int) config_get_number(CONFIG_SECTION_WEB, "disconnect idle clients after seconds", DEFAULT_DISCONNECT_IDLE_WEB_CLIENTS_AFTER_SECONDS);
 
-    respect_web_browser_do_not_track_policy = config_get_boolean("global", "respect web browser do not track policy", respect_web_browser_do_not_track_policy);
-    web_x_frame_options = config_get("global", "web x-frame-options header", "");
+    respect_web_browser_do_not_track_policy = config_get_boolean(CONFIG_SECTION_WEB, "respect do not track policy", respect_web_browser_do_not_track_policy);
+    web_x_frame_options = config_get(CONFIG_SECTION_WEB, "x-frame-options response header", "");
     if(!*web_x_frame_options) web_x_frame_options = NULL;
 
 #ifdef NETDATA_WITH_ZLIB
-    web_enable_gzip = config_get_boolean("global", "enable web responses gzip compression", web_enable_gzip);
+    web_enable_gzip = config_get_boolean(CONFIG_SECTION_WEB, "enable gzip compression", web_enable_gzip);
 
-    char *s = config_get("global", "web compression strategy", "default");
+    char *s = config_get(CONFIG_SECTION_WEB, "gzip compression strategy", "default");
     if(!strcmp(s, "default"))
         web_gzip_strategy = Z_DEFAULT_STRATEGY;
     else if(!strcmp(s, "filtered"))
@@ -117,7 +99,7 @@ void web_server_threading_selection(void) {
         web_gzip_strategy = Z_DEFAULT_STRATEGY;
     }
 
-    web_gzip_level = (int)config_get_number("global", "web compression level", 3);
+    web_gzip_level = (int)config_get_number(CONFIG_SECTION_WEB, "gzip compression level", 3);
     if(web_gzip_level < 1) {
         error("Invalid compression level %d. Valid levels are 1 (fastest) to 9 (best ratio). Proceeding with level 1 (fastest compression).", web_gzip_level);
         web_gzip_level = 1;
@@ -243,12 +225,12 @@ struct option_def options[] = {
     { 'h', "Display this help message.",                  NULL,          NULL},
     { 'P', "File to save a pid while running.",           "filename",    "do not save pid to a file"},
     { 'i', "The IP address to listen to.",                "IP",          "all IP addresses IPv4 and IPv6"},
-    { 'k', "Check health configuration and exit.",        NULL,          NULL},
     { 'p', "API/Web port to use.",                        "port",        "19999"},
     { 's', "Prefix for /proc and /sys (for containers).", "path",        "no prefix"},
     { 't', "The internal clock of netdata.",              "seconds",     "1"},
     { 'u', "Run as user.",                                "username",    "netdata"},
     { 'v', "Print netdata version and exit.",             NULL,          NULL},
+    { 'V', "Print netdata version and exit.",             NULL,          NULL},
     { 'W', "See Advanced options below.",                 "options",     NULL},
 };
 
@@ -357,19 +339,191 @@ static const char *verify_required_directory(const char *dir) {
     return dir;
 }
 
-static void get_netdata_configured_directories() {
-    netdata_configured_config_dir  = config_get("global", "config directory",    CONFIG_DIR);
-    netdata_configured_log_dir     = config_get("global", "log directory",       LOG_DIR);
-    netdata_configured_plugins_dir = config_get("global", "plugins directory",   PLUGINS_DIR);
-    netdata_configured_web_dir     = config_get("global", "web files directory", WEB_DIR);
-    netdata_configured_cache_dir   = config_get("global", "cache directory",     CACHE_DIR);
-    netdata_configured_varlib_dir  = config_get("global", "lib directory",       VARLIB_DIR);
-    netdata_configured_home_dir    = config_get("global", "home directory",      CACHE_DIR);
+void log_init(void) {
+    char filename[FILENAME_MAX + 1];
+    snprintfz(filename, FILENAME_MAX, "%s/debug.log", netdata_configured_log_dir);
+    stdout_filename    = config_get(CONFIG_SECTION_GLOBAL, "debug log",  filename);
+
+    snprintfz(filename, FILENAME_MAX, "%s/error.log", netdata_configured_log_dir);
+    stderr_filename    = config_get(CONFIG_SECTION_GLOBAL, "error log",  filename);
+
+    snprintfz(filename, FILENAME_MAX, "%s/access.log", netdata_configured_log_dir);
+    stdaccess_filename = config_get(CONFIG_SECTION_GLOBAL, "access log", filename);
+
+    error_log_throttle_period_backup =
+    error_log_throttle_period = config_get_number(CONFIG_SECTION_GLOBAL, "errors flood protection period", error_log_throttle_period);
+    error_log_errors_per_period = (unsigned long)config_get_number(CONFIG_SECTION_GLOBAL, "errors to trigger flood protection", (long long int)error_log_errors_per_period);
+
+    setenv("NETDATA_ERRORS_THROTTLE_PERIOD", config_get(CONFIG_SECTION_GLOBAL, "errors flood protection period"    , ""), 1);
+    setenv("NETDATA_ERRORS_PER_PERIOD",      config_get(CONFIG_SECTION_GLOBAL, "errors to trigger flood protection", ""), 1);
+}
+
+static void backwards_compatible_config() {
+    // allow existing configurations to work with the current version of netdata
+
+    if(config_exists(CONFIG_SECTION_GLOBAL, "multi threaded web server")) {
+        int mode = config_get_boolean(CONFIG_SECTION_GLOBAL, "multi threaded web server", 1);
+        web_server_mode = (mode)?WEB_SERVER_MODE_MULTI_THREADED:WEB_SERVER_MODE_SINGLE_THREADED;
+    }
+
+    // move [global] options to the [web] section
+    config_move(CONFIG_SECTION_GLOBAL, "http port listen backlog",
+                CONFIG_SECTION_WEB,    "listen backlog");
+
+    config_move(CONFIG_SECTION_GLOBAL, "bind socket to IP",
+                CONFIG_SECTION_WEB,    "bind to");
+
+    config_move(CONFIG_SECTION_GLOBAL, "bind to",
+                CONFIG_SECTION_WEB,    "bind to");
+
+    config_move(CONFIG_SECTION_GLOBAL, "port",
+                CONFIG_SECTION_WEB,    "default port");
+
+    config_move(CONFIG_SECTION_GLOBAL, "default port",
+                CONFIG_SECTION_WEB,    "default port");
+
+    config_move(CONFIG_SECTION_GLOBAL, "disconnect idle web clients after seconds",
+                CONFIG_SECTION_WEB,    "disconnect idle clients after seconds");
+
+    config_move(CONFIG_SECTION_GLOBAL, "respect web browser do not track policy",
+                CONFIG_SECTION_WEB,    "respect do not track policy");
+
+    config_move(CONFIG_SECTION_GLOBAL, "web x-frame-options header",
+                CONFIG_SECTION_WEB,    "x-frame-options response header");
+
+    config_move(CONFIG_SECTION_GLOBAL, "enable web responses gzip compression",
+                CONFIG_SECTION_WEB,    "enable gzip compression");
+
+    config_move(CONFIG_SECTION_GLOBAL, "web compression strategy",
+                CONFIG_SECTION_WEB,    "gzip compression strategy");
+
+    config_move(CONFIG_SECTION_GLOBAL, "web compression level",
+                CONFIG_SECTION_WEB,    "gzip compression level");
+
+    config_move(CONFIG_SECTION_GLOBAL, "web files owner",
+                CONFIG_SECTION_WEB,    "web files owner");
+
+    config_move(CONFIG_SECTION_GLOBAL, "web files group",
+                CONFIG_SECTION_WEB,    "web files group");
+}
+
+static void get_netdata_configured_variables() {
+    backwards_compatible_config();
+
+    // ------------------------------------------------------------------------
+    // get the hostname
+
+    char buf[HOSTNAME_MAX + 1];
+    if(gethostname(buf, HOSTNAME_MAX) == -1)
+        error("Cannot get machine hostname.");
+
+    netdata_configured_hostname = config_get(CONFIG_SECTION_GLOBAL, "hostname", buf);
+    debug(D_OPTIONS, "hostname set to '%s'", netdata_configured_hostname);
+
+    netdata_configured_hostname    = config_get(CONFIG_SECTION_GLOBAL, "hostname",    CONFIG_DIR);
+
+    // ------------------------------------------------------------------------
+    // get default database size
+
+    default_rrd_history_entries = (int) config_get_number(CONFIG_SECTION_GLOBAL, "history", align_entries_to_pagesize(default_rrd_memory_mode, RRD_DEFAULT_HISTORY_ENTRIES));
+
+    long h = align_entries_to_pagesize(default_rrd_memory_mode, default_rrd_history_entries);
+    if(h != default_rrd_history_entries) {
+        config_set_number(CONFIG_SECTION_GLOBAL, "history", h);
+        default_rrd_history_entries = (int)h;
+    }
+
+    if(default_rrd_history_entries < 5 || default_rrd_history_entries > RRD_HISTORY_ENTRIES_MAX) {
+        error("Invalid history entries %d given. Defaulting to %d.", default_rrd_history_entries, RRD_DEFAULT_HISTORY_ENTRIES);
+        default_rrd_history_entries = RRD_DEFAULT_HISTORY_ENTRIES;
+    }
+
+    // ------------------------------------------------------------------------
+    // get default database update frequency
+
+    default_rrd_update_every = (int) config_get_number(CONFIG_SECTION_GLOBAL, "update every", UPDATE_EVERY);
+    if(default_rrd_update_every < 1 || default_rrd_update_every > 600) {
+        error("Invalid data collection frequency (update every) %d given. Defaulting to %d.", default_rrd_update_every, UPDATE_EVERY_MAX);
+        default_rrd_update_every = UPDATE_EVERY;
+    }
+
+    // ------------------------------------------------------------------------
+    // let the plugins know the min update_every
+
+    // get system paths
+    netdata_configured_config_dir  = config_get(CONFIG_SECTION_GLOBAL, "config directory",    CONFIG_DIR);
+    netdata_configured_log_dir     = config_get(CONFIG_SECTION_GLOBAL, "log directory",       LOG_DIR);
+    netdata_configured_plugins_dir = config_get(CONFIG_SECTION_GLOBAL, "plugins directory",   PLUGINS_DIR);
+    netdata_configured_web_dir     = config_get(CONFIG_SECTION_GLOBAL, "web files directory", WEB_DIR);
+    netdata_configured_cache_dir   = config_get(CONFIG_SECTION_GLOBAL, "cache directory",     CACHE_DIR);
+    netdata_configured_varlib_dir  = config_get(CONFIG_SECTION_GLOBAL, "lib directory",       VARLIB_DIR);
+    netdata_configured_home_dir    = config_get(CONFIG_SECTION_GLOBAL, "home directory",      CACHE_DIR);
+
+    // ------------------------------------------------------------------------
+    // get default memory mode for the database
+
+    default_rrd_memory_mode = rrd_memory_mode_id(config_get(CONFIG_SECTION_GLOBAL, "memory mode", rrd_memory_mode_name(default_rrd_memory_mode)));
+
+    // ------------------------------------------------------------------------
+
+    netdata_configured_host_prefix = config_get(CONFIG_SECTION_GLOBAL, "host access prefix", "");
+
+    // --------------------------------------------------------------------
+    // get KSM settings
+
+#ifdef MADV_MERGEABLE
+    enable_ksm = config_get_boolean(CONFIG_SECTION_GLOBAL, "memory deduplication (ksm)", enable_ksm);
+#endif
+
+    // --------------------------------------------------------------------
+    // get various system parameters
+
+    get_system_HZ();
+    get_system_cpus();
+    get_system_pid_max();
+}
+
+void set_global_environment() {
+    {
+        char b[16];
+        snprintfz(b, 15, "%d", default_rrd_update_every);
+        setenv("NETDATA_UPDATE_EVERY", b, 1);
+    }
+
+    setenv("NETDATA_HOSTNAME"   , netdata_configured_hostname, 1);
+    setenv("NETDATA_CONFIG_DIR" , verify_required_directory(netdata_configured_config_dir),  1);
+    setenv("NETDATA_PLUGINS_DIR", verify_required_directory(netdata_configured_plugins_dir), 1);
+    setenv("NETDATA_WEB_DIR"    , verify_required_directory(netdata_configured_web_dir),     1);
+    setenv("NETDATA_CACHE_DIR"  , verify_required_directory(netdata_configured_cache_dir),   1);
+    setenv("NETDATA_LIB_DIR"    , verify_required_directory(netdata_configured_varlib_dir),  1);
+    setenv("NETDATA_LOG_DIR"    , verify_required_directory(netdata_configured_log_dir),     1);
+    setenv("HOME"               , verify_required_directory(netdata_configured_home_dir),    1);
+    setenv("NETDATA_HOST_PREFIX", netdata_configured_host_prefix, 1);
+
+    // avoid flood calls to stat(/etc/localtime)
+    // http://stackoverflow.com/questions/4554271/how-to-avoid-excessive-stat-etc-localtime-calls-in-strftime-on-linux
+    setenv("TZ", ":/etc/localtime", 0);
+
+    // set the path we need
+    char path[1024 + 1], *p = getenv("PATH");
+    if(!p) p = "/bin:/usr/bin";
+    snprintfz(path, 1024, "%s:%s", p, "/sbin:/usr/sbin:/usr/local/bin:/usr/local/sbin");
+    setenv("PATH", config_get(CONFIG_SECTION_PLUGINS, "PATH environment variable", path), 1);
+
+    // python options
+    p = getenv("PYTHONPATH");
+    if(!p) p = "";
+    setenv("PYTHONPATH", config_get(CONFIG_SECTION_PLUGINS, "PYTHONPATH environment variable", p), 1);
+
+    // disable buffering for python plugins
+    setenv("PYTHONUNBUFFERED", "1", 1);
+
+    // switch to standard locale for plugins
+    setenv("LC_ALL", "C", 1);
 }
 
 int main(int argc, char **argv) {
-    char *hostname = "localhost";
-    int i, check_config = 0;
+    int i;
     int config_loaded = 0;
     int dont_fork = 0;
     size_t wanted_stacksize = 0, stacksize = 0;
@@ -394,12 +548,12 @@ int main(int argc, char **argv) {
                 remove_option(i, &argc, argv);
             }
             else if(strcmp(argv[i], "-ch") == 0 && (i+1) < argc) {
-                config_set("global", "host access prefix", argv[i+1]);
+                config_set(CONFIG_SECTION_GLOBAL, "host access prefix", argv[i+1]);
                 fprintf(stderr, "%s: deprecated option -- %s -- please use -s instead.\n", argv[0], argv[i]);
                 remove_option(i, &argc, argv);
             }
             else if(strcmp(argv[i], "-l") == 0 && (i+1) < argc) {
-                config_set("global", "history", argv[i+1]);
+                config_set(CONFIG_SECTION_GLOBAL, "history", argv[i+1]);
                 fprintf(stderr, "%s: deprecated option -- %s -- This option will be removed with V2.*.\n", argv[0], argv[i]);
                 remove_option(i, &argc, argv);
             }
@@ -445,29 +599,26 @@ int main(int argc, char **argv) {
                     help(0);
                     break;
                 case 'i':
-                    config_set("global", "bind to", optarg);
-                    break;
-                case 'k':
-                    dont_fork = 1;
-                    check_config = 1;
+                    config_set(CONFIG_SECTION_WEB, "bind to", optarg);
                     break;
                 case 'P':
                     strncpy(pidfile, optarg, FILENAME_MAX);
                     pidfile[FILENAME_MAX] = '\0';
                     break;
                 case 'p':
-                    config_set("global", "default port", optarg);
+                    config_set(CONFIG_SECTION_GLOBAL, "default port", optarg);
                     break;
                 case 's':
-                    config_set("global", "host access prefix", optarg);
+                    config_set(CONFIG_SECTION_GLOBAL, "host access prefix", optarg);
                     break;
                 case 't':
-                    config_set("global", "update every", optarg);
+                    config_set(CONFIG_SECTION_GLOBAL, "update every", optarg);
                     break;
                 case 'u':
-                    config_set("global", "run as user", optarg);
+                    config_set(CONFIG_SECTION_GLOBAL, "run as user", optarg);
                     break;
                 case 'v':
+                case 'V':
                     printf("%s %s\n", program_name, program_version);
                     return 0;
                 case 'W':
@@ -476,10 +627,14 @@ int main(int argc, char **argv) {
                         char* debug_flags_string = "debug_flags=";
                         if(strcmp(optarg, "unittest") == 0) {
                             default_rrd_update_every = 1;
+                            default_rrd_memory_mode = RRD_MEMORY_MODE_RAM;
                             if(!config_loaded) config_load(NULL, 0);
-                            get_netdata_configured_directories();
-                            registry_init();
+                            get_netdata_configured_variables();
+                            default_rrd_update_every = 1;
+                            default_rrd_memory_mode = RRD_MEMORY_MODE_RAM;
+                            default_health_enabled = 0;
                             rrd_init("unittest");
+                            default_rrdpush_enabled = 0;
                             if(run_all_mockup_tests()) exit(1);
                             if(unit_test_storage()) exit(1);
                             fprintf(stderr, "\n\nALL TESTS PASSED\n\n");
@@ -529,11 +684,11 @@ int main(int argc, char **argv) {
                         }
                         else if(strncmp(optarg, stacksize_string, strlen(stacksize_string)) == 0) {
                             optarg += strlen(stacksize_string);
-                            config_set("global", "pthread stack size", optarg);
+                            config_set(CONFIG_SECTION_GLOBAL, "pthread stack size", optarg);
                         }
                         else if(strncmp(optarg, debug_flags_string, strlen(debug_flags_string)) == 0) {
                             optarg += strlen(debug_flags_string);
-                            config_set("global", "debug flags",  optarg);
+                            config_set(CONFIG_SECTION_GLOBAL, "debug flags",  optarg);
                             debug_flags = strtoull(optarg, NULL, 0);
                         }
                     }
@@ -558,53 +713,29 @@ int main(int argc, char **argv) {
     if(!config_loaded)
         config_load(NULL, 0);
 
+    // ------------------------------------------------------------------------
+    // initialize netdata
     {
-        char *pmax = config_get("global", "glibc malloc arena max for plugins", "1");
+        char *pmax = config_get(CONFIG_SECTION_GLOBAL, "glibc malloc arena max for plugins", "1");
         if(pmax && *pmax)
             setenv("MALLOC_ARENA_MAX", pmax, 1);
 
 #if defined(HAVE_C_MALLOPT)
-        i = (int)config_get_number("global", "glibc malloc arena max for netdata", 1);
+        i = (int)config_get_number(CONFIG_SECTION_GLOBAL, "glibc malloc arena max for netdata", 1);
         if(i > 0)
             mallopt(M_ARENA_MAX, 1);
 #endif
 
         // prepare configuration environment variables for the plugins
 
-        get_netdata_configured_directories();
-
-        setenv("NETDATA_CONFIG_DIR" , verify_required_directory(netdata_configured_config_dir),  1);
-        setenv("NETDATA_PLUGINS_DIR", verify_required_directory(netdata_configured_plugins_dir), 1);
-        setenv("NETDATA_WEB_DIR"    , verify_required_directory(netdata_configured_web_dir),     1);
-        setenv("NETDATA_CACHE_DIR"  , verify_required_directory(netdata_configured_cache_dir),   1);
-        setenv("NETDATA_LIB_DIR"    , verify_required_directory(netdata_configured_varlib_dir),  1);
-        setenv("NETDATA_LOG_DIR"    , verify_required_directory(netdata_configured_log_dir),     1);
-        setenv("HOME"               , verify_required_directory(netdata_configured_home_dir),    1);
-
-        netdata_configured_host_prefix = config_get("global", "host access prefix", "");
-        setenv("NETDATA_HOST_PREFIX", netdata_configured_host_prefix, 1);
-
-        // disable buffering for python plugins
-        setenv("PYTHONUNBUFFERED", "1", 1);
-
-        // avoid flood calls to stat(/etc/localtime)
-        // http://stackoverflow.com/questions/4554271/how-to-avoid-excessive-stat-etc-localtime-calls-in-strftime-on-linux
-        setenv("TZ", ":/etc/localtime", 0);
+        get_netdata_configured_variables();
+        set_global_environment();
 
         // work while we are cd into config_dir
         // to allow the plugins refer to their config
         // files using relative filenames
         if(chdir(netdata_configured_config_dir) == -1)
             fatal("Cannot cd to '%s'", netdata_configured_config_dir);
-
-        char path[1024 + 1], *p = getenv("PATH");
-        if(!p) p = "/bin:/usr/bin";
-        snprintfz(path, 1024, "%s:%s", p, "/sbin:/usr/sbin:/usr/local/bin:/usr/local/sbin");
-        setenv("PATH", config_get("plugins", "PATH environment variable", path), 1);
-
-        p = getenv("PYTHONPATH");
-        if(!p) p = "";
-        setenv("PYTHONPATH", config_get("plugins", "PYTHONPATH environment variable", p), 1);
     }
 
     char *user = NULL;
@@ -613,7 +744,7 @@ int main(int argc, char **argv) {
         // --------------------------------------------------------------------
         // get the debugging flags from the configuration file
 
-        char *flags = config_get("global", "debug flags",  "0x0000000000000000");
+        char *flags = config_get(CONFIG_SECTION_GLOBAL, "debug flags",  "0x0000000000000000");
         setenv("NETDATA_DEBUG_FLAGS", flags, 1);
 
         debug_flags = strtoull(flags, NULL, 0);
@@ -633,122 +764,16 @@ int main(int argc, char **argv) {
         // --------------------------------------------------------------------
         // get log filenames and settings
 
-        {
-            char filename[FILENAME_MAX + 1];
-            snprintfz(filename, FILENAME_MAX, "%s/debug.log", netdata_configured_log_dir);
-            stdout_filename    = config_get("global", "debug log",  filename);
-
-            snprintfz(filename, FILENAME_MAX, "%s/error.log", netdata_configured_log_dir);
-            stderr_filename    = config_get("global", "error log",  filename);
-
-            snprintfz(filename, FILENAME_MAX, "%s/access.log", netdata_configured_log_dir);
-            stdaccess_filename = config_get("global", "access log", filename);
-        }
-
-        error_log_throttle_period_backup =
-        error_log_throttle_period = config_get_number("global", "errors flood protection period", error_log_throttle_period);
-
-        setenv("NETDATA_ERRORS_THROTTLE_PERIOD", config_get("global", "errors flood protection period"    , ""), 1);
-
-        error_log_errors_per_period = (unsigned long)config_get_number("global", "errors to trigger flood protection", (long long int)error_log_errors_per_period);
-        setenv("NETDATA_ERRORS_PER_PERIOD", config_get("global", "errors to trigger flood protection", ""), 1);
-
-        if(check_config) {
-            stdout_filename = stderr_filename = stdaccess_filename = "system";
-            error_log_throttle_period = 0;
-            error_log_errors_per_period = 0;
-        }
+        log_init();
         error_log_limit_unlimited();
 
 
         // --------------------------------------------------------------------
-        // get KSM settings
-
-#ifdef MADV_MERGEABLE
-        enable_ksm = config_get_boolean("global", "memory deduplication (ksm)", enable_ksm);
-#else
-#warning "Kernel memory deduplication (KSM) is not available"
-#endif
-
-        // --------------------------------------------------------------------
-        // get various system parameters
-
-        get_system_HZ();
-        get_system_cpus();
-        get_system_pid_max();
-
-
-        // --------------------------------------------------------------------
-        // find the system hostname
-
+        // load stream.conf
         {
-            char hostnamebuf[HOSTNAME_MAX + 1];
-            if(gethostname(hostnamebuf, HOSTNAME_MAX) == -1)
-                error("WARNING: Cannot get machine hostname.");
-
-            hostname = config_get("global", "hostname", hostnamebuf);
-            debug(D_OPTIONS, "hostname set to '%s'", hostname);
-
-            setenv("NETDATA_HOSTNAME", hostname, 1);
-        }
-
-
-        // --------------------------------------------------------------------
-        // find we need to send data to a central netdata
-
-        rrdpush_init();
-
-
-        // --------------------------------------------------------------------
-        // get default memory mode for the database
-
-        if(rrdpush_exclusive) {
-            default_rrd_memory_mode = RRD_MEMORY_MODE_NONE;
-            config_set("global", "memory mode", rrd_memory_mode_name(default_rrd_memory_mode));
-        }
-        else
-            default_rrd_memory_mode = rrd_memory_mode_id(config_get("global", "memory mode", rrd_memory_mode_name(default_rrd_memory_mode)));
-
-
-        // --------------------------------------------------------------------
-        // get default database size
-
-        if(rrdpush_exclusive) {
-            default_rrd_history_entries = 10;
-            config_set_number("global", "history", default_rrd_history_entries);
-        }
-        else
-            default_rrd_history_entries = (int) config_get_number("global", "history", align_entries_to_pagesize(RRD_DEFAULT_HISTORY_ENTRIES));
-
-        long h = align_entries_to_pagesize(default_rrd_history_entries);
-        if(h != default_rrd_history_entries) {
-            config_set_number("global", "history", h);
-            default_rrd_history_entries = (int)h;
-        }
-
-        if(default_rrd_history_entries < 5 || default_rrd_history_entries > RRD_HISTORY_ENTRIES_MAX) {
-            error("Invalid history entries %d given. Defaulting to %d.", default_rrd_history_entries, RRD_DEFAULT_HISTORY_ENTRIES);
-            default_rrd_history_entries = RRD_DEFAULT_HISTORY_ENTRIES;
-        }
-        else
-            debug(D_OPTIONS, "save lines set to %d.", default_rrd_history_entries);
-
-
-        // --------------------------------------------------------------------
-        // get default database update frequency
-
-        default_rrd_update_every = (int) config_get_number("global", "update every", UPDATE_EVERY);
-        if(default_rrd_update_every < 1 || default_rrd_update_every > 600) {
-            error("Invalid data collection frequency (update every) %d given. Defaulting to %d.", default_rrd_update_every, UPDATE_EVERY_MAX);
-            default_rrd_update_every = UPDATE_EVERY;
-        }
-        else debug(D_OPTIONS, "update timer set to %d.", default_rrd_update_every);
-
-        // let the plugins know the min update_every
-        {
-            char buf[16];
-            snprintfz(buf, 15, "%d", default_rrd_update_every);
-            setenv("NETDATA_UPDATE_EVERY", buf, 1);
+            char filename[FILENAME_MAX + 1];
+            snprintfz(filename, FILENAME_MAX, "%s/stream.conf", netdata_configured_config_dir);
+            appconfig_load(&stream_config, filename, 0);
         }
 
 
@@ -813,7 +838,7 @@ int main(int argc, char **argv) {
         else
             debug(D_OPTIONS, "initial pthread stack size is %zu bytes", stacksize);
 
-        wanted_stacksize = (size_t)config_get_number("global", "pthread stack size", (long)stacksize);
+        wanted_stacksize = (size_t)config_get_number(CONFIG_SECTION_GLOBAL, "pthread stack size", (long)stacksize);
 
 
         // --------------------------------------------------------------------
@@ -834,7 +859,13 @@ int main(int argc, char **argv) {
         // get the user we should run
 
         // IMPORTANT: this is required before web_files_uid()
-        user = config_get("global", "run as user"    , (getuid() == 0)?NETDATA_USER:"");
+        if(getuid() == 0) {
+            user = config_get(CONFIG_SECTION_GLOBAL, "run as user", NETDATA_USER);
+        }
+        else {
+            struct passwd *passwd = getpwuid(getuid());
+            user = config_get(CONFIG_SECTION_GLOBAL, "run as user", (passwd && passwd->pw_name)?passwd->pw_name:"");
+        }
 
         // IMPORTANT: these have to run once, while single threaded
         web_files_uid(); // IMPORTANT: web_files_uid() before web_files_gid()
@@ -844,12 +875,8 @@ int main(int argc, char **argv) {
         // --------------------------------------------------------------------
         // create the listening sockets
 
-        if(!check_config && !rrdpush_exclusive) {
-            char filename[FILENAME_MAX + 1];
-            snprintfz(filename, FILENAME_MAX, "%s/aggregated_hosts.conf", netdata_configured_config_dir);
-            appconfig_load(&stream_config, filename, 0);
+        if(web_server_mode != WEB_SERVER_MODE_NONE)
             create_listen_sockets();
-        }
     }
 
     // initialize the log files
@@ -887,25 +914,9 @@ int main(int argc, char **argv) {
 
 
     // ------------------------------------------------------------------------
-    // initialize health monitoring
-
-    health_init();
-
-
-    // ------------------------------------------------------------------------
-    // initialize the registry
-
-    registry_init();
-
-
-    // ------------------------------------------------------------------------
-    // initialize rrd host
-
-    rrd_init(hostname);
-
+    // initialize rrd, registry, health, rrdpush, etc.
 
-    if(check_config)
-        exit(1);
+    rrd_init(netdata_configured_hostname);
 
 
     // ------------------------------------------------------------------------