]> arthur.barton.de Git - netdata.git/blob - src/plugin_proc_diskspace.c
diskspace statistics are now a separate thread, to isolate the delays introduced...
[netdata.git] / src / plugin_proc_diskspace.c
1 #include "common.h"
2
3 #ifndef NETDATA_RELOAD_MOUNTINFO_EVERY
4 #define NETDATA_RELOAD_MOUNTINFO_EVERY 60
5 #endif
6
7 #define DELAULT_EXLUDED_PATHS "/proc/ /sys/ /var/run/user/ /run/user/"
8
9 static struct mountinfo *disk_mountinfo_root = NULL;
10
11 static inline void mountinfo_reload(int force) {
12     static time_t last_loaded = 0;
13     time_t now = now_realtime_sec();
14
15     if(force || now - last_loaded >= NETDATA_RELOAD_MOUNTINFO_EVERY) {
16         // mountinfo_free() can be called with NULL disk_mountinfo_root
17         mountinfo_free(disk_mountinfo_root);
18
19         // re-read mountinfo in case something changed
20         disk_mountinfo_root = mountinfo_read();
21
22         last_loaded = now;
23     }
24 }
25
26 // Data to be stored in DICTIONARY mount_points used by do_disk_space_stats().
27 // This DICTIONARY is used to lookup the settings of the mount point on each iteration.
28 struct mount_point_metadata {
29     int do_space;
30     int do_inodes;
31     int update_every;
32 };
33
34 static inline void do_disk_space_stats(struct mountinfo *mi, int update_every) {
35     const char *family = mi->mount_point;
36     const char *disk = mi->persistent_id;
37
38     static DICTIONARY *mount_points = NULL;
39     static NETDATA_SIMPLE_PATTERN *excluded_mountpoints = NULL;
40     int do_space, do_inodes;
41
42     if(unlikely(!mount_points)) {
43         const char *s;
44
45         if(config_exists("plugin:proc:/proc/diskstats", "exclude space metrics on paths") && !config_exists("plugin:proc:diskspace", "exclude space metrics on paths")) {
46             // the config exists in the old section
47             s = config_get("plugin:proc:/proc/diskstats", "exclude space metrics on paths", DELAULT_EXLUDED_PATHS);
48
49             // set it to the new section
50             config_set("plugin:proc:diskspace", "exclude space metrics on paths", s);
51         }
52         else
53             s = config_get("plugin:proc:diskspace", "exclude space metrics on paths", DELAULT_EXLUDED_PATHS);
54
55         mount_points = dictionary_create(DICTIONARY_FLAG_SINGLE_THREADED);
56         excluded_mountpoints = netdata_simple_pattern_list_create(s, NETDATA_SIMPLE_PATTERN_MODE_PREFIX);
57     }
58
59     struct mount_point_metadata *m = dictionary_get(mount_points, mi->mount_point);
60     if(unlikely(!m)) {
61         char var_name[4096 + 1];
62         snprintfz(var_name, 4096, "plugin:proc:diskspace:%s", mi->mount_point);
63
64         int def_space = config_get_boolean_ondemand("plugin:proc:diskspace", "space usage for all disks", CONFIG_ONDEMAND_ONDEMAND);
65         int def_inodes = config_get_boolean_ondemand("plugin:proc:diskspace", "inodes usage for all disks", CONFIG_ONDEMAND_ONDEMAND);
66
67         if(unlikely(netdata_simple_pattern_list_matches(excluded_mountpoints, mi->mount_point))) {
68             def_space = CONFIG_ONDEMAND_NO;
69             def_inodes = CONFIG_ONDEMAND_NO;
70         }
71
72         do_space = config_get_boolean_ondemand(var_name, "space usage", def_space);
73         do_inodes = config_get_boolean_ondemand(var_name, "inodes usage", def_inodes);
74
75         struct mount_point_metadata mp = {
76                 .do_space = do_space,
77                 .do_inodes = do_inodes,
78                 .update_every = rrd_update_every
79         };
80
81         dictionary_set(mount_points, mi->mount_point, &mp, sizeof(struct mount_point_metadata));
82     }
83     else {
84         do_space = m->do_space;
85         do_inodes = m->do_inodes;
86         update_every = m->update_every;
87     }
88
89     if(unlikely(do_space == CONFIG_ONDEMAND_NO && do_inodes == CONFIG_ONDEMAND_NO))
90         return;
91
92     struct statvfs buff_statvfs;
93     if (statvfs(mi->mount_point, &buff_statvfs) < 0) {
94         error("Failed statvfs() for '%s' (disk '%s')", mi->mount_point, disk);
95         return;
96     }
97
98     // taken from get_fs_usage() found in coreutils
99     unsigned long bsize = (buff_statvfs.f_frsize) ? buff_statvfs.f_frsize : buff_statvfs.f_bsize;
100
101     fsblkcnt_t bavail         = buff_statvfs.f_bavail;
102     fsblkcnt_t btotal         = buff_statvfs.f_blocks;
103     fsblkcnt_t bavail_root    = buff_statvfs.f_bfree;
104     fsblkcnt_t breserved_root = bavail_root - bavail;
105     fsblkcnt_t bused;
106     if(likely(btotal >= bavail_root))
107         bused = btotal - bavail_root;
108     else
109         bused = bavail_root - btotal;
110
111 #ifdef NETDATA_INTERNAL_CHECKS
112     if(unlikely(btotal != bavail + breserved_root + bused))
113         error("Disk block statistics for '%s' (disk '%s') do not sum up: total = %llu, available = %llu, reserved = %llu, used = %llu", mi->mount_point, disk, (unsigned long long)btotal, (unsigned long long)bavail, (unsigned long long)breserved_root, (unsigned long long)bused);
114 #endif
115
116     // --------------------------------------------------------------------------
117
118     fsfilcnt_t favail         = buff_statvfs.f_favail;
119     fsfilcnt_t ftotal         = buff_statvfs.f_files;
120     fsfilcnt_t favail_root    = buff_statvfs.f_ffree;
121     fsfilcnt_t freserved_root = favail_root - favail;
122     fsfilcnt_t fused          = ftotal - favail_root;
123
124 #ifdef NETDATA_INTERNAL_CHECKS
125     if(unlikely(btotal != bavail + breserved_root + bused))
126         error("Disk inode statistics for '%s' (disk '%s') do not sum up: total = %llu, available = %llu, reserved = %llu, used = %llu", mi->mount_point, disk, (unsigned long long)ftotal, (unsigned long long)favail, (unsigned long long)freserved_root, (unsigned long long)fused);
127 #endif
128
129     // --------------------------------------------------------------------------
130
131     RRDSET *st;
132
133     if(do_space == CONFIG_ONDEMAND_YES || (do_space == CONFIG_ONDEMAND_ONDEMAND && (bavail || breserved_root || bused))) {
134         st = rrdset_find_bytype("disk_space", disk);
135         if(unlikely(!st)) {
136             char title[4096 + 1];
137             snprintfz(title, 4096, "Disk Space Usage for %s [%s]", family, mi->mount_source);
138             st = rrdset_create("disk_space", disk, NULL, family, "disk.space", title, "GB", 2023, update_every, RRDSET_TYPE_STACKED);
139
140             rrddim_add(st, "avail", NULL, bsize, 1024*1024*1024, RRDDIM_ABSOLUTE);
141             rrddim_add(st, "used" , NULL, bsize, 1024*1024*1024, RRDDIM_ABSOLUTE);
142             rrddim_add(st, "reserved_for_root", "reserved for root", bsize, 1024*1024*1024, RRDDIM_ABSOLUTE);
143         }
144         else rrdset_next(st);
145
146         rrddim_set(st, "avail", (collected_number)bavail);
147         rrddim_set(st, "used", (collected_number)bused);
148         rrddim_set(st, "reserved_for_root", (collected_number)breserved_root);
149         rrdset_done(st);
150     }
151
152     // --------------------------------------------------------------------------
153
154     if(do_inodes == CONFIG_ONDEMAND_YES || (do_inodes == CONFIG_ONDEMAND_ONDEMAND && (favail || freserved_root || fused))) {
155         st = rrdset_find_bytype("disk_inodes", disk);
156         if(unlikely(!st)) {
157             char title[4096 + 1];
158             snprintfz(title, 4096, "Disk Files (inodes) Usage for %s [%s]", family, mi->mount_source);
159             st = rrdset_create("disk_inodes", disk, NULL, family, "disk.inodes", title, "Inodes", 2024, update_every, RRDSET_TYPE_STACKED);
160
161             rrddim_add(st, "avail", NULL, 1, 1, RRDDIM_ABSOLUTE);
162             rrddim_add(st, "used" , NULL, 1, 1, RRDDIM_ABSOLUTE);
163             rrddim_add(st, "reserved_for_root", "reserved for root", 1, 1, RRDDIM_ABSOLUTE);
164         }
165         else rrdset_next(st);
166
167         rrddim_set(st, "avail", (collected_number)favail);
168         rrddim_set(st, "used", (collected_number)fused);
169         rrddim_set(st, "reserved_for_root", (collected_number)freserved_root);
170         rrdset_done(st);
171     }
172 }
173
174 void *proc_diskspace_main(void *ptr) {
175     struct netdata_static_thread *static_thread = (struct netdata_static_thread *)ptr;
176
177     info("DISKSPACE thread created with task id %d", gettid());
178
179     if(pthread_setcanceltype(PTHREAD_CANCEL_DEFERRED, NULL) != 0)
180         error("Cannot set pthread cancel type to DEFERRED.");
181
182     if(pthread_setcancelstate(PTHREAD_CANCEL_ENABLE, NULL) != 0)
183         error("Cannot set pthread cancel state to ENABLE.");
184
185     int update_every = (int)config_get_number("plugin:proc:diskspace", "update every", rrd_update_every);
186     if(update_every < rrd_update_every)
187         update_every = rrd_update_every;
188
189     usec_t step = update_every * USEC_PER_SEC;
190     for(;;) {
191         usec_t now = now_monotonic_usec();
192         usec_t next = now - (now % step) + step;
193
194         while(now < next) {
195             sleep_usec(next - now);
196             now = now_monotonic_usec();
197         }
198
199         if(unlikely(netdata_exit)) break;
200
201         // --------------------------------------------------------------------------
202         // this is smart enough not to reload it every time
203
204         mountinfo_reload(0);
205
206         // --------------------------------------------------------------------------
207         // disk space metrics
208
209         struct mountinfo *mi;
210         for(mi = disk_mountinfo_root; mi; mi = mi->next) {
211
212             if(unlikely(mi->flags &
213                         (MOUNTINFO_IS_DUMMY | MOUNTINFO_IS_BIND | MOUNTINFO_IS_SAME_DEV | MOUNTINFO_NO_STAT |
214                          MOUNTINFO_NO_SIZE | MOUNTINFO_READONLY)))
215                 continue;
216
217             do_disk_space_stats(mi, update_every);
218         }
219     }
220
221     info("DISKSPACE thread exiting");
222
223     static_thread->enabled = 0;
224     static_thread->thread = NULL;
225     pthread_exit(NULL);
226     return NULL;
227 }