]> arthur.barton.de Git - netatalk.git/blob - etc/cnid_dbd/dbif.c
0abfc2e90fec1e4c8a005c8e906d5b3453405181
[netatalk.git] / etc / cnid_dbd / dbif.c
1 /*
2  * Copyright (C) Joerg Lenneis 2003
3  * Copyright (C) Frank Lahm 2009
4  * All Rights Reserved.  See COPYING.
5  */
6
7 #ifdef HAVE_CONFIG_H
8 #include "config.h"
9 #endif /* HAVE_CONFIG_H */
10
11 #include <stdio.h>
12 #include <errno.h>
13 #include <stdlib.h>
14 #ifdef HAVE_SYS_TYPES_H
15 #include <sys/types.h>
16 #endif /* HAVE_SYS_TYPES_H */
17 #include <string.h>
18 #include <sys/types.h>
19 #include <sys/stat.h>
20 #include <sys/cdefs.h>
21 #include <unistd.h>
22 #include <atalk/logger.h>
23 #include <db.h>
24 #include "db_param.h"
25 #include "dbif.h"
26 #include "pack.h"
27
28 #define DB_ERRLOGFILE "db_errlog"
29
30 static char *old_dbfiles[] = {"cnid.db", NULL};
31
32 /* --------------- */
33 static int upgrade_required(const DBD *dbd)
34 {
35     int i;
36     int cwd = -1;
37     int ret = 0;
38     int found = 0;
39     struct stat st;
40
41     if ( ! dbd->db_filename)
42         /* in memory db */
43         return 0;
44
45     /* Remember cwd */
46     if ((cwd = open(".", O_RDONLY)) < 0) {
47         LOG(log_error, logtype_cnid, "error opening cwd: %s", strerror(errno));
48         return -1;
49     }
50
51     /* chdir to db_envhome */
52     if ((chdir(dbd->db_envhome)) != 0) {
53         LOG(log_error, logtype_cnid, "error chdiring to db_env '%s': %s", dbd->db_envhome, strerror(errno));        
54         ret = -1;
55         goto exit;
56     }
57
58     for (i = 0; old_dbfiles[i] != NULL; i++) {
59         if ( !(stat(old_dbfiles[i], &st) < 0) ) {
60             found++;
61             continue;
62         }
63         if (errno != ENOENT) {
64             LOG(log_error, logtype_cnid, "cnid_open: Checking %s gave %s", old_dbfiles[i], strerror(errno));
65             found++;
66         }
67     }
68
69 exit:
70     if (cwd != -1) {
71         if ((fchdir(cwd)) != 0) {
72             LOG(log_error, logtype_cnid, "error chdiring back: %s", strerror(errno));        
73             ret = -1;
74         }
75         close(cwd);
76     }
77     return (ret < 0 ? ret : found);
78 }
79
80 /* --------------- */
81 static int dbif_openlog(DBD *dbd)
82 {
83     int ret = 0;
84     int cwd = -1;
85
86     if ( ! dbd->db_filename)
87         /* in memory db */
88         return 0;
89
90     /* Remember cwd */
91     if ((cwd = open(".", O_RDONLY)) < 0) {
92         LOG(log_error, logtype_cnid, "error opening cwd: %s", strerror(errno));
93         return -1;
94     }
95
96     /* chdir to db_envhome */
97     if ((chdir(dbd->db_envhome)) != 0) {
98         LOG(log_error, logtype_cnid, "error chdiring to db_env '%s': %s", dbd->db_envhome, strerror(errno));        
99         ret = -1;
100         goto exit;
101     }
102
103     if ((dbd->db_errlog = fopen(DB_ERRLOGFILE, "a")) == NULL)
104         LOG(log_warning, logtype_cnid, "error creating/opening DB errlogfile: %s", strerror(errno));
105
106     if (dbd->db_errlog != NULL) {
107         dbd->db_env->set_errfile(dbd->db_env, dbd->db_errlog);
108         dbd->db_env->set_msgfile(dbd->db_env, dbd->db_errlog);
109     }
110
111 exit:
112     if (cwd != -1) {
113         if ((fchdir(cwd)) != 0) {
114             LOG(log_error, logtype_cnid, "error chdiring back: %s", strerror(errno));        
115             ret = -1;
116         }
117         close(cwd);
118     }
119     return ret;
120 }
121
122 /* --------------- */
123 static int dbif_logautorem(DBD *dbd)
124 {
125     int ret = 0;
126     int cwd = -1;
127     char **logfiles = NULL;
128     char **file;
129
130     if ( ! dbd->db_filename)
131         /* in memory db */
132         return 0;
133
134     /* Remember cwd */
135     if ((cwd = open(".", O_RDONLY)) < 0) {
136         LOG(log_error, logtype_cnid, "error opening cwd: %s", strerror(errno));
137         return -1;
138     }
139
140     /* chdir to db_envhome */
141     if ((chdir(dbd->db_envhome)) != 0) {
142         LOG(log_error, logtype_cnid, "error chdiring to db_env '%s': %s", dbd->db_envhome, strerror(errno));        
143         ret = -1;
144         goto exit;
145     }
146
147     if ((ret = dbd->db_env->log_archive(dbd->db_env, &logfiles, 0)) != 0) {
148         LOG(log_error, logtype_cnid, "error getting list of stale logfiles: %s",
149             db_strerror(ret));
150         dbd->db_env->close(dbd->db_env, 0);
151         dbd->db_env = NULL;
152         ret = -1;
153         goto exit;
154     }
155
156     if (logfiles != NULL) {
157         for (file = logfiles; *file != NULL; file++) {
158             if (unlink(*file) < 0)
159                 LOG(log_warning, logtype_cnid, "Error removing stale logfile %s: %s", *file, strerror(errno));
160         }
161         free(logfiles);
162     }
163
164 exit:
165     if (cwd != -1) {
166         if ((fchdir(cwd)) != 0) {
167             LOG(log_error, logtype_cnid, "error chdiring back: %s", strerror(errno));        
168             ret = -1;
169         }
170         close(cwd);
171     }
172     return ret;
173 }
174
175 /* --------------- */
176 int dbif_stamp(DBD *dbd, void *buffer, int size)
177 {
178     struct stat st;
179     int         rc,cwd;
180
181     if (size < 8)
182         return -1;
183
184     /* Remember cwd */
185     if ((cwd = open(".", O_RDONLY)) < 0) {
186         LOG(log_error, logtype_cnid, "error opening cwd: %s", strerror(errno));
187         return -1;
188     }
189
190     /* chdir to db_envhome */
191     if ((chdir(dbd->db_envhome)) != 0) {
192         LOG(log_error, logtype_cnid, "error chdiring to db_env '%s': %s", dbd->db_envhome, strerror(errno));        
193         return -1;
194     }
195
196     if ((rc = stat(dbd->db_table[DBIF_CNID].name, &st)) < 0) {
197         LOG(log_error, logtype_cnid, "error stating database %s: %s", dbd->db_table[DBIF_CNID].name, db_strerror(errno));
198         return -1;
199     }
200     memset(buffer, 0, size);
201     memcpy(buffer, &st.st_ctime, sizeof(st.st_ctime));
202
203     if ((fchdir(cwd)) != 0) {
204         LOG(log_error, logtype_cnid, "error chdiring back: %s", strerror(errno));        
205         return -1;
206     }
207
208     return 0;
209 }
210
211 /* --------------- */
212 DBD *dbif_init(const char *envhome, const char *filename)
213 {
214     DBD *dbd;
215
216     if ( NULL == (dbd = calloc(sizeof(DBD), 1)) )
217         return NULL;
218
219     /* filename == NULL means in memory db */
220     if (filename) {
221         if (! envhome)
222             return NULL;
223
224         dbd->db_envhome = strdup(envhome);
225         if (NULL == dbd->db_envhome) {
226             free(dbd);
227             return NULL;
228         }
229
230         dbd->db_filename = strdup(filename);
231         if (NULL == dbd->db_filename) {
232             free(dbd->db_envhome);
233             free(dbd);
234             return NULL;
235         }
236     }
237     
238     dbd->db_table[DBIF_CNID].name        = "cnid2.db";
239     dbd->db_table[DBIF_IDX_DEVINO].name  = "devino.db";
240     dbd->db_table[DBIF_IDX_DIDNAME].name = "didname.db";
241     dbd->db_table[DBIF_IDX_NAME].name    = "name.db";
242
243     dbd->db_table[DBIF_CNID].type        = DB_BTREE;
244     dbd->db_table[DBIF_IDX_DEVINO].type  = DB_BTREE;
245     dbd->db_table[DBIF_IDX_DIDNAME].type = DB_BTREE;
246     dbd->db_table[DBIF_IDX_NAME].type    = DB_BTREE;
247
248     dbd->db_table[DBIF_CNID].openflags        = DB_CREATE;
249     dbd->db_table[DBIF_IDX_DEVINO].openflags  = DB_CREATE;
250     dbd->db_table[DBIF_IDX_DIDNAME].openflags = DB_CREATE;
251     dbd->db_table[DBIF_IDX_NAME].openflags    = DB_CREATE;
252
253     dbd->db_table[DBIF_IDX_NAME].flags = DB_DUPSORT;
254
255     return dbd;
256 }
257
258 /* 
259    We must open the db_env with an absolute pathname, as `dbd` keeps chdir'ing, which
260    breaks e.g. bdb logfile-rotation with relative pathnames.
261    But still we use relative paths with upgrade_required() and the DB_ERRLOGFILE
262    in order to avoid creating absolute paths by copying. Both have no problem with
263    a relative path.
264 */
265 int dbif_env_open(DBD *dbd, struct db_param *dbp, uint32_t dbenv_oflags)
266 {
267     int ret;
268
269     /* Refuse to do anything if this is an old version of the CNID database */
270     if (upgrade_required(dbd)) {
271         LOG(log_error, logtype_cnid, "Found version 1 of the CNID database. Please upgrade to version 2");
272         return -1;
273     }
274
275     if ((ret = db_env_create(&dbd->db_env, 0))) {
276         LOG(log_error, logtype_cnid, "error creating DB environment: %s",
277             db_strerror(ret));
278         dbd->db_env = NULL;
279         return -1;
280     }
281
282     if ((dbif_openlog(dbd)) != 0)
283         return -1;
284
285     if (dbenv_oflags & DB_RECOVER) {
286
287         LOG(log_debug, logtype_cnid, "Running recovery");
288
289         dbd->db_env->set_verbose(dbd->db_env, DB_VERB_RECOVERY, 1);
290         /* Open the database for recovery using DB_PRIVATE option which is faster */
291         if ((ret = dbd->db_env->open(dbd->db_env, dbd->db_envhome, dbenv_oflags | DB_PRIVATE, 0))) {
292             LOG(log_error, logtype_cnid, "error opening DB environment: %s",
293                 db_strerror(ret));
294             dbd->db_env->close(dbd->db_env, 0);
295             dbd->db_env = NULL;
296             return -1;
297         }
298         dbenv_oflags = (dbenv_oflags & ~DB_RECOVER);
299
300         if (dbd->db_errlog != NULL)
301             fflush(dbd->db_errlog);
302
303         if ((ret = dbd->db_env->close(dbd->db_env, 0))) {
304             LOG(log_error, logtype_cnid, "error closing DB environment after recovery: %s",
305                 db_strerror(ret));
306             dbd->db_env = NULL;
307             return -1;
308         }
309         dbd->db_errlog = NULL;        
310
311         if ((ret = db_env_create(&dbd->db_env, 0))) {
312             LOG(log_error, logtype_cnid, "error creating DB environment after recovery: %s",
313                 db_strerror(ret));
314             dbd->db_env = NULL;
315             return -1;
316         }
317
318         if ((dbif_openlog(dbd)) != 0)
319             return -1;
320
321         LOG(log_debug, logtype_cnid, "Finished recovery.");
322     }
323
324     if ((ret = dbd->db_env->set_cachesize(dbd->db_env, 0, 1024 * dbp->cachesize, 0))) {
325         LOG(log_error, logtype_cnid, "error setting DB environment cachesize to %i: %s",
326             dbp->cachesize, db_strerror(ret));
327         dbd->db_env->close(dbd->db_env, 0);
328         dbd->db_env = NULL;
329         return -1;
330     }
331
332     if ((ret = dbd->db_env->open(dbd->db_env, dbd->db_envhome, dbenv_oflags, 0))) {
333         LOG(log_error, logtype_cnid, "error opening DB environment after recovery: %s",
334             db_strerror(ret));
335         dbd->db_env->close(dbd->db_env, 0);
336         dbd->db_env = NULL;
337         return -1;
338     }
339
340     if ((ret = dbd->db_env->set_flags(dbd->db_env, DB_AUTO_COMMIT, 1))) {
341         LOG(log_error, logtype_cnid, "error setting DB_AUTO_COMMIT flag: %s",
342             db_strerror(ret));
343         dbd->db_env->close(dbd->db_env, 0);
344         dbd->db_env = NULL;
345         return -1;
346     }
347
348     if (dbp->logfile_autoremove) {
349         if ((dbif_logautorem(dbd)) != 0)
350             return -1;
351
352 #if DB_VERSION_MAJOR > 4 || (DB_VERSION_MAJOR == 4 && DB_VERSION_MINOR >= 7)
353         if ((ret = dbd->db_env->log_set_config(dbd->db_env, DB_LOG_AUTO_REMOVE, 1))) {
354             LOG(log_error, logtype_cnid, "error setting DB_LOG_AUTO_REMOVE flag: %s",
355             db_strerror(ret));
356             dbd->db_env->close(dbd->db_env, 0);
357             dbd->db_env = NULL;
358             return -1;
359         }
360 #else
361         if ((ret = dbd->db_env->set_flags(dbd->db_env, DB_LOG_AUTOREMOVE, 1))) {
362             LOG(log_error, logtype_cnid, "error setting DB_LOG_AUTOREMOVE flag: %s",
363                 db_strerror(ret));
364             dbd->db_env->close(dbd->db_env, 0);
365             dbd->db_env = NULL;
366             return -1;
367         }
368 #endif
369     }
370
371     return 0;
372 }
373
374 /* --------------- */
375 int dbif_open(DBD *dbd, struct db_param *dbp, int reindex)
376 {
377     int ret, i, cwd;
378     u_int32_t count;
379     struct stat st;
380     DB *upgrade_db;
381
382     /* Try to upgrade if it's a normal on-disk database */
383     if (dbd->db_envhome) {
384         /* Remember cwd */
385         if ((cwd = open(".", O_RDONLY)) < 0) {
386             LOG(log_error, logtype_cnid, "error opening cwd: %s", strerror(errno));
387             return -1;
388         }
389         
390         /* chdir to db_envhome. makes it easier checking for old db files and creating db_errlog file  */
391         if ((chdir(dbd->db_envhome)) != 0) {
392             LOG(log_error, logtype_cnid, "error chdiring to db_env '%s': %s", dbd->db_envhome, strerror(errno));        
393             return -1;
394         }
395         
396         if ((stat(dbd->db_filename, &st)) == 0) {
397             LOG(log_debug, logtype_cnid, "See if we can upgrade the CNID database...");
398             if ((ret = db_create(&upgrade_db, dbd->db_env, 0))) {
399                 LOG(log_error, logtype_cnid, "error creating handle for database: %s", db_strerror(ret));
400                 return -1;
401             }
402             if ((ret = upgrade_db->upgrade(upgrade_db, dbd->db_filename, 0))) {
403                 LOG(log_error, logtype_cnid, "error upgarding database: %s", db_strerror(ret));
404                 return -1;
405             }
406             if ((ret = upgrade_db->close(upgrade_db, 0))) {
407                 LOG(log_error, logtype_cnid, "error closing database: %s", db_strerror(ret));
408                 return -1;
409             }
410             if ((ret = dbd->db_env->txn_checkpoint(dbd->db_env, 0, 0, DB_FORCE))) {
411                 LOG(log_error, logtype_cnid, "error forcing checkpoint: %s", db_strerror(ret));
412                 return -1;
413             }
414             LOG(log_debug, logtype_cnid, "Finished CNID database upgrade check");
415         }
416         
417         if ((fchdir(cwd)) != 0) {
418             LOG(log_error, logtype_cnid, "error chdiring back: %s", strerror(errno));        
419             return -1;
420         }
421     }
422
423     /* Now open databases ... */
424     for (i = 0; i != DBIF_DB_CNT; i++) {
425         if ((ret = db_create(&dbd->db_table[i].db, dbd->db_env, 0))) {
426             LOG(log_error, logtype_cnid, "error creating handle for database %s: %s",
427                 dbd->db_table[i].name, db_strerror(ret));
428             return -1;
429         }
430
431         if (dbd->db_table[i].flags) {
432             if ((ret = dbd->db_table[i].db->set_flags(dbd->db_table[i].db,
433                                                       dbd->db_table[i].flags))) {
434                 LOG(log_error, logtype_cnid, "error setting flags for database %s: %s",
435                     dbd->db_table[i].name, db_strerror(ret));
436                 return -1;
437             }
438         }
439
440         if ( ! dbd->db_env) {   /* In memory db */
441             if ((ret = dbd->db_table[i].db->set_cachesize(dbd->db_table[i].db,
442                                                           0,
443                                                           dbp->cachesize,
444                                                           4)) /* split in 4 memory chunks */
445                 < 0)  {
446                 LOG(log_error, logtype_cnid, "error setting cachesize %u KB for database %s: %s",
447                     dbp->cachesize / 1024, dbd->db_table[i].name, db_strerror(ret));
448                 return -1;
449             }
450         }
451
452         if (dbd->db_table[i].db->open(dbd->db_table[i].db,
453                                       dbd->db_txn,
454                                       dbd->db_filename,
455                                       dbd->db_table[i].name,
456                                       dbd->db_table[i].type,
457                                       dbd->db_table[i].openflags,
458                                       0664) < 0) {
459             LOG(log_error, logtype_cnid, "Cant open database");
460             return -1;
461         }
462
463         if (reindex && i > 0) {
464             LOG(log_info, logtype_cnid, "Truncating CNID index.");
465             if ((ret = dbd->db_table[i].db->truncate(dbd->db_table[i].db, NULL, &count, 0))) {
466                 LOG(log_error, logtype_cnid, "error truncating database %s: %s",
467                     dbd->db_table[i].name, db_strerror(ret));
468                 return -1;
469             }
470         }
471     }
472
473     /* TODO: Implement CNID DB versioning info on new databases. */
474
475     /* Associate the secondary with the primary. */
476     if (reindex)
477         LOG(log_info, logtype_cnid, "Reindexing did/name index...");
478     if ((ret = dbd->db_table[0].db->associate(dbd->db_table[DBIF_CNID].db,
479                                               dbd->db_txn,
480                                               dbd->db_table[DBIF_IDX_DIDNAME].db, 
481                                               didname,
482                                               (reindex) ? DB_CREATE : 0))
483          != 0) {
484         LOG(log_error, logtype_cnid, "Failed to associate didname database: %s",db_strerror(ret));
485         return -1;
486     }
487     if (reindex)
488         LOG(log_info, logtype_cnid, "... done.");
489
490     if (reindex)
491         LOG(log_info, logtype_cnid, "Reindexing dev/ino index...");
492     if ((ret = dbd->db_table[0].db->associate(dbd->db_table[0].db, 
493                                               dbd->db_txn,
494                                               dbd->db_table[DBIF_IDX_DEVINO].db, 
495                                               devino,
496                                               (reindex) ? DB_CREATE : 0))
497         != 0) {
498         LOG(log_error, logtype_cnid, "Failed to associate devino database: %s",db_strerror(ret));
499         return -1;
500     }
501     if (reindex)
502         LOG(log_info, logtype_cnid, "... done.");
503
504     if (reindex)
505         LOG(log_info, logtype_cnid, "Reindexing name index...");
506     if ((ret = dbd->db_table[0].db->associate(dbd->db_table[0].db, 
507                                               dbd->db_txn,
508                                               dbd->db_table[DBIF_IDX_NAME].db, 
509                                               idxname,
510                                               DB_CREATE))
511         != 0) {
512         LOG(log_error, logtype_cnid, "Failed to associate name index: %s",db_strerror(ret));
513         return -1;
514     }
515     if (reindex)
516         LOG(log_info, logtype_cnid, "... done.");
517     
518     return 0;
519 }
520
521 /* ------------------------ */
522 static int dbif_closedb(DBD *dbd)
523 {
524     int i;
525     int ret;
526     int err = 0;
527
528     for (i = DBIF_DB_CNT -1; i >= 0; i--) {
529         if (dbd->db_table[i].db != NULL && (ret = dbd->db_table[i].db->close(dbd->db_table[i].db, 0))) {
530             LOG(log_error, logtype_cnid, "error closing database %s: %s", dbd->db_table[i].name, db_strerror(ret));
531             err++;
532         }
533     }
534     if (err)
535         return -1;
536     return 0;
537 }
538
539 /* ------------------------ */
540 int dbif_close(DBD *dbd)
541 {
542     int ret;
543     int err = 0;
544
545     if (dbif_closedb(dbd))
546         err++;
547
548     if (dbd->db_env != NULL && (ret = dbd->db_env->close(dbd->db_env, 0))) {
549         LOG(log_error, logtype_cnid, "error closing DB environment: %s", db_strerror(ret));
550         err++;
551     }
552     if (dbd->db_errlog != NULL && fclose(dbd->db_errlog) == EOF) {
553         LOG(log_error, logtype_cnid, "error closing DB logfile: %s", strerror(errno));
554         err++;
555     }
556
557     free(dbd->db_filename);
558     free(dbd);
559     dbd = NULL;
560
561     if (err)
562         return -1;
563     return 0;
564 }
565
566 /* 
567    In order to support silent database upgrades:
568    destroy env at cnid_dbd shutdown.
569  */
570 int dbif_prep_upgrade(const char *path)
571 {
572     int ret;
573     DBD *dbd;
574
575     LOG(log_debug, logtype_cnid, "Reopening BerkeleyDB environment");
576     
577     if (NULL == (dbd = dbif_init(path, "cnid2.db")))
578         return -1;
579
580     /* Get db_env handle */
581     if ((ret = db_env_create(&dbd->db_env, 0))) {
582         LOG(log_error, logtype_cnid, "error creating DB environment: %s", db_strerror(ret));
583         dbd->db_env = NULL;
584         return -1;
585     }
586
587     if ((dbif_openlog(dbd)) != 0)
588         return -1;
589
590     /* Open environment with recovery */
591     if ((ret = dbd->db_env->open(dbd->db_env, 
592                                  dbd->db_envhome,
593                                  DB_CREATE | DB_INIT_LOG | DB_INIT_MPOOL | DB_INIT_LOCK | DB_INIT_TXN | DB_RECOVER | DB_PRIVATE,
594                                  0))) {
595         LOG(log_error, logtype_cnid, "error opening DB environment: %s",
596             db_strerror(ret));
597         dbd->db_env->close(dbd->db_env, 0);
598         dbd->db_env = NULL;
599         return -1;
600     }
601
602     if (dbd->db_errlog != NULL)
603         fflush(dbd->db_errlog);
604
605     /* Remove logfiles */
606     if ((ret = dbd->db_env->log_archive(dbd->db_env, NULL, DB_ARCH_REMOVE))) {
607          LOG(log_error, logtype_cnid, "error removing transaction logfiles: %s", db_strerror(ret));
608          return -1;
609     }
610
611     if ((ret = dbd->db_env->close(dbd->db_env, 0))) {
612         LOG(log_error, logtype_cnid, "error closing DB environment after recovery: %s", db_strerror(ret));
613         dbd->db_env = NULL;
614         return -1;
615     }
616
617     LOG(log_debug, logtype_cnid, "BerkeleyDB environment recovery done.");
618
619     /* Get a new db_env handle and then remove environment */
620     if ((ret = db_env_create(&dbd->db_env, 0))) {
621         LOG(log_error, logtype_cnid, "error acquiring db_end handle: %s", db_strerror(ret));
622         dbd->db_env = NULL;
623         return -1;
624     }
625     if ((ret = dbd->db_env->remove(dbd->db_env, dbd->db_envhome, 0))) {
626         LOG(log_error, logtype_cnid, "error removing BerkeleyDB environment: %s", db_strerror(ret));
627         return -1;
628     }
629
630     LOG(log_debug, logtype_cnid, "Removed BerkeleyDB environment.");
631
632     return 0;
633 }
634
635 /*
636  *  The following three functions are wrappers for DB->get(), DB->put() and DB->del().
637  *  All three return -1 on error. dbif_get()/dbif_del return 1 if the key was found and 0
638  *  otherwise. dbif_put() returns 0 if key/val was successfully updated and 1 if
639  *  the DB_NOOVERWRITE flag was specified and the key already exists.
640  *
641  *  All return codes other than DB_NOTFOUND and DB_KEYEXIST from the DB->()
642  *  functions are not expected and therefore error conditions.
643  */
644
645 int dbif_get(DBD *dbd, const int dbi, DBT *key, DBT *val, u_int32_t flags)
646 {
647     int ret;
648
649     ret = dbd->db_table[dbi].db->get(dbd->db_table[dbi].db,
650                                      dbd->db_txn,
651                                      key,
652                                      val,
653                                      flags);
654
655     if (ret == DB_NOTFOUND)
656         return 0;
657     if (ret) {
658         LOG(log_error, logtype_cnid, "error retrieving value from %s: %s",
659             dbd->db_table[dbi].name, db_strerror(ret));
660         return -1;
661     } else
662         return 1;
663 }
664
665 /* search by secondary return primary */
666 int dbif_pget(DBD *dbd, const int dbi, DBT *key, DBT *pkey, DBT *val, u_int32_t flags)
667 {
668     int ret;
669
670     ret = dbd->db_table[dbi].db->pget(dbd->db_table[dbi].db,
671                                       dbd->db_txn,
672                                       key,
673                                       pkey,
674                                       val,
675                                       flags);
676
677     if (ret == DB_NOTFOUND || ret == DB_SECONDARY_BAD) {
678         return 0;
679     }
680     if (ret) {
681         LOG(log_error, logtype_cnid, "error retrieving value from %s: %s",
682             dbd->db_table[dbi].name, db_strerror(ret));
683         return -1;
684    } else
685         return 1;
686 }
687
688 /* -------------------------- */
689 int dbif_put(DBD *dbd, const int dbi, DBT *key, DBT *val, u_int32_t flags)
690 {
691     int ret;
692
693     if (dbif_txn_begin(dbd) < 0) {
694         LOG(log_error, logtype_cnid, "error setting key/value in %s", dbd->db_table[dbi].name);
695         return -1;
696     }
697
698     ret = dbd->db_table[dbi].db->put(dbd->db_table[dbi].db,
699                                      dbd->db_txn,
700                                      key,
701                                      val,
702                                      flags);
703
704     
705     if (ret) {
706         if ((flags & DB_NOOVERWRITE) && ret == DB_KEYEXIST) {
707             return 1;
708         } else {
709             LOG(log_error, logtype_cnid, "error setting key/value in %s: %s",
710                 dbd->db_table[dbi].name, db_strerror(ret));
711             return -1;
712         }
713     } else
714         return 0;
715 }
716
717 int dbif_del(DBD *dbd, const int dbi, DBT *key, u_int32_t flags)
718 {
719     int ret;
720
721     /* For cooperation with the dbd utility and its usage of a cursor */
722     if (dbd->db_cur) {
723         dbd->db_cur->close(dbd->db_cur);
724         dbd->db_cur = NULL;
725     }    
726
727     if (dbif_txn_begin(dbd) < 0) {
728         LOG(log_error, logtype_cnid, "error deleting key/value from %s", dbd->db_table[dbi].name);
729         return -1;
730     }
731
732     ret = dbd->db_table[dbi].db->del(dbd->db_table[dbi].db,
733                                      dbd->db_txn,
734                                      key,
735                                      flags);
736     
737     if (ret == DB_NOTFOUND || ret == DB_SECONDARY_BAD)
738         return 0;
739     if (ret) {
740         LOG(log_error, logtype_cnid, "error deleting key/value from %s: %s",
741             dbd->db_table[dbi].name, db_strerror(ret));
742         return -1;
743     } else
744         return 1;
745 }
746
747 /*!
748  * Search the database by name
749  *
750  * @param resbuf    (w) buffer for search results CNIDs, maxsize is assumed to be
751  *                      DBD_MAX_SRCH_RSLTS * sizefof(cnid_t)
752  *
753  * @returns -1 on error, 0 when nothing found, else the number of matches
754  */
755 int dbif_search(DBD *dbd, DBT *key, char *resbuf)
756 {
757     int ret = 0;
758     int count = 0;
759     DBC *cursorp = NULL;
760     DBT pkey, data;
761     char *cnids = resbuf;
762     cnid_t cnid;
763
764     memset(&pkey, 0, sizeof(DBT));
765     memset(&data, 0, sizeof(DBT));
766
767     /* Get a cursor */
768     ret = dbd->db_table[DBIF_IDX_NAME].db->cursor(dbd->db_table[DBIF_IDX_NAME].db,
769                                                   NULL,
770                                                   &cursorp,
771                                                   0);
772     if (ret != 0) {
773         LOG(log_error, logtype_cnid, "Couldn't create cursor: %s", db_strerror(ret));
774         ret = -1;
775         goto exit;
776     }
777
778     ret = cursorp->pget(cursorp, key, &pkey, &data, DB_SET_RANGE);
779     while (count < DBD_MAX_SRCH_RSLTS && ret != DB_NOTFOUND) {
780         count++;
781         memcpy(cnids, pkey.data, sizeof(cnid_t));
782         cnids += sizeof(cnid_t);
783         LOG(log_error, logtype_cnid, "match: CNID %" PRIu32, memcpy(&cnid, pkey.data, sizeof(cnid_t)), ntohl(cnid));
784         ret = cursorp->pget(cursorp, key, &pkey, &data, DB_NEXT_DUP);
785     }
786
787     ret = count;
788
789 exit:
790     if (cursorp != NULL)
791         cursorp->close(cursorp);
792     return ret;
793 }
794
795 int dbif_txn_begin(DBD *dbd)
796 {
797     int ret;
798
799     /* If we already have an active txn, just return */
800     if (dbd->db_txn)
801         return 0;
802
803     /* If our DBD has no env, just return (-> in memory db) */
804     if (dbd->db_env == NULL)
805         return 0;
806
807     ret = dbd->db_env->txn_begin(dbd->db_env, NULL, &dbd->db_txn, 0);
808
809     if (ret) {
810         LOG(log_error, logtype_cnid, "error starting transaction: %s", db_strerror(ret));
811         return -1;
812     } else
813         return 0;
814 }
815
816 int dbif_txn_commit(DBD *dbd)
817 {
818     int ret;
819
820     if (! dbd->db_txn)
821         return 0;
822
823     /* If our DBD has no env, just return (-> in memory db) */
824     if (dbd->db_env == NULL)
825         return 0;
826
827     ret = dbd->db_txn->commit(dbd->db_txn, 0);
828     dbd->db_txn = NULL;
829     
830     if (ret) {
831         LOG(log_error, logtype_cnid, "error committing transaction: %s", db_strerror(ret));
832         return -1;
833     } else
834         return 1;
835 }
836
837 int dbif_txn_abort(DBD *dbd)
838 {
839     int ret;
840
841     if (! dbd->db_txn)
842         return 0;
843
844     /* If our DBD has no env, just return (-> in memory db) */
845     if (dbd->db_env == NULL)
846         return 0;
847
848     ret = dbd->db_txn->abort(dbd->db_txn);
849     dbd->db_txn = NULL;
850     
851     if (ret) {
852         LOG(log_error, logtype_cnid, "error aborting transaction: %s", db_strerror(ret));
853         return -1;
854     } else
855         return 0;
856 }
857
858 /* 
859    ret = 1 -> commit txn
860    ret = 0 -> abort txn -> exit!
861    anything else -> exit!
862 */
863 void dbif_txn_close(DBD *dbd, int ret)
864 {
865     if (ret == 0) {
866         if (dbif_txn_abort(dbd) < 0) {
867             LOG( log_error, logtype_cnid, "Fatal error aborting transaction. Exiting!");
868             exit(EXIT_FAILURE);
869         }
870     } else if (ret == 1) {
871         ret = dbif_txn_commit(dbd);
872         if (  ret < 0) {
873             LOG( log_error, logtype_cnid, "Fatal error committing transaction. Exiting!");
874             exit(EXIT_FAILURE);
875         }
876     } else
877        exit(EXIT_FAILURE);
878 }
879
880 int dbif_txn_checkpoint(DBD *dbd, u_int32_t kbyte, u_int32_t min, u_int32_t flags)
881 {
882     int ret;
883     ret = dbd->db_env->txn_checkpoint(dbd->db_env, kbyte, min, flags);
884     if (ret) {
885         LOG(log_error, logtype_cnid, "error checkpointing transaction susystem: %s", db_strerror(ret));
886         return -1;
887     } else
888         return 0;
889 }
890
891 int dbif_count(DBD *dbd, const int dbi, u_int32_t *count)
892 {
893     int ret;
894     DB_BTREE_STAT *sp;
895     DB *db = dbd->db_table[dbi].db;
896
897     ret = db->stat(db, NULL, &sp, 0);
898
899     if (ret) {
900         LOG(log_error, logtype_cnid, "error getting stat infotmation on database: %s", db_strerror(ret));
901         return -1;
902     }
903
904     *count = sp->bt_ndata;
905     free(sp);
906
907     return 0;
908 }
909
910 int dbif_copy_rootinfokey(DBD *srcdbd, DBD *destdbd)
911 {
912     DBT key, data;
913     int rc;
914
915     memset(&key, 0, sizeof(key));
916     memset(&data, 0, sizeof(data));
917
918     key.data = ROOTINFO_KEY;
919     key.size = ROOTINFO_KEYLEN;
920
921     if ((rc = dbif_get(srcdbd, DBIF_CNID, &key, &data, 0)) <= 0) {
922         LOG(log_error, logtype_cnid, "dbif_copy_rootinfokey: Error getting rootinfo record");
923         return -1;
924     }
925
926     memset(&key, 0, sizeof(key));
927     key.data = ROOTINFO_KEY;
928     key.size = ROOTINFO_KEYLEN;
929
930     if ((rc = dbif_put(destdbd, DBIF_CNID, &key, &data, 0))) {
931         LOG(log_error, logtype_cnid, "dbif_copy_rootinfokey: Error writing rootinfo key");
932         return -1;
933     }
934
935     return 0;
936 }
937
938 int dbif_dump(DBD *dbd, int dumpindexes)
939 {
940     int rc;
941     uint32_t max = 0, count = 0, cnid, type, did, lastid;
942     uint64_t dev, ino;
943     time_t stamp;
944     DBC *cur;
945     DBT key = { 0 }, data = { 0 };
946     DB *db = dbd->db_table[DBIF_CNID].db;
947     char *typestring[2] = {"f", "d"};
948     char timebuf[64];
949
950     printf("CNID database dump:\n");
951
952     rc = db->cursor(db, NULL, &cur, 0);
953     if (rc) {
954         LOG(log_error, logtype_cnid, "Couldn't create cursor: %s", db_strerror(rc));
955         return -1;
956     }
957
958     cur->c_get(cur, &key, &data, DB_FIRST);
959     while (rc == 0) {
960         /* Parse and print data */
961         memcpy(&cnid, key.data, 4);
962         cnid = ntohl(cnid);
963         if (cnid > max)
964             max = cnid;
965
966         /* Rootinfo node ? */
967         if (cnid == 0) {
968             memcpy(&stamp, (char *)data.data + 4, sizeof(time_t));
969             memcpy(&lastid, (char *)data.data + 20, sizeof(cnid_t));
970             lastid = ntohl(lastid);
971             strftime(timebuf, sizeof(timebuf), "%b %d %Y %H:%M:%S", localtime(&stamp));
972             printf("dbd stamp: 0x%08x (%s), next free CNID: %u\n", (unsigned int)stamp, timebuf, lastid + 1);
973         } else {
974             /* dev */
975             memcpy(&dev, (char *)data.data + CNID_DEV_OFS, 8);
976             dev = ntoh64(dev);
977             /* ino */
978             memcpy(&ino, (char *)data.data + CNID_INO_OFS, 8);
979             ino = ntoh64(ino);
980             /* type */
981             memcpy(&type, (char *)data.data + CNID_TYPE_OFS, 4);
982             type = ntohl(type);
983             /* did */
984             memcpy(&did, (char *)data.data + CNID_DID_OFS, 4);
985             did = ntohl(did);
986
987             count++;
988             printf("id: %10u, did: %10u, type: %s, dev: 0x%llx, ino: 0x%016llx, name: %s\n", 
989                    cnid, did, typestring[type],
990                    (long long unsigned int)dev, (long long unsigned int)ino, 
991                    (char *)data.data + CNID_NAME_OFS);
992
993         }
994
995         rc = cur->c_get(cur, &key, &data, DB_NEXT);
996     }
997
998     if (rc != DB_NOTFOUND) {
999         LOG(log_error, logtype_cnid, "Error iterating over btree: %s", db_strerror(rc));
1000         return -1;
1001     }
1002
1003     rc = cur->c_close(cur);
1004     if (rc) {
1005         LOG(log_error, logtype_cnid, "Couldn't close cursor: %s", db_strerror(rc));
1006         return -1;
1007     }
1008     printf("%u CNIDs in database. Max CNID: %u.\n", count, max);
1009
1010     /* Dump indexes too ? */
1011     if (dumpindexes) {
1012         /* DBIF_IDX_DEVINO */
1013         printf("\ndev/inode index:\n");
1014         count = 0;
1015         db = dbd->db_table[DBIF_IDX_DEVINO].db;
1016         rc = db->cursor(db, NULL, &cur, 0);
1017         if (rc) {
1018             LOG(log_error, logtype_cnid, "Couldn't create cursor: %s", db_strerror(rc));
1019             return -1;
1020         }
1021         
1022         cur->c_get(cur, &key, &data, DB_FIRST);
1023         while (rc == 0) {
1024             /* Parse and print data */
1025
1026             /* cnid */
1027             memcpy(&cnid, data.data, CNID_LEN);
1028             cnid = ntohl(cnid);
1029             if (cnid == 0) {
1030                 /* Rootinfo node */
1031             } else {
1032                 /* dev */
1033                 memcpy(&dev, key.data, CNID_DEV_LEN);
1034                 dev = ntoh64(dev);
1035                 /* ino */
1036                 memcpy(&ino, (char *)key.data + CNID_DEV_LEN, CNID_INO_LEN);
1037                 ino = ntoh64(ino);
1038                 
1039                 printf("id: %10u <== dev: 0x%llx, ino: 0x%016llx\n", 
1040                        cnid, (unsigned long long int)dev, (unsigned long long int)ino);
1041                 count++;
1042             }
1043             rc = cur->c_get(cur, &key, &data, DB_NEXT);
1044         }
1045         if (rc != DB_NOTFOUND) {
1046             LOG(log_error, logtype_cnid, "Error iterating over btree: %s", db_strerror(rc));
1047             return -1;
1048         }
1049         
1050         rc = cur->c_close(cur);
1051         if (rc) {
1052             LOG(log_error, logtype_cnid, "Couldn't close cursor: %s", db_strerror(rc));
1053             return -1;
1054         }
1055         printf("%u items\n", count);
1056
1057         /* Now dump DBIF_IDX_DIDNAME */
1058         printf("\ndid/name index:\n");
1059         count = 0;
1060         db = dbd->db_table[DBIF_IDX_DIDNAME].db;
1061         rc = db->cursor(db, NULL, &cur, 0);
1062         if (rc) {
1063             LOG(log_error, logtype_cnid, "Couldn't create cursor: %s", db_strerror(rc));
1064             return -1;
1065         }
1066         
1067         cur->c_get(cur, &key, &data, DB_FIRST);
1068         while (rc == 0) {
1069             /* Parse and print data */
1070
1071             /* cnid */
1072             memcpy(&cnid, data.data, CNID_LEN);
1073             cnid = ntohl(cnid);
1074             if (cnid == 0) {
1075                 /* Rootinfo node */
1076             } else {
1077                 /* did */
1078                 memcpy(&did, key.data, CNID_LEN);
1079                 did = ntohl(did);
1080
1081                 printf("id: %10u <== did: %10u, name: %s\n", cnid, did, (char *)key.data + CNID_LEN);
1082                 count++;
1083             }
1084             rc = cur->c_get(cur, &key, &data, DB_NEXT);
1085         }
1086         if (rc != DB_NOTFOUND) {
1087             LOG(log_error, logtype_cnid, "Error iterating over btree: %s", db_strerror(rc));
1088             return -1;
1089         }
1090         
1091         rc = cur->c_close(cur);
1092         if (rc) {
1093             LOG(log_error, logtype_cnid, "Couldn't close cursor: %s", db_strerror(rc));
1094             return -1;
1095         }
1096         printf("%u items\n", count);
1097     }
1098
1099     return 0;
1100 }
1101
1102 /* 
1103    Iterates over dbd, returning cnids.
1104    Uses in-value of cnid to seek to that cnid, then gets next and return that in cnid.
1105    If close=1, close cursor.
1106    Return -1 on error, 0 on EOD (end-of-database), 1 if returning cnid.
1107 */
1108 int dbif_idwalk(DBD *dbd, cnid_t *cnid, int close)
1109 {
1110     int rc;
1111     int flag;
1112     cnid_t id;
1113
1114     static DBT key = { 0 }, data = { 0 };
1115     DB *db = dbd->db_table[DBIF_CNID].db;
1116
1117     if (close) {
1118         if (dbd->db_cur) {
1119             dbd->db_cur->close(dbd->db_cur);
1120             dbd->db_cur = NULL;
1121         }
1122         return 0;
1123     }
1124
1125     /* An dbif_del will have closed our cursor too */
1126     if ( ! dbd->db_cur ) {
1127         if ((rc = db->cursor(db, NULL, &dbd->db_cur, 0)) != 0) {
1128             LOG(log_error, logtype_cnid, "Couldn't create cursor: %s", db_strerror(rc));
1129             return -1;
1130         }
1131         flag = DB_SET_RANGE;    /* This will seek to next cnid after the one just deleted */
1132         id = htonl(*cnid);
1133         key.data = &id;
1134         key.size = sizeof(cnid_t);
1135     } else
1136         flag = DB_NEXT;
1137
1138     if ((rc = dbd->db_cur->get(dbd->db_cur, &key, &data, flag)) == 0) {
1139         memcpy(cnid, key.data, sizeof(cnid_t));
1140         *cnid = ntohl(*cnid);
1141         return 1;
1142     }
1143
1144     if (rc != DB_NOTFOUND) {
1145         LOG(log_error, logtype_cnid, "Error iterating over btree: %s", db_strerror(rc));
1146         dbd->db_cur->close(dbd->db_cur);
1147         dbd->db_cur = NULL;
1148         return -1;
1149     }
1150
1151     if (dbd->db_cur) {
1152         dbd->db_cur->close(dbd->db_cur);
1153         dbd->db_cur = NULL;
1154     }    
1155
1156     return 0;
1157 }