etc/cnid_dbd/dbif.c

   1 /*
   2  * Copyright (C) Joerg Lenneis 2003
   3  * Copyright (C) Frank Lahm 2009
   4  * All Rights Reserved.  See COPYING.
   5  */
   6
   7 #ifdef HAVE_CONFIG_H
   8 #include "config.h"
   9 #endif /* HAVE_CONFIG_H */
  10
  11 #include <stdio.h>
  12 #include <errno.h>
  13 #include <stdlib.h>
  14 #ifdef HAVE_SYS_TYPES_H
  15 #include <sys/types.h>
  16 #endif /* HAVE_SYS_TYPES_H */
  17 #include <string.h>
  18 #include <sys/types.h>
  19 #include <sys/stat.h>
  20 #include <sys/cdefs.h>
  21 #include <unistd.h>
  22 #include <atalk/logger.h>
  23 #include <db.h>
  24 #include "db_param.h"
  25 #include "dbif.h"
  26 #include "pack.h"
  27
  28 #define DB_ERRLOGFILE "db_errlog"
  29
  30 static char *old_dbfiles[] = {"cnid.db", NULL};
  31
  32 /* --------------- */
  33 static int upgrade_required(const DBD *dbd)
  34 {
  35     int i;
  36     int cwd = -1;
  37     int ret = 0;
  38     int found = 0;
  39     struct stat st;
  40
  41     if ( ! dbd->db_filename)
  42         /* in memory db */
  43         return 0;
  44
  45     /* Remember cwd */
  46     if ((cwd = open(".", O_RDONLY)) < 0) {
  47         LOG(log_error, logtype_cnid, "error opening cwd: %s", strerror(errno));
  48         return -1;
  49     }
  50
  51     /* chdir to db_envhome */
  52     if ((chdir(dbd->db_envhome)) != 0) {
  53         LOG(log_error, logtype_cnid, "error chdiring to db_env '%s': %s", dbd->db_envhome, strerror(errno));
  54         ret = -1;
  55         goto exit;
  56     }
  57
  58     for (i = 0; old_dbfiles[i] != NULL; i++) {
  59         if ( !(stat(old_dbfiles[i], &st) < 0) ) {
  60             found++;
  61             continue;
  62         }
  63         if (errno != ENOENT) {
  64             LOG(log_error, logtype_cnid, "cnid_open: Checking %s gave %s", old_dbfiles[i], strerror(errno));
  65             found++;
  66         }
  67     }
  68
  69 exit:
  70     if (cwd != -1) {
  71         if ((fchdir(cwd)) != 0) {
  72             LOG(log_error, logtype_cnid, "error chdiring back: %s", strerror(errno));
  73             ret = -1;
  74         }
  75         close(cwd);
  76     }
  77     return (ret < 0 ? ret : found);
  78 }
  79
  80 /* --------------- */
  81 static int dbif_openlog(DBD *dbd)
  82 {
  83     int ret = 0;
  84     int cwd = -1;
  85
  86     if ( ! dbd->db_filename)
  87         /* in memory db */
  88         return 0;
  89
  90     /* Remember cwd */
  91     if ((cwd = open(".", O_RDONLY)) < 0) {
  92         LOG(log_error, logtype_cnid, "error opening cwd: %s", strerror(errno));
  93         return -1;
  94     }
  95
  96     /* chdir to db_envhome */
  97     if ((chdir(dbd->db_envhome)) != 0) {
  98         LOG(log_error, logtype_cnid, "error chdiring to db_env '%s': %s", dbd->db_envhome, strerror(errno));
  99         ret = -1;
 100         goto exit;
 101     }
 102
 103     if ((dbd->db_errlog = fopen(DB_ERRLOGFILE, "a")) == NULL)
 104         LOG(log_warning, logtype_cnid, "error creating/opening DB errlogfile: %s", strerror(errno));
 105
 106     if (dbd->db_errlog != NULL) {
 107         dbd->db_env->set_errfile(dbd->db_env, dbd->db_errlog);
 108         dbd->db_env->set_msgfile(dbd->db_env, dbd->db_errlog);
 109     }
 110
 111 exit:
 112     if (cwd != -1) {
 113         if ((fchdir(cwd)) != 0) {
 114             LOG(log_error, logtype_cnid, "error chdiring back: %s", strerror(errno));
 115             ret = -1;
 116         }
 117         close(cwd);
 118     }
 119     return ret;
 120 }
 121
 122 /* --------------- */
 123 static int dbif_logautorem(DBD *dbd)
 124 {
 125     int ret = 0;
 126     int cwd = -1;
 127     char **logfiles = NULL;
 128     char **file;
 129
 130     if ( ! dbd->db_filename)
 131         /* in memory db */
 132         return 0;
 133
 134     /* Remember cwd */
 135     if ((cwd = open(".", O_RDONLY)) < 0) {
 136         LOG(log_error, logtype_cnid, "error opening cwd: %s", strerror(errno));
 137         return -1;
 138     }
 139
 140     /* chdir to db_envhome */
 141     if ((chdir(dbd->db_envhome)) != 0) {
 142         LOG(log_error, logtype_cnid, "error chdiring to db_env '%s': %s", dbd->db_envhome, strerror(errno));
 143         ret = -1;
 144         goto exit;
 145     }
 146
 147     if ((ret = dbd->db_env->log_archive(dbd->db_env, &logfiles, 0)) != 0) {
 148         LOG(log_error, logtype_cnid, "error getting list of stale logfiles: %s",
 149             db_strerror(ret));
 150         dbd->db_env->close(dbd->db_env, 0);
 151         dbd->db_env = NULL;
 152         ret = -1;
 153         goto exit;
 154     }
 155
 156     if (logfiles != NULL) {
 157         for (file = logfiles; *file != NULL; file++) {
 158             if (unlink(*file) < 0)
 159                 LOG(log_warning, logtype_cnid, "Error removing stale logfile %s: %s", *file, strerror(errno));
 160         }
 161         free(logfiles);
 162     }
 163
 164 exit:
 165     if (cwd != -1) {
 166         if ((fchdir(cwd)) != 0) {
 167             LOG(log_error, logtype_cnid, "error chdiring back: %s", strerror(errno));
 168             ret = -1;
 169         }
 170         close(cwd);
 171     }
 172     return ret;
 173 }
 174
 175 /* --------------- */
 176 int dbif_stamp(DBD *dbd, void *buffer, int size)
 177 {
 178     struct stat st;
 179     int         rc,cwd;
 180
 181     if (size < 8)
 182         return -1;
 183
 184     /* Remember cwd */
 185     if ((cwd = open(".", O_RDONLY)) < 0) {
 186         LOG(log_error, logtype_cnid, "error opening cwd: %s", strerror(errno));
 187         return -1;
 188     }
 189
 190     /* chdir to db_envhome */
 191     if ((chdir(dbd->db_envhome)) != 0) {
 192         LOG(log_error, logtype_cnid, "error chdiring to db_env '%s': %s", dbd->db_envhome, strerror(errno));
 193         return -1;
 194     }
 195
 196     if ((rc = stat(dbd->db_table[DBIF_CNID].name, &st)) < 0) {
 197         LOG(log_error, logtype_cnid, "error stating database %s: %s", dbd->db_table[DBIF_CNID].name, db_strerror(errno));
 198         return -1;
 199     }
 200     memset(buffer, 0, size);
 201     memcpy(buffer, &st.st_ctime, sizeof(st.st_ctime));
 202
 203     if ((fchdir(cwd)) != 0) {
 204         LOG(log_error, logtype_cnid, "error chdiring back: %s", strerror(errno));
 205         return -1;
 206     }
 207
 208     return 0;
 209 }
 210
 211 /* --------------- */
 212 DBD *dbif_init(const char *envhome, const char *filename)
 213 {
 214     DBD *dbd;
 215
 216     if ( NULL == (dbd = calloc(sizeof(DBD), 1)) )
 217         return NULL;
 218
 219     /* filename == NULL means in memory db */
 220     if (filename) {
 221         if (! envhome)
 222             return NULL;
 223
 224         dbd->db_envhome = strdup(envhome);
 225         if (NULL == dbd->db_envhome) {
 226             free(dbd);
 227             return NULL;
 228         }
 229
 230         dbd->db_filename = strdup(filename);
 231         if (NULL == dbd->db_filename) {
 232             free(dbd->db_envhome);
 233             free(dbd);
 234             return NULL;
 235         }
 236     }
 237
 238     dbd->db_table[DBIF_CNID].name        = "cnid2.db";
 239     dbd->db_table[DBIF_IDX_DEVINO].name  = "devino.db";
 240     dbd->db_table[DBIF_IDX_DIDNAME].name = "didname.db";
 241     dbd->db_table[DBIF_IDX_NAME].name    = "name.db";
 242
 243     dbd->db_table[DBIF_CNID].type        = DB_BTREE;
 244     dbd->db_table[DBIF_IDX_DEVINO].type  = DB_BTREE;
 245     dbd->db_table[DBIF_IDX_DIDNAME].type = DB_BTREE;
 246     dbd->db_table[DBIF_IDX_NAME].type    = DB_BTREE;
 247
 248     dbd->db_table[DBIF_CNID].openflags        = DB_CREATE;
 249     dbd->db_table[DBIF_IDX_DEVINO].openflags  = DB_CREATE;
 250     dbd->db_table[DBIF_IDX_DIDNAME].openflags = DB_CREATE;
 251     dbd->db_table[DBIF_IDX_NAME].openflags    = DB_CREATE;
 252
 253     dbd->db_table[DBIF_IDX_NAME].flags = DB_DUPSORT;
 254
 255     return dbd;
 256 }
 257
 258 /*
 259    We must open the db_env with an absolute pathname, as `dbd` keeps chdir'ing, which
 260    breaks e.g. bdb logfile-rotation with relative pathnames.
 261    But still we use relative paths with upgrade_required() and the DB_ERRLOGFILE
 262    in order to avoid creating absolute paths by copying. Both have no problem with
 263    a relative path.
 264 */
 265 int dbif_env_open(DBD *dbd, struct db_param *dbp, uint32_t dbenv_oflags)
 266 {
 267     int ret;
 268
 269     /* Refuse to do anything if this is an old version of the CNID database */
 270     if (upgrade_required(dbd)) {
 271         LOG(log_error, logtype_cnid, "Found version 1 of the CNID database. Please upgrade to version 2");
 272         return -1;
 273     }
 274
 275     if ((ret = db_env_create(&dbd->db_env, 0))) {
 276         LOG(log_error, logtype_cnid, "error creating DB environment: %s",
 277             db_strerror(ret));
 278         dbd->db_env = NULL;
 279         return -1;
 280     }
 281
 282     if ((dbif_openlog(dbd)) != 0)
 283         return -1;
 284
 285     if (dbenv_oflags & DB_RECOVER) {
 286
 287         LOG(log_debug, logtype_cnid, "Running recovery");
 288
 289         dbd->db_env->set_verbose(dbd->db_env, DB_VERB_RECOVERY, 1);
 290         /* Open the database for recovery using DB_PRIVATE option which is faster */
 291         if ((ret = dbd->db_env->open(dbd->db_env, dbd->db_envhome, dbenv_oflags | DB_PRIVATE, 0))) {
 292             LOG(log_error, logtype_cnid, "error opening DB environment: %s",
 293                 db_strerror(ret));
 294             dbd->db_env->close(dbd->db_env, 0);
 295             dbd->db_env = NULL;
 296             return -1;
 297         }
 298         dbenv_oflags = (dbenv_oflags & ~DB_RECOVER);
 299
 300         if (dbd->db_errlog != NULL)
 301             fflush(dbd->db_errlog);
 302
 303         if ((ret = dbd->db_env->close(dbd->db_env, 0))) {
 304             LOG(log_error, logtype_cnid, "error closing DB environment after recovery: %s",
 305                 db_strerror(ret));
 306             dbd->db_env = NULL;
 307             return -1;
 308         }
 309         dbd->db_errlog = NULL;
 310
 311         if ((ret = db_env_create(&dbd->db_env, 0))) {
 312             LOG(log_error, logtype_cnid, "error creating DB environment after recovery: %s",
 313                 db_strerror(ret));
 314             dbd->db_env = NULL;
 315             return -1;
 316         }
 317
 318         if ((dbif_openlog(dbd)) != 0)
 319             return -1;
 320
 321         LOG(log_debug, logtype_cnid, "Finished recovery.");
 322     }
 323
 324     if ((ret = dbd->db_env->set_cachesize(dbd->db_env, 0, 1024 * dbp->cachesize, 0))) {
 325         LOG(log_error, logtype_cnid, "error setting DB environment cachesize to %i: %s",
 326             dbp->cachesize, db_strerror(ret));
 327         dbd->db_env->close(dbd->db_env, 0);
 328         dbd->db_env = NULL;
 329         return -1;
 330     }
 331
 332     if ((ret = dbd->db_env->open(dbd->db_env, dbd->db_envhome, dbenv_oflags, 0))) {
 333         LOG(log_error, logtype_cnid, "error opening DB environment after recovery: %s",
 334             db_strerror(ret));
 335         dbd->db_env->close(dbd->db_env, 0);
 336         dbd->db_env = NULL;
 337         return -1;
 338     }
 339
 340     if ((ret = dbd->db_env->set_flags(dbd->db_env, DB_AUTO_COMMIT, 1))) {
 341         LOG(log_error, logtype_cnid, "error setting DB_AUTO_COMMIT flag: %s",
 342             db_strerror(ret));
 343         dbd->db_env->close(dbd->db_env, 0);
 344         dbd->db_env = NULL;
 345         return -1;
 346     }
 347
 348     if (dbp->logfile_autoremove) {
 349         if ((dbif_logautorem(dbd)) != 0)
 350             return -1;
 351
 352 #if DB_VERSION_MAJOR > 4 || (DB_VERSION_MAJOR == 4 && DB_VERSION_MINOR >= 7)
 353         if ((ret = dbd->db_env->log_set_config(dbd->db_env, DB_LOG_AUTO_REMOVE, 1))) {
 354             LOG(log_error, logtype_cnid, "error setting DB_LOG_AUTO_REMOVE flag: %s",
 355             db_strerror(ret));
 356             dbd->db_env->close(dbd->db_env, 0);
 357             dbd->db_env = NULL;
 358             return -1;
 359         }
 360 #else
 361         if ((ret = dbd->db_env->set_flags(dbd->db_env, DB_LOG_AUTOREMOVE, 1))) {
 362             LOG(log_error, logtype_cnid, "error setting DB_LOG_AUTOREMOVE flag: %s",
 363                 db_strerror(ret));
 364             dbd->db_env->close(dbd->db_env, 0);
 365             dbd->db_env = NULL;
 366             return -1;
 367         }
 368 #endif
 369     }
 370
 371     return 0;
 372 }
 373
 374 /* --------------- */
 375 int dbif_open(DBD *dbd, struct db_param *dbp, int reindex)
 376 {
 377     int ret, i, cwd;
 378     u_int32_t count;
 379     struct stat st;
 380     DB *upgrade_db;
 381
 382     /* Try to upgrade if it's a normal on-disk database */
 383     if (dbd->db_envhome) {
 384         /* Remember cwd */
 385         if ((cwd = open(".", O_RDONLY)) < 0) {
 386             LOG(log_error, logtype_cnid, "error opening cwd: %s", strerror(errno));
 387             return -1;
 388         }
 389
 390         /* chdir to db_envhome. makes it easier checking for old db files and creating db_errlog file  */
 391         if ((chdir(dbd->db_envhome)) != 0) {
 392             LOG(log_error, logtype_cnid, "error chdiring to db_env '%s': %s", dbd->db_envhome, strerror(errno));
 393             return -1;
 394         }
 395
 396         if ((stat(dbd->db_filename, &st)) == 0) {
 397             LOG(log_debug, logtype_cnid, "See if we can upgrade the CNID database...");
 398             if ((ret = db_create(&upgrade_db, dbd->db_env, 0))) {
 399                 LOG(log_error, logtype_cnid, "error creating handle for database: %s", db_strerror(ret));
 400                 return -1;
 401             }
 402             if ((ret = upgrade_db->upgrade(upgrade_db, dbd->db_filename, 0))) {
 403                 LOG(log_error, logtype_cnid, "error upgarding database: %s", db_strerror(ret));
 404                 return -1;
 405             }
 406             if ((ret = upgrade_db->close(upgrade_db, 0))) {
 407                 LOG(log_error, logtype_cnid, "error closing database: %s", db_strerror(ret));
 408                 return -1;
 409             }
 410             if ((ret = dbd->db_env->txn_checkpoint(dbd->db_env, 0, 0, DB_FORCE))) {
 411                 LOG(log_error, logtype_cnid, "error forcing checkpoint: %s", db_strerror(ret));
 412                 return -1;
 413             }
 414             LOG(log_debug, logtype_cnid, "Finished CNID database upgrade check");
 415         }
 416
 417         if ((fchdir(cwd)) != 0) {
 418             LOG(log_error, logtype_cnid, "error chdiring back: %s", strerror(errno));
 419             return -1;
 420         }
 421     }
 422
 423     /* Now open databases ... */
 424     for (i = 0; i != DBIF_DB_CNT; i++) {
 425         if ((ret = db_create(&dbd->db_table[i].db, dbd->db_env, 0))) {
 426             LOG(log_error, logtype_cnid, "error creating handle for database %s: %s",
 427                 dbd->db_table[i].name, db_strerror(ret));
 428             return -1;
 429         }
 430
 431         if (dbd->db_table[i].flags) {
 432             if ((ret = dbd->db_table[i].db->set_flags(dbd->db_table[i].db,
 433                                                       dbd->db_table[i].flags))) {
 434                 LOG(log_error, logtype_cnid, "error setting flags for database %s: %s",
 435                     dbd->db_table[i].name, db_strerror(ret));
 436                 return -1;
 437             }
 438         }
 439
 440         if ( ! dbd->db_env) {   /* In memory db */
 441             if ((ret = dbd->db_table[i].db->set_cachesize(dbd->db_table[i].db,
 442                                                           0,
 443                                                           dbp->cachesize,
 444                                                           4)) /* split in 4 memory chunks */
 445                 < 0)  {
 446                 LOG(log_error, logtype_cnid, "error setting cachesize %u KB for database %s: %s",
 447                     dbp->cachesize / 1024, dbd->db_table[i].name, db_strerror(ret));
 448                 return -1;
 449             }
 450         }
 451
 452         if (dbd->db_table[i].db->open(dbd->db_table[i].db,
 453                                       dbd->db_txn,
 454                                       dbd->db_filename,
 455                                       dbd->db_table[i].name,
 456                                       dbd->db_table[i].type,
 457                                       dbd->db_table[i].openflags,
 458                                       0664) < 0) {
 459             LOG(log_error, logtype_cnid, "Cant open database");
 460             return -1;
 461         }
 462
 463         if (reindex && i > 0) {
 464             LOG(log_info, logtype_cnid, "Truncating CNID index.");
 465             if ((ret = dbd->db_table[i].db->truncate(dbd->db_table[i].db, NULL, &count, 0))) {
 466                 LOG(log_error, logtype_cnid, "error truncating database %s: %s",
 467                     dbd->db_table[i].name, db_strerror(ret));
 468                 return -1;
 469             }
 470         }
 471     }
 472
 473     /* TODO: Implement CNID DB versioning info on new databases. */
 474
 475     /* Associate the secondary with the primary. */
 476     if (reindex)
 477         LOG(log_info, logtype_cnid, "Reindexing did/name index...");
 478     if ((ret = dbd->db_table[0].db->associate(dbd->db_table[DBIF_CNID].db,
 479                                               dbd->db_txn,
 480                                               dbd->db_table[DBIF_IDX_DIDNAME].db,
 481                                               didname,
 482                                               (reindex) ? DB_CREATE : 0))
 483          != 0) {
 484         LOG(log_error, logtype_cnid, "Failed to associate didname database: %s",db_strerror(ret));
 485         return -1;
 486     }
 487     if (reindex)
 488         LOG(log_info, logtype_cnid, "... done.");
 489
 490     if (reindex)
 491         LOG(log_info, logtype_cnid, "Reindexing dev/ino index...");
 492     if ((ret = dbd->db_table[0].db->associate(dbd->db_table[0].db,
 493                                               dbd->db_txn,
 494                                               dbd->db_table[DBIF_IDX_DEVINO].db,
 495                                               devino,
 496                                               (reindex) ? DB_CREATE : 0))
 497         != 0) {
 498         LOG(log_error, logtype_cnid, "Failed to associate devino database: %s",db_strerror(ret));
 499         return -1;
 500     }
 501     if (reindex)
 502         LOG(log_info, logtype_cnid, "... done.");
 503
 504     if (reindex)
 505         LOG(log_info, logtype_cnid, "Reindexing name index...");
 506     if ((ret = dbd->db_table[0].db->associate(dbd->db_table[0].db,
 507                                               dbd->db_txn,
 508                                               dbd->db_table[DBIF_IDX_NAME].db,
 509                                               idxname,
 510                                               (reindex) ? DB_CREATE : 0))
 511         != 0) {
 512         LOG(log_error, logtype_cnid, "Failed to associate name index: %s",db_strerror(ret));
 513         return -1;
 514     }
 515     if (reindex)
 516         LOG(log_info, logtype_cnid, "... done.");
 517
 518     return 0;
 519 }
 520
 521 /* ------------------------ */
 522 static int dbif_closedb(DBD *dbd)
 523 {
 524     int i;
 525     int ret;
 526     int err = 0;
 527
 528     for (i = DBIF_DB_CNT -1; i >= 0; i--) {
 529         if (dbd->db_table[i].db != NULL && (ret = dbd->db_table[i].db->close(dbd->db_table[i].db, 0))) {
 530             LOG(log_error, logtype_cnid, "error closing database %s: %s", dbd->db_table[i].name, db_strerror(ret));
 531             err++;
 532         }
 533     }
 534     if (err)
 535         return -1;
 536     return 0;
 537 }
 538
 539 /* ------------------------ */
 540 int dbif_close(DBD *dbd)
 541 {
 542     int ret;
 543     int err = 0;
 544
 545     if (dbif_closedb(dbd))
 546         err++;
 547
 548     if (dbd->db_env != NULL && (ret = dbd->db_env->close(dbd->db_env, 0))) {
 549         LOG(log_error, logtype_cnid, "error closing DB environment: %s", db_strerror(ret));
 550         err++;
 551     }
 552     if (dbd->db_errlog != NULL && fclose(dbd->db_errlog) == EOF) {
 553         LOG(log_error, logtype_cnid, "error closing DB logfile: %s", strerror(errno));
 554         err++;
 555     }
 556
 557     free(dbd->db_filename);
 558     free(dbd);
 559     dbd = NULL;
 560
 561     if (err)
 562         return -1;
 563     return 0;
 564 }
 565
 566 /*
 567    In order to support silent database upgrades:
 568    destroy env at cnid_dbd shutdown.
 569  */
 570 int dbif_prep_upgrade(const char *path)
 571 {
 572     int ret;
 573     DBD *dbd;
 574
 575     LOG(log_debug, logtype_cnid, "Reopening BerkeleyDB environment");
 576
 577     if (NULL == (dbd = dbif_init(path, "cnid2.db")))
 578         return -1;
 579
 580     /* Get db_env handle */
 581     if ((ret = db_env_create(&dbd->db_env, 0))) {
 582         LOG(log_error, logtype_cnid, "error creating DB environment: %s", db_strerror(ret));
 583         dbd->db_env = NULL;
 584         return -1;
 585     }
 586
 587     if ((dbif_openlog(dbd)) != 0)
 588         return -1;
 589
 590     /* Open environment with recovery */
 591     if ((ret = dbd->db_env->open(dbd->db_env,
 592                                  dbd->db_envhome,
 593                                  DB_CREATE | DB_INIT_LOG | DB_INIT_MPOOL | DB_INIT_LOCK | DB_INIT_TXN | DB_RECOVER | DB_PRIVATE,
 594                                  0))) {
 595         LOG(log_error, logtype_cnid, "error opening DB environment: %s",
 596             db_strerror(ret));
 597         dbd->db_env->close(dbd->db_env, 0);
 598         dbd->db_env = NULL;
 599         return -1;
 600     }
 601
 602     if (dbd->db_errlog != NULL)
 603         fflush(dbd->db_errlog);
 604
 605     /* Remove logfiles */
 606     if ((ret = dbd->db_env->log_archive(dbd->db_env, NULL, DB_ARCH_REMOVE))) {
 607          LOG(log_error, logtype_cnid, "error removing transaction logfiles: %s", db_strerror(ret));
 608          return -1;
 609     }
 610
 611     if ((ret = dbd->db_env->close(dbd->db_env, 0))) {
 612         LOG(log_error, logtype_cnid, "error closing DB environment after recovery: %s", db_strerror(ret));
 613         dbd->db_env = NULL;
 614         return -1;
 615     }
 616
 617     LOG(log_debug, logtype_cnid, "BerkeleyDB environment recovery done.");
 618
 619     /* Get a new db_env handle and then remove environment */
 620     if ((ret = db_env_create(&dbd->db_env, 0))) {
 621         LOG(log_error, logtype_cnid, "error acquiring db_end handle: %s", db_strerror(ret));
 622         dbd->db_env = NULL;
 623         return -1;
 624     }
 625     if ((ret = dbd->db_env->remove(dbd->db_env, dbd->db_envhome, 0))) {
 626         LOG(log_error, logtype_cnid, "error removing BerkeleyDB environment: %s", db_strerror(ret));
 627         return -1;
 628     }
 629
 630     LOG(log_debug, logtype_cnid, "Removed BerkeleyDB environment.");
 631
 632     return 0;
 633 }
 634
 635 /*
 636  *  The following three functions are wrappers for DB->get(), DB->put() and DB->del().
 637  *  All three return -1 on error. dbif_get()/dbif_del return 1 if the key was found and 0
 638  *  otherwise. dbif_put() returns 0 if key/val was successfully updated and 1 if
 639  *  the DB_NOOVERWRITE flag was specified and the key already exists.
 640  *
 641  *  All return codes other than DB_NOTFOUND and DB_KEYEXIST from the DB->()
 642  *  functions are not expected and therefore error conditions.
 643  */
 644
 645 int dbif_get(DBD *dbd, const int dbi, DBT *key, DBT *val, u_int32_t flags)
 646 {
 647     int ret;
 648
 649     ret = dbd->db_table[dbi].db->get(dbd->db_table[dbi].db,
 650                                      dbd->db_txn,
 651                                      key,
 652                                      val,
 653                                      flags);
 654
 655     if (ret == DB_NOTFOUND)
 656         return 0;
 657     if (ret) {
 658         LOG(log_error, logtype_cnid, "error retrieving value from %s: %s",
 659             dbd->db_table[dbi].name, db_strerror(ret));
 660         return -1;
 661     } else
 662         return 1;
 663 }
 664
 665 /* search by secondary return primary */
 666 int dbif_pget(DBD *dbd, const int dbi, DBT *key, DBT *pkey, DBT *val, u_int32_t flags)
 667 {
 668     int ret;
 669
 670     ret = dbd->db_table[dbi].db->pget(dbd->db_table[dbi].db,
 671                                       dbd->db_txn,
 672                                       key,
 673                                       pkey,
 674                                       val,
 675                                       flags);
 676
 677     if (ret == DB_NOTFOUND || ret == DB_SECONDARY_BAD) {
 678         return 0;
 679     }
 680     if (ret) {
 681         LOG(log_error, logtype_cnid, "error retrieving value from %s: %s",
 682             dbd->db_table[dbi].name, db_strerror(ret));
 683         return -1;
 684    } else
 685         return 1;
 686 }
 687
 688 /* -------------------------- */
 689 int dbif_put(DBD *dbd, const int dbi, DBT *key, DBT *val, u_int32_t flags)
 690 {
 691     int ret;
 692
 693     if (dbif_txn_begin(dbd) < 0) {
 694         LOG(log_error, logtype_cnid, "error setting key/value in %s", dbd->db_table[dbi].name);
 695         return -1;
 696     }
 697
 698     ret = dbd->db_table[dbi].db->put(dbd->db_table[dbi].db,
 699                                      dbd->db_txn,
 700                                      key,
 701                                      val,
 702                                      flags);
 703
 704
 705     if (ret) {
 706         if ((flags & DB_NOOVERWRITE) && ret == DB_KEYEXIST) {
 707             return 1;
 708         } else {
 709             LOG(log_error, logtype_cnid, "error setting key/value in %s: %s",
 710                 dbd->db_table[dbi].name, db_strerror(ret));
 711             return -1;
 712         }
 713     } else
 714         return 0;
 715 }
 716
 717 int dbif_del(DBD *dbd, const int dbi, DBT *key, u_int32_t flags)
 718 {
 719     int ret;
 720
 721     /* For cooperation with the dbd utility and its usage of a cursor */
 722     if (dbd->db_cur) {
 723         dbd->db_cur->close(dbd->db_cur);
 724         dbd->db_cur = NULL;
 725     }
 726
 727     if (dbif_txn_begin(dbd) < 0) {
 728         LOG(log_error, logtype_cnid, "error deleting key/value from %s", dbd->db_table[dbi].name);
 729         return -1;
 730     }
 731
 732     ret = dbd->db_table[dbi].db->del(dbd->db_table[dbi].db,
 733                                      dbd->db_txn,
 734                                      key,
 735                                      flags);
 736
 737     if (ret == DB_NOTFOUND || ret == DB_SECONDARY_BAD)
 738         return 0;
 739     if (ret) {
 740         LOG(log_error, logtype_cnid, "error deleting key/value from %s: %s",
 741             dbd->db_table[dbi].name, db_strerror(ret));
 742         return -1;
 743     } else
 744         return 1;
 745 }
 746
 747 int dbif_search(DBD *dbd, DBT *key, int sindex, char *resbuf, ssize_t bufsize)
 748 {
 749     int ret;
 750     DBC *cursorp;
 751
 752     /* Get a cursor */
 753     dbd->db_table[DBIF_IDX_NAME].db->cursor(dbd->db_table[DBIF_IDX_NAME].db,
 754                                             NULL,
 755                                             &cursorp,
 756                                             0);
 757
 758     return 1;
 759 }
 760
 761 int dbif_txn_begin(DBD *dbd)
 762 {
 763     int ret;
 764
 765     /* If we already have an active txn, just return */
 766     if (dbd->db_txn)
 767         return 0;
 768
 769     /* If our DBD has no env, just return (-> in memory db) */
 770     if (dbd->db_env == NULL)
 771         return 0;
 772
 773     ret = dbd->db_env->txn_begin(dbd->db_env, NULL, &dbd->db_txn, 0);
 774
 775     if (ret) {
 776         LOG(log_error, logtype_cnid, "error starting transaction: %s", db_strerror(ret));
 777         return -1;
 778     } else
 779         return 0;
 780 }
 781
 782 int dbif_txn_commit(DBD *dbd)
 783 {
 784     int ret;
 785
 786     if (! dbd->db_txn)
 787         return 0;
 788
 789     /* If our DBD has no env, just return (-> in memory db) */
 790     if (dbd->db_env == NULL)
 791         return 0;
 792
 793     ret = dbd->db_txn->commit(dbd->db_txn, 0);
 794     dbd->db_txn = NULL;
 795
 796     if (ret) {
 797         LOG(log_error, logtype_cnid, "error committing transaction: %s", db_strerror(ret));
 798         return -1;
 799     } else
 800         return 1;
 801 }
 802
 803 int dbif_txn_abort(DBD *dbd)
 804 {
 805     int ret;
 806
 807     if (! dbd->db_txn)
 808         return 0;
 809
 810     /* If our DBD has no env, just return (-> in memory db) */
 811     if (dbd->db_env == NULL)
 812         return 0;
 813
 814     ret = dbd->db_txn->abort(dbd->db_txn);
 815     dbd->db_txn = NULL;
 816
 817     if (ret) {
 818         LOG(log_error, logtype_cnid, "error aborting transaction: %s", db_strerror(ret));
 819         return -1;
 820     } else
 821         return 0;
 822 }
 823
 824 /*
 825    ret = 1 -> commit txn
 826    ret = 0 -> abort txn -> exit!
 827    anything else -> exit!
 828 */
 829 void dbif_txn_close(DBD *dbd, int ret)
 830 {
 831     if (ret == 0) {
 832         if (dbif_txn_abort(dbd) < 0) {
 833             LOG( log_error, logtype_cnid, "Fatal error aborting transaction. Exiting!");
 834             exit(EXIT_FAILURE);
 835         }
 836     } else if (ret == 1) {
 837         ret = dbif_txn_commit(dbd);
 838         if (  ret < 0) {
 839             LOG( log_error, logtype_cnid, "Fatal error committing transaction. Exiting!");
 840             exit(EXIT_FAILURE);
 841         }
 842     } else
 843        exit(EXIT_FAILURE);
 844 }
 845
 846 int dbif_txn_checkpoint(DBD *dbd, u_int32_t kbyte, u_int32_t min, u_int32_t flags)
 847 {
 848     int ret;
 849     ret = dbd->db_env->txn_checkpoint(dbd->db_env, kbyte, min, flags);
 850     if (ret) {
 851         LOG(log_error, logtype_cnid, "error checkpointing transaction susystem: %s", db_strerror(ret));
 852         return -1;
 853     } else
 854         return 0;
 855 }
 856
 857 int dbif_count(DBD *dbd, const int dbi, u_int32_t *count)
 858 {
 859     int ret;
 860     DB_BTREE_STAT *sp;
 861     DB *db = dbd->db_table[dbi].db;
 862
 863     ret = db->stat(db, NULL, &sp, 0);
 864
 865     if (ret) {
 866         LOG(log_error, logtype_cnid, "error getting stat infotmation on database: %s", db_strerror(ret));
 867         return -1;
 868     }
 869
 870     *count = sp->bt_ndata;
 871     free(sp);
 872
 873     return 0;
 874 }
 875
 876 int dbif_copy_rootinfokey(DBD *srcdbd, DBD *destdbd)
 877 {
 878     DBT key, data;
 879     int rc;
 880
 881     memset(&key, 0, sizeof(key));
 882     memset(&data, 0, sizeof(data));
 883
 884     key.data = ROOTINFO_KEY;
 885     key.size = ROOTINFO_KEYLEN;
 886
 887     if ((rc = dbif_get(srcdbd, DBIF_CNID, &key, &data, 0)) <= 0) {
 888         LOG(log_error, logtype_cnid, "dbif_copy_rootinfokey: Error getting rootinfo record");
 889         return -1;
 890     }
 891
 892     memset(&key, 0, sizeof(key));
 893     key.data = ROOTINFO_KEY;
 894     key.size = ROOTINFO_KEYLEN;
 895
 896     if ((rc = dbif_put(destdbd, DBIF_CNID, &key, &data, 0))) {
 897         LOG(log_error, logtype_cnid, "dbif_copy_rootinfokey: Error writing rootinfo key");
 898         return -1;
 899     }
 900
 901     return 0;
 902 }
 903
 904 int dbif_dump(DBD *dbd, int dumpindexes)
 905 {
 906     int rc;
 907     uint32_t max = 0, count = 0, cnid, type, did, lastid;
 908     uint64_t dev, ino;
 909     time_t stamp;
 910     DBC *cur;
 911     DBT key = { 0 }, data = { 0 };
 912     DB *db = dbd->db_table[DBIF_CNID].db;
 913     char *typestring[2] = {"f", "d"};
 914     char timebuf[64];
 915
 916     printf("CNID database dump:\n");
 917
 918     rc = db->cursor(db, NULL, &cur, 0);
 919     if (rc) {
 920         LOG(log_error, logtype_cnid, "Couldn't create cursor: %s", db_strerror(rc));
 921         return -1;
 922     }
 923
 924     cur->c_get(cur, &key, &data, DB_FIRST);
 925     while (rc == 0) {
 926         /* Parse and print data */
 927         memcpy(&cnid, key.data, 4);
 928         cnid = ntohl(cnid);
 929         if (cnid > max)
 930             max = cnid;
 931
 932         /* Rootinfo node ? */
 933         if (cnid == 0) {
 934             memcpy(&stamp, (char *)data.data + 4, sizeof(time_t));
 935             memcpy(&lastid, (char *)data.data + 20, sizeof(cnid_t));
 936             lastid = ntohl(lastid);
 937             strftime(timebuf, sizeof(timebuf), "%b %d %Y %H:%M:%S", localtime(&stamp));
 938             printf("dbd stamp: 0x%08x (%s), next free CNID: %u\n", (unsigned int)stamp, timebuf, lastid + 1);
 939         } else {
 940             /* dev */
 941             memcpy(&dev, (char *)data.data + CNID_DEV_OFS, 8);
 942             dev = ntoh64(dev);
 943             /* ino */
 944             memcpy(&ino, (char *)data.data + CNID_INO_OFS, 8);
 945             ino = ntoh64(ino);
 946             /* type */
 947             memcpy(&type, (char *)data.data + CNID_TYPE_OFS, 4);
 948             type = ntohl(type);
 949             /* did */
 950             memcpy(&did, (char *)data.data + CNID_DID_OFS, 4);
 951             did = ntohl(did);
 952
 953             count++;
 954             printf("id: %10u, did: %10u, type: %s, dev: 0x%llx, ino: 0x%016llx, name: %s\n",
 955                    cnid, did, typestring[type],
 956                    (long long unsigned int)dev, (long long unsigned int)ino,
 957                    (char *)data.data + CNID_NAME_OFS);
 958
 959         }
 960
 961         rc = cur->c_get(cur, &key, &data, DB_NEXT);
 962     }
 963
 964     if (rc != DB_NOTFOUND) {
 965         LOG(log_error, logtype_cnid, "Error iterating over btree: %s", db_strerror(rc));
 966         return -1;
 967     }
 968
 969     rc = cur->c_close(cur);
 970     if (rc) {
 971         LOG(log_error, logtype_cnid, "Couldn't close cursor: %s", db_strerror(rc));
 972         return -1;
 973     }
 974     printf("%u CNIDs in database. Max CNID: %u.\n", count, max);
 975
 976     /* Dump indexes too ? */
 977     if (dumpindexes) {
 978         /* DBIF_IDX_DEVINO */
 979         printf("\ndev/inode index:\n");
 980         count = 0;
 981         db = dbd->db_table[DBIF_IDX_DEVINO].db;
 982         rc = db->cursor(db, NULL, &cur, 0);
 983         if (rc) {
 984             LOG(log_error, logtype_cnid, "Couldn't create cursor: %s", db_strerror(rc));
 985             return -1;
 986         }
 987
 988         cur->c_get(cur, &key, &data, DB_FIRST);
 989         while (rc == 0) {
 990             /* Parse and print data */
 991
 992             /* cnid */
 993             memcpy(&cnid, data.data, CNID_LEN);
 994             cnid = ntohl(cnid);
 995             if (cnid == 0) {
 996                 /* Rootinfo node */
 997             } else {
 998                 /* dev */
 999                 memcpy(&dev, key.data, CNID_DEV_LEN);
1000                 dev = ntoh64(dev);
1001                 /* ino */
1002                 memcpy(&ino, (char *)key.data + CNID_DEV_LEN, CNID_INO_LEN);
1003                 ino = ntoh64(ino);
1004
1005                 printf("id: %10u <== dev: 0x%llx, ino: 0x%016llx\n",
1006                        cnid, (unsigned long long int)dev, (unsigned long long int)ino);
1007                 count++;
1008             }
1009             rc = cur->c_get(cur, &key, &data, DB_NEXT);
1010         }
1011         if (rc != DB_NOTFOUND) {
1012             LOG(log_error, logtype_cnid, "Error iterating over btree: %s", db_strerror(rc));
1013             return -1;
1014         }
1015
1016         rc = cur->c_close(cur);
1017         if (rc) {
1018             LOG(log_error, logtype_cnid, "Couldn't close cursor: %s", db_strerror(rc));
1019             return -1;
1020         }
1021         printf("%u items\n", count);
1022
1023         /* Now dump DBIF_IDX_DIDNAME */
1024         printf("\ndid/name index:\n");
1025         count = 0;
1026         db = dbd->db_table[DBIF_IDX_DIDNAME].db;
1027         rc = db->cursor(db, NULL, &cur, 0);
1028         if (rc) {
1029             LOG(log_error, logtype_cnid, "Couldn't create cursor: %s", db_strerror(rc));
1030             return -1;
1031         }
1032
1033         cur->c_get(cur, &key, &data, DB_FIRST);
1034         while (rc == 0) {
1035             /* Parse and print data */
1036
1037             /* cnid */
1038             memcpy(&cnid, data.data, CNID_LEN);
1039             cnid = ntohl(cnid);
1040             if (cnid == 0) {
1041                 /* Rootinfo node */
1042             } else {
1043                 /* did */
1044                 memcpy(&did, key.data, CNID_LEN);
1045                 did = ntohl(did);
1046
1047                 printf("id: %10u <== did: %10u, name: %s\n", cnid, did, (char *)key.data + CNID_LEN);
1048                 count++;
1049             }
1050             rc = cur->c_get(cur, &key, &data, DB_NEXT);
1051         }
1052         if (rc != DB_NOTFOUND) {
1053             LOG(log_error, logtype_cnid, "Error iterating over btree: %s", db_strerror(rc));
1054             return -1;
1055         }
1056
1057         rc = cur->c_close(cur);
1058         if (rc) {
1059             LOG(log_error, logtype_cnid, "Couldn't close cursor: %s", db_strerror(rc));
1060             return -1;
1061         }
1062         printf("%u items\n", count);
1063     }
1064
1065     return 0;
1066 }
1067
1068 /*
1069    Iterates over dbd, returning cnids.
1070    Uses in-value of cnid to seek to that cnid, then gets next and return that in cnid.
1071    If close=1, close cursor.
1072    Return -1 on error, 0 on EOD (end-of-database), 1 if returning cnid.
1073 */
1074 int dbif_idwalk(DBD *dbd, cnid_t *cnid, int close)
1075 {
1076     int rc;
1077     int flag;
1078     cnid_t id;
1079
1080     static DBT key = { 0 }, data = { 0 };
1081     DB *db = dbd->db_table[DBIF_CNID].db;
1082
1083     if (close) {
1084         if (dbd->db_cur) {
1085             dbd->db_cur->close(dbd->db_cur);
1086             dbd->db_cur = NULL;
1087         }
1088         return 0;
1089     }
1090
1091     /* An dbif_del will have closed our cursor too */
1092     if ( ! dbd->db_cur ) {
1093         if ((rc = db->cursor(db, NULL, &dbd->db_cur, 0)) != 0) {
1094             LOG(log_error, logtype_cnid, "Couldn't create cursor: %s", db_strerror(rc));
1095             return -1;
1096         }
1097         flag = DB_SET_RANGE;    /* This will seek to next cnid after the one just deleted */
1098         id = htonl(*cnid);
1099         key.data = &id;
1100         key.size = sizeof(cnid_t);
1101     } else
1102         flag = DB_NEXT;
1103
1104     if ((rc = dbd->db_cur->get(dbd->db_cur, &key, &data, flag)) == 0) {
1105         memcpy(cnid, key.data, sizeof(cnid_t));
1106         *cnid = ntohl(*cnid);
1107         return 1;
1108     }
1109
1110     if (rc != DB_NOTFOUND) {
1111         LOG(log_error, logtype_cnid, "Error iterating over btree: %s", db_strerror(rc));
1112         dbd->db_cur->close(dbd->db_cur);
1113         dbd->db_cur = NULL;
1114         return -1;
1115     }
1116
1117     if (dbd->db_cur) {
1118         dbd->db_cur->close(dbd->db_cur);
1119         dbd->db_cur = NULL;
1120     }
1121
1122     return 0;
1123 }