]> arthur.barton.de Git - netatalk.git/blobdiff - etc/cnid_dbd/cmd_dbd_scanvol.c
Add debug log messages
[netatalk.git] / etc / cnid_dbd / cmd_dbd_scanvol.c
index 0893d0ae19839aa30526b2452ae1c11aac2fb134..addcc6ab647acb1e2b671f102a6c9cff2ec8a76b 100644 (file)
@@ -1,5 +1,5 @@
 /*
-  $Id: cmd_dbd_scanvol.c,v 1.11 2009-11-25 14:59:15 franklahm Exp $
+  $Id: cmd_dbd_scanvol.c,v 1.19 2009-12-22 13:37:27 franklahm Exp $
 
   Copyright (c) 2009 Frank Lahm <franklahm@gmail.com>
 
 #include <string.h>
 #include <errno.h>
 #include <setjmp.h>
+
 #include <atalk/adouble.h>
 #include <atalk/unicode.h>
 #include <atalk/volinfo.h>
 #include <atalk/cnid_dbd_private.h>
+#include <atalk/volume.h>
+#include <atalk/ea.h>
+#include <atalk/util.h>
+
 #include "cmd_dbd.h"
 #include "dbif.h"
 #include "db_param.h"
@@ -57,6 +62,8 @@ static char           *netatalk_dirs[] = {
 static struct cnid_dbd_rqst rqst;
 static struct cnid_dbd_rply rply;
 static jmp_buf jmp;
+static struct vol volume; /* fake it for ea_open */
+static char pname[MAXPATHLEN] = "../";
 
 /*
   Taken form afpd/desktop.c
@@ -148,6 +155,85 @@ static char *mtoupath(char *mpath)
     return( upath );
 }
 
+#if 0
+/* 
+   Check if "name" is pointing to
+   a) an object inside the current volume (return 0)
+   b) an object outside the current volume (return 1)
+   Then stats the pointed to object and if it is a dir ors ADFLAGS_DIR to *adflags
+   Return -1 on any serious error.
+ */
+static int check_symlink(const char *name, int *adflags)
+{
+    int cwd;
+    ssize_t len;
+    char pathbuf[MAXPATHLEN + 1];
+    char *sep;
+    struct stat st;
+
+    if ((len = readlink(name, pathbuf, MAXPATHLEN)) == -1) {
+        dbd_log(LOGSTD, "Error reading link info for '%s/%s': %s", 
+                cwdbuf, name, strerror(errno));
+        return -1;
+    }
+    pathbuf[len] = 0;
+
+    if ((stat(pathbuf, &st)) != 0) {
+        dbd_log(LOGSTD, "stat error '%s': %s", pathbuf, strerror(errno));
+    }
+
+    /* Remember cwd */
+    if ((cwd = open(".", O_RDONLY)) < 0) {
+        dbd_log(LOGSTD, "error opening cwd '%s': %s", cwdbuf, strerror(errno));
+        return -1;
+    }
+
+    if (S_ISDIR(st.st_mode)) {
+        *adflags |= ADFLAGS_DIR;
+    } else { /* file */
+        /* get basename from path */
+        if ((sep = strrchr(pathbuf, '/')) == NULL)
+            /* just a file at the same level */
+            return 0;
+        sep = 0; /* pathbuf now contains the directory*/
+    }
+
+    /* fchdir() to pathbuf so we can easily get its path with getcwd() */
+    if ((chdir(pathbuf)) != 0) {
+        dbd_log(LOGSTD, "Cant chdir to '%s': %s", pathbuf, strerror(errno));
+        return -1;
+    }
+
+    if ((getcwd(pathbuf, MAXPATHLEN)) == NULL) {
+        dbd_log(LOGSTD, "Cant get symlink'ed dir '%s/%s': %s", cwdbuf, pathbuf, strerror(errno));
+        if ((fchdir(cwd)) != 0)
+            /* We're foobared */
+            longjmp(jmp, 1); /* this jumps back to cmd_dbd_scanvol() */
+        return -1;
+    }
+
+    if ((fchdir(cwd)) != 0)
+        /* We're foobared */
+        longjmp(jmp, 1); /* this jumps back to cmd_dbd_scanvol() */
+
+    /*
+      We now have the symlink target dir as absoulte path in pathbuf
+      and can compare it with the currents volume path
+    */
+    int i = 0;
+    while (volinfo->v_path[i]) {
+        if ((pathbuf[i] == 0) || (volinfo->v_path[i] != pathbuf[i])) {
+            dbd_log( LOGDEBUG, "extra-share symlink '%s/%s', following", cwdbuf, name);
+            return 1;
+        }
+        i++;
+    }
+
+    dbd_log( LOGDEBUG, "intra-share symlink '%s/%s', not following", cwdbuf, name);
+    return 0;
+}
+#endif
+
 /*
   Check for wrong encoding e.g. "." at the beginning is not CAP encoded (:2e) although volume is default !AFPVOL_USEDOTS.
   We do it by roundtripiping from volcharset to UTF8-MAC and back and then compare the result.
@@ -245,6 +331,104 @@ static int check_adfile(const char *fname, const struct stat *st)
     return 0;
 }
 
+/* 
+   Remove all files with file::EA* from adouble dir
+*/
+static void remove_eafiles(const char *name, struct ea *ea)
+{
+    DIR *dp = NULL;
+    struct dirent *ep;
+    char eaname[MAXPATHLEN];
+
+    strlcpy(eaname, name, sizeof(eaname));
+    if (strlcat(eaname, "::EA", sizeof(eaname)) >= sizeof(eaname)) {
+        dbd_log(LOGSTD, "name too long: '%s/%s/%s'", cwdbuf, ADv2_DIRNAME, name);
+        return;
+    }
+
+    if ((chdir(ADv2_DIRNAME)) != 0) {
+        dbd_log(LOGSTD, "Couldn't chdir to '%s/%s': %s",
+                cwdbuf, ADv2_DIRNAME, strerror(errno));
+        return;
+    }
+
+    if ((dp = opendir(".")) == NULL) {
+        dbd_log(LOGSTD, "Couldn't open the directory '%s/%s': %s",
+                cwdbuf, ADv2_DIRNAME, strerror(errno));
+        return;
+    }
+
+    while ((ep = readdir(dp))) {
+        if (strstr(ep->d_name, eaname) != NULL) {
+            dbd_log(LOGSTD, "Removing EA file: '%s/%s/%s'",
+                    cwdbuf, ADv2_DIRNAME, ep->d_name);
+            if ((unlink(ep->d_name)) != 0) {
+                dbd_log(LOGSTD, "Error unlinking EA file '%s/%s/%s': %s",
+                        cwdbuf, ADv2_DIRNAME, ep->d_name, strerror(errno));
+            }
+        } /* if */
+    } /* while */
+
+    if (dp)
+        closedir(dp);
+
+}
+
+/*
+  Check Extended Attributes files
+*/
+static int check_eafiles(const char *fname)
+{
+    unsigned int  count = 0;
+    int ret = 0, remove;
+    struct ea ea;
+    struct stat st;
+    char *eaname;
+
+    if ((ret = ea_open(&volume, fname, EA_RDWR, &ea)) != 0) {
+        if (errno == ENOENT)
+            return 0;
+        dbd_log(LOGSTD, "Error calling ea_open for file: %s/%s, removing EA files",
+                cwdbuf, fname);
+        if ( ! (dbd_flags & DBD_FLAGS_SCAN))
+            remove_eafiles(fname, &ea);
+        return -1;
+    }
+
+    /* Check all EAs */
+    while (count < ea.ea_count) {        
+        dbd_log(LOGDEBUG, "EA: %s", (*ea.ea_entries)[count].ea_name);
+        remove = 0;
+
+        eaname = ea_path(&ea, (*ea.ea_entries)[count].ea_name, 0);
+
+        if (lstat(eaname, &st) != 0) {
+            if (errno == ENOENT)
+                dbd_log(LOGSTD, "Missing EA: %s/%s", cwdbuf, eaname);
+            else
+                dbd_log(LOGSTD, "Bogus EA: %s/%s", cwdbuf, eaname);
+            remove = 1;
+        } else if (st.st_size != (*ea.ea_entries)[count].ea_size) {
+            dbd_log(LOGSTD, "Bogus EA: %s/%s, removing it...", cwdbuf, eaname);
+            remove = 1;
+            if ((unlink(eaname)) != 0)
+                dbd_log(LOGSTD, "Error removing EA file '%s/%s': %s",
+                        cwdbuf, eaname, strerror(errno));
+        }
+
+        if (remove) {
+            /* Be CAREFUL here! This should do what ea_delentry does. ea_close relies on it !*/
+            free((*ea.ea_entries)[count].ea_name);
+            (*ea.ea_entries)[count].ea_name = NULL;
+        }
+
+        count++;
+    } /* while */
+
+    ea_close(&ea);
+    return ret;
+}
+
 /*
   Check for .AppleDouble folder and .Parent, create if missing
 */
@@ -253,8 +437,8 @@ static int check_addir(int volroot)
     int addir_ok, adpar_ok;
     struct stat st;
     struct adouble ad;
-    char *mname;
-    
+    char *mname = NULL;
+
     /* Check for ad-dir */
     if ( (addir_ok = access(ADv2_DIRNAME, F_OK)) != 0) {
         if (errno != ENOENT) {
@@ -295,7 +479,7 @@ static int check_addir(int volroot)
         }
 
         /* Get basename of cwd from cwdbuf */
-        utompath(strrchr(cwdbuf, '/') + 1);
+        mname = utompath(strrchr(cwdbuf, '/') + 1);
 
         /* Update name in ad file */
         ad_setname(&ad, mname);
@@ -303,7 +487,7 @@ static int check_addir(int volroot)
         ad_close_metadata(&ad);
 
         /* Inherit owner/group from "." to ".AppleDouble" and ".Parent" */
-        if ((stat(".", &st)) != 0) {
+        if ((lstat(".", &st)) != 0) {
             dbd_log( LOGSTD, "Couldnt stat %s: %s", cwdbuf, strerror(errno));
             return -1;
         }
@@ -314,7 +498,67 @@ static int check_addir(int volroot)
     return 0;
 }
 
-/* 
+/*
+  Check if file cotains "::EA" and if it does check if its correspondig data fork exists.
+  Returns:
+  0 = name is not an EA file
+  1 = name is an EA file and no problem was found
+  -1 = name is an EA file and data fork is gone
+ */
+static int check_eafile_in_adouble(const char *name)
+{
+    int ret = 0;
+    char *namep, *namedup = NULL;
+
+    /* Check if this is an AFPVOL_EA_AD vol */
+    if (volinfo->v_vfs_ea == AFPVOL_EA_AD) {
+        /* Does the filename contain "::EA" ? */
+        namedup = strdup(name);
+        if ((namep = strstr(namedup, "::EA")) == NULL) {
+            ret = 0;
+            goto ea_check_done;
+        } else {
+            /* File contains "::EA" so it's an EA file. Check for data file  */
+
+            /* Get string before "::EA" from EA filename */
+            namep[0] = 0;
+            strlcpy(pname + 3, namedup, sizeof(pname)); /* Prepends "../" */
+
+            if ((access( pname, F_OK)) == 0) {
+                ret = 1;
+                goto ea_check_done;
+            } else {
+                ret = -1;
+                if (errno != ENOENT) {
+                    dbd_log(LOGSTD, "Access error for file '%s/%s': %s",
+                            cwdbuf, name, strerror(errno));
+                    goto ea_check_done;
+                }
+
+                /* Orphaned EA file*/
+                dbd_log(LOGSTD, "Orphaned Extended Attribute file '%s/%s/%s'",
+                        cwdbuf, ADv2_DIRNAME, name);
+
+                if (dbd_flags & DBD_FLAGS_SCAN)
+                    /* Scan only requested, dont change anything */
+                    goto ea_check_done;
+
+                if ((unlink(name)) != 0) {
+                    dbd_log(LOGSTD, "Error unlinking orphaned Extended Attribute file '%s/%s/%s'",
+                            cwdbuf, ADv2_DIRNAME, name);
+                }
+            } /* if (access) */
+        } /* if strstr */
+    } /* if AFPVOL_EA_AD */
+
+ea_check_done:
+    if (namedup)
+        free(namedup);
+
+    return ret;
+}
+
+/*
   Check files and dirs inside .AppleDouble folder:
   - remove orphaned files
   - bail on dirs
@@ -324,7 +568,6 @@ static int read_addir(void)
     DIR *dp;
     struct dirent *ep;
     struct stat st;
-    static char fname[MAXPATHLEN] = "../";
 
     if ((chdir(ADv2_DIRNAME)) != 0) {
         dbd_log(LOGSTD, "Couldn't chdir to '%s/%s': %s",
@@ -346,7 +589,7 @@ static int read_addir(void)
         if (STRCMP(ep->d_name, ==, ".Parent"))
             continue;
 
-        if ((stat(ep->d_name, &st)) < 0) {
+        if ((lstat(ep->d_name, &st)) < 0) {
             dbd_log( LOGSTD, "Lost file or dir while enumeratin dir '%s/%s/%s', probably removed: %s",
                      cwdbuf, ADv2_DIRNAME, ep->d_name, strerror(errno));
             continue;
@@ -359,12 +602,16 @@ static int read_addir(void)
             continue;
         }
 
+        /* Check if for orphaned and corrupt Extended Attributes file */
+        if (check_eafile_in_adouble(ep->d_name) != 0)
+            continue;
+
         /* Check for data file */
-        strcpy(fname+3, ep->d_name);
-        if ((access( fname, F_OK)) != 0) {
+        strcpy(pname + 3, ep->d_name);
+        if ((access( pname, F_OK)) != 0) {
             if (errno != ENOENT) {
                 dbd_log(LOGSTD, "Access error for file '%s/%s': %s",
-                        cwdbuf, ep->d_name, strerror(errno));
+                        cwdbuf, pname, strerror(errno));
                 continue;
             }
             /* Orphaned ad-file*/
@@ -387,7 +634,7 @@ static int read_addir(void)
         dbd_log(LOGSTD, "Couldn't chdir back to '%s' from AppleDouble dir: %s",
                 cwdbuf, strerror(errno));
         /* This really is EOT! */
-        exit(1);
+        longjmp(jmp, 1); /* this jumps back to cmd_dbd_scanvol() */
     }
 
     closedir(dp);
@@ -395,9 +642,9 @@ static int read_addir(void)
     return 0;
 }
 
-/* 
-   Check CNID for a file/dir, both from db and from ad-file.
-   For detailed specs see intro.
+/*
+  Check CNID for a file/dir, both from db and from ad-file.
+  For detailed specs see intro.
 */
 static cnid_t check_cnid(const char *name, cnid_t did, struct stat *st, int adfile_ok, int adflags)
 {
@@ -421,10 +668,12 @@ static cnid_t check_cnid(const char *name, cnid_t did, struct stat *st, int adfi
             ad_flush(&ad);
         }
         else
-            ad_cnid = ad_getid(&ad, st->st_dev, st->st_ino, did, stamp);            
+            ad_cnid = ad_getid(&ad, st->st_dev, st->st_ino, did, stamp);
 
         if (ad_cnid == 0)
             dbd_log( LOGSTD, "Incorrect CNID data in .AppleDouble data for '%s/%s' (bad stamp?)", cwdbuf, name);
+        else
+            dbd_log( LOGDEBUG, "CNID from .AppleDouble file for '%s/%s': %u", cwdbuf, name, ntohl(ad_cnid));
 
         ad_close_metadata(&ad);
     }
@@ -435,6 +684,7 @@ static cnid_t check_cnid(const char *name, cnid_t did, struct stat *st, int adfi
     memset(&rqst, 0, sizeof(struct cnid_dbd_rqst));
     memset(&rply, 0, sizeof(struct cnid_dbd_rply));
     rqst.did = did;
+    rqst.cnid = ad_cnid;
     if ( ! (volinfo->v_flags & AFPVOL_NODEV))
         rqst.dev = st->st_dev;
     rqst.ino = st->st_ino;
@@ -498,7 +748,7 @@ static cnid_t check_cnid(const char *name, cnid_t did, struct stat *st, int adfi
             dbd_log( LOGSTD, "New CNID for '%s/%s': %u", cwdbuf, name, ntohl(db_cnid));
         }
     }
-    
+
     if ((ad_cnid == 0) && db_cnid) {
         /* in db but zeroID in ad-file, write it to ad-file if AFPVOL_CACHE */
         if ((volinfo->v_flags & AFPVOL_CACHE) && ADFILE_OK) {
@@ -573,14 +823,37 @@ static int dbd_readdir(int volroot, cnid_t did)
         if (STRCMP(ep->d_name, == , ADv2_DIRNAME))
             continue;
 
-        if ((ret = stat(ep->d_name, &st)) < 0) {
+        if ((ret = lstat(ep->d_name, &st)) < 0) {
             dbd_log( LOGSTD, "Lost file while reading dir '%s/%s', probably removed: %s", cwdbuf, ep->d_name, strerror(errno));
             continue;
         }
-        if (S_ISREG(st.st_mode))
+        
+        switch (st.st_mode & S_IFMT) {
+        case S_IFREG:
             adflags = 0;
-        else
+            break;
+        case S_IFDIR:
             adflags = ADFLAGS_DIR;
+            break;
+        case S_IFLNK:
+            dbd_log(LOGDEBUG, "Ignoring symlink %s/%s", cwdbuf, ep->d_name);
+#if 0
+            ret = check_symlink(ep->d_name, &adflags);
+            if (ret == 1)
+                break;
+            if (ret == -1)
+                dbd_log(LOGSTD, "Error checking symlink %s/%s", cwdbuf, ep->d_name);
+#endif
+            continue;
+        default:
+            dbd_log(LOGSTD, "Bad filetype: %s/%s", cwdbuf, ep->d_name);
+            if ( ! (dbd_flags & DBD_FLAGS_SCAN)) {
+                if ((unlink(ep->d_name)) != 0) {
+                    dbd_log(LOGSTD, "Error removing: %s/%s: %s", cwdbuf, ep->d_name, strerror(errno));
+                }
+            }
+            continue;
+        }
 
         /**************************************************************************
            Tests
@@ -609,11 +882,15 @@ static int dbd_readdir(int volroot, cnid_t did)
                 if (rply.result != CNID_DBD_RES_OK) {
                     dbd_log( LOGDEBUG, "Fatal error adding CNID: %u for '%s/%s' to in-memory rebuild-db",
                              cnid, cwdbuf, ep->d_name);
-                    exit(EXIT_FAILURE);
+                    longjmp(jmp, 1); /* this jumps back to cmd_dbd_scanvol() */
                 }
             }
         }
 
+        /* Check EA files */
+        if (volinfo->v_vfs_ea == AFPVOL_EA_AD)
+            check_eafiles(ep->d_name);
+
         /**************************************************************************
           Recursion
         **************************************************************************/
@@ -661,13 +938,18 @@ static int scanvol(struct volinfo *vi, dbd_flags_t flags)
     volinfo = vi;
     dbd_flags = flags;
 
+    /* Init a fake struct vol with just enough so we can call ea_open and friends */
+    volume.v_adouble = AD_VERSION2;
+    volume.v_vfs_ea = volinfo->v_vfs_ea;
+    initvol_vfs(&volume);
+
     /* Run with umask 0 */
     umask(0);
 
-    /* chdir to vol */
+    /* Remove trailing slash from volume, chdir to vol */
+    if (volinfo->v_path[strlen(volinfo->v_path) - 1] == '/')
+        volinfo->v_path[strlen(volinfo->v_path) - 1] = 0;
     strcpy(cwdbuf, volinfo->v_path);
-    if (cwdbuf[strlen(cwdbuf) - 1] == '/')
-        cwdbuf[strlen(cwdbuf) - 1] = 0;
     chdir(volinfo->v_path);
 
     /* Start recursion */
@@ -677,8 +959,8 @@ static int scanvol(struct volinfo *vi, dbd_flags_t flags)
     return 0;
 }
 
-/* 
-   Remove all CNIDs from dbd that are not in dbd_rebuild
+/*
+  Remove all CNIDs from dbd that are not in dbd_rebuild
 */
 static void delete_orphaned_cnids(DBD *dbd, DBD *dbd_rebuild, dbd_flags_t flags)
 {
@@ -766,6 +1048,10 @@ cleanup:
 int cmd_dbd_scanvol(DBD *dbd_ref, struct volinfo *volinfo, dbd_flags_t flags)
 {
     int ret = 0;
+    struct db_param db_param = { 0 };
+
+    /* Set cachesize for in-memory rebuild db */
+    db_param.cachesize = 128 * 1024 * 1024; /* 128 MB */
 
     /* Make it accessible for all funcs */
     dbd = dbd_ref;
@@ -786,7 +1072,7 @@ int cmd_dbd_scanvol(DBD *dbd_ref, struct volinfo *volinfo, dbd_flags_t flags)
         /* open/create rebuild dbd, copy rootinfo key */
         if (NULL == (dbd_rebuild = dbif_init(NULL, NULL)))
             return -1;
-        if (0 != (dbif_open(dbd_rebuild, NULL, 0)))
+        if (0 != (dbif_open(dbd_rebuild, &db_param, 0)))
             return -1;
         if (0 != (dbif_copy_rootinfokey(dbd, dbd_rebuild)))
             goto exit_cleanup;
@@ -800,8 +1086,8 @@ int cmd_dbd_scanvol(DBD *dbd_ref, struct volinfo *volinfo, dbd_flags_t flags)
         return -1;
 
     if (! nocniddb) {
-    /* We can only do this in exclusive mode, otherwise we might delete CNIDs added from
-       other clients in between our pass 1 and 2 */
+        /* We can only do this in exclusive mode, otherwise we might delete CNIDs added from
+           other clients in between our pass 1 and 2 */
         if (flags & DBD_FLAGS_EXCL)
             delete_orphaned_cnids(dbd, dbd_rebuild, flags);
     }