]> arthur.barton.de Git - netatalk.git/blob - etc/afpd/spotlight_marshalling.c
Work on fixing filemeta handling
[netatalk.git] / etc / afpd / spotlight_marshalling.c
1 /*
2   Copyright (c) 2012 Frank Lahm <franklahm@gmail.com>
3
4   This program is free software; you can redistribute it and/or modify
5   it under the terms of the GNU General Public License as published by
6   the Free Software Foundation; either version 2 of the License, or
7   (at your option) any later version.
8
9   This program is distributed in the hope that it will be useful,
10   but WITHOUT ANY WARRANTY; without even the implied warranty of
11   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12   GNU General Public License for more details.
13 */
14
15 #ifdef HAVE_CONFIG_H
16 #include "config.h"
17 #endif /* HAVE_CONFIG_H */
18
19 #include <string.h>
20 #include <strings.h>
21 #include <stdio.h>
22 #include <stdlib.h>
23 #include <errno.h>
24 #include <stdbool.h>
25 #include <inttypes.h>
26
27 #include <atalk/errchk.h>
28 #include <atalk/util.h>
29 #include <atalk/logger.h>
30 #include <atalk/talloc.h>
31 #include <atalk/dalloc.h>
32 #include <atalk/byteorder.h>
33 #include <atalk/netatalk_conf.h>
34 #include <atalk/volume.h>
35
36 #include "spotlight.h"
37
38 /**************************************************************************************************
39  * RPC data marshalling and unmarshalling
40  **************************************************************************************************/
41
42 /* Spotlight epoch is UNIX epoch minus SPOTLIGHT_TIME_DELTA */
43 #define SPOTLIGHT_TIME_DELTA INT64_C(280878921600U)
44
45 #define SQ_TYPE_NULL    0x0000
46 #define SQ_TYPE_COMPLEX 0x0200
47 #define SQ_TYPE_INT64   0x8400
48 #define SQ_TYPE_BOOL    0x0100
49 #define SQ_TYPE_FLOAT   0x8500
50 #define SQ_TYPE_DATA    0x0700
51 #define SQ_TYPE_CNIDS   0x8700
52 #define SQ_TYPE_UUID    0x0e00
53 #define SQ_TYPE_DATE    0x8600
54 #define SQ_TYPE_TOC     0x8800
55
56 #define SQ_CPX_TYPE_ARRAY           0x0a00
57 #define SQ_CPX_TYPE_STRING          0x0c00
58 #define SQ_CPX_TYPE_UTF16_STRING    0x1c00
59 #define SQ_CPX_TYPE_DICT            0x0d00
60 #define SQ_CPX_TYPE_CNIDS           0x1a00
61 #define SQ_CPX_TYPE_FILEMETA        0x1b00
62
63 #define SUBQ_SAFETY_LIM 20
64
65 /* Forward declarations */
66 static int sl_pack_loop(DALLOC_CTX *query, char *buf, int offset, char *toc_buf, int *toc_idx);
67 static int sl_unpack_loop(DALLOC_CTX *query, const char *buf, int offset, uint count, const uint toc_offset, const uint encoding);
68
69 /*
70 * Returns the UTF-16 string encoding, by checking the 2-byte byte order mark.
71 * If there is no byte order mark, -1 is returned.
72 */
73 static uint spotlight_get_utf16_string_encoding(const char *buf, int offset, int query_length, uint encoding) {
74     uint utf16_encoding;
75
76     /* check for byte order mark */
77     utf16_encoding = SL_ENC_BIG_ENDIAN;
78     if (query_length >= 2) {
79         uint16_t byte_order_mark;
80         if (encoding == SL_ENC_LITTLE_ENDIAN)
81             byte_order_mark = SVAL(buf, offset);
82         else
83             byte_order_mark = RSVAL(buf, offset);
84
85         if (byte_order_mark == 0xFFFE) {
86             utf16_encoding = SL_ENC_BIG_ENDIAN | SL_ENC_UTF_16;
87         }
88         else if (byte_order_mark == 0xFEFF) {
89             utf16_encoding = SL_ENC_LITTLE_ENDIAN | SL_ENC_UTF_16;
90         }
91     }
92
93     return utf16_encoding;
94 }
95
96 /**************************************************************************************************
97  * marshalling functions
98  **************************************************************************************************/
99
100 #define SL_OFFSET_DELTA 16
101
102 static uint64_t sl_pack_tag(uint16_t type, uint16_t size_or_count, uint32_t val)
103 {
104     uint64_t tag = ((uint64_t)val << 32) | ((uint64_t)type << 16) | size_or_count;
105     return tag;
106 }
107
108 static int sl_pack_float(double d, char *buf, int offset)
109 {
110     union {
111         double d;
112         uint64_t w;
113     } ieee_fp_union;
114
115     SLVAL(buf, offset, sl_pack_tag(SQ_TYPE_FLOAT, 2, 1));
116     SLVAL(buf, offset + 8, ieee_fp_union.w);
117
118     return offset + 2 * sizeof(uint64_t);
119 }
120
121 static int sl_pack_uint64(uint64_t u, char *buf, int offset)
122 {
123     SLVAL(buf, offset, sl_pack_tag(SQ_TYPE_INT64, 2, 1));
124     SLVAL(buf, offset + 8, u);
125
126     return offset + 2 * sizeof(uint64_t);
127 }
128
129 static int sl_pack_bool(sl_bool_t bl, char *buf, int offset)
130 {
131     SLVAL(buf, offset, sl_pack_tag(SQ_TYPE_BOOL, 1, bl ? 1 : 0));
132
133     return offset + sizeof(uint64_t);
134 }
135
136 static int sl_pack_nil(char *buf, int offset)
137 {
138     SLVAL(buf, offset, sl_pack_tag(SQ_TYPE_NULL, 1, 1));
139
140     return offset + sizeof(uint64_t);
141 }
142
143 static int sl_pack_date(sl_time_t t, char *buf, int offset)
144 {
145     uint64_t data = 0;
146
147     data = (t.tv_sec + SPOTLIGHT_TIME_DELTA) << 24;
148
149     SLVAL(buf, offset, sl_pack_tag(SQ_TYPE_DATE, 2, 1));
150     SLVAL(buf, offset + 8, data);
151
152     return offset + 2 * sizeof(uint64_t);
153 }
154
155 static int sl_pack_uuid(sl_uuid_t *uuid, char *buf, int offset)
156 {
157     SLVAL(buf, offset, sl_pack_tag(SQ_TYPE_UUID, 3, 1));
158     memcpy(buf + offset + 8, uuid, 16);
159
160     return offset + sizeof(uint64_t) + 16;
161 }
162
163 static int sl_pack_CNID(sl_cnids_t *cnids, char *buf, int offset, char *toc_buf, int *toc_idx)
164 {
165     int len = 0, off = 0;
166     int cnid_count = talloc_array_length(cnids->ca_cnids);
167     uint64_t id;
168
169     SLVAL(toc_buf, *toc_idx * 8, sl_pack_tag(SQ_CPX_TYPE_CNIDS, (offset + SL_OFFSET_DELTA) / 8, 0 /* cnid_count */));
170     SLVAL(buf, offset, sl_pack_tag(SQ_TYPE_COMPLEX, 1, *toc_idx + 1));
171     *toc_idx += 1;
172     offset += 8;
173
174     SLVAL(buf, offset, sl_pack_tag(SQ_TYPE_CNIDS, 2 + cnid_count, 8 /* unknown meaning, but always 8 */));
175     offset += 8;
176
177     if (cnid_count > 0) {
178         SLVAL(buf, offset, sl_pack_tag(0x0add, cnid_count, cnids->ca_context));
179         offset += 8;
180
181         for (int i = 0; i < cnid_count; i++) {
182             memcpy(&id, cnids->ca_cnids->dd_talloc_array[i], sizeof(uint64_t));
183             SLVAL(buf, offset, id);
184             offset += 8;
185         }
186     }
187     
188     return offset;
189 }
190
191 static int sl_pack_array(sl_array_t *array, char *buf, int offset, char *toc_buf, int *toc_idx)
192 {
193     int count = talloc_array_length(array->dd_talloc_array);
194     int octets = (offset + SL_OFFSET_DELTA) / 8;
195
196     LOG(log_maxdebug, logtype_sl, "sl_pack_array: count: %d, offset:%d, octets: %d", count, offset, octets);
197
198     SLVAL(toc_buf, *toc_idx * 8, sl_pack_tag(SQ_CPX_TYPE_ARRAY, octets, count));
199     SLVAL(buf, offset, sl_pack_tag(SQ_TYPE_COMPLEX, 1, *toc_idx + 1));
200     *toc_idx += 1;
201     offset += 8;
202
203     offset = sl_pack_loop(array, buf, offset, toc_buf, toc_idx);
204
205     return offset;
206 }
207
208 static int sl_pack_dict(sl_array_t *dict, char *buf, int offset, char *toc_buf, int *toc_idx)
209 {
210     SLVAL(toc_buf, *toc_idx * 8, sl_pack_tag(SQ_CPX_TYPE_DICT, (offset + SL_OFFSET_DELTA) / 8, talloc_array_length(dict->dd_talloc_array)));
211     SLVAL(buf, offset, sl_pack_tag(SQ_TYPE_COMPLEX, 1, *toc_idx + 1));
212     *toc_idx += 1;
213     offset += 8;
214
215     offset = sl_pack_loop(dict, buf, offset, toc_buf, toc_idx);
216
217     return offset;
218 }
219
220 static int sl_pack_filemeta(sl_filemeta_t *fm, char *buf, int offset, char *toc_buf, int *toc_idx)
221 {
222     int fmlen;                  /* lenght of filemeta */
223     int saveoff = offset + 8;
224
225     SLVAL(buf, offset, sl_pack_tag(SQ_TYPE_COMPLEX, 1, *toc_idx + 1));
226     offset += 16;
227
228     fmlen = sl_pack(fm, buf + offset);
229     offset += fmlen;
230
231     SLVAL(buf, saveoff, sl_pack_tag(SQ_TYPE_DATA, (fmlen / 8) + 1, 8 /* unknown meaning, but always 8 */));
232
233     SLVAL(toc_buf, *toc_idx * 8, sl_pack_tag(SQ_CPX_TYPE_FILEMETA, (offset + SL_OFFSET_DELTA) / 8, fmlen / 8));
234     *toc_idx += 1;
235
236     return offset;
237 }
238
239 static int sl_pack_string(char **string, char *buf, int offset, char *toc_buf, int *toc_idx)
240 {
241     int len, octets, used_in_last_octet;
242     char *s = *string;
243     len = strlen(s);
244     octets = (len / 8) + (len & 7 ? 1 : 0);
245     used_in_last_octet = 8 - (octets * 8 - len);
246
247     LOG(log_maxdebug, logtype_sl, "sl_pack_string(\"%s\"): len: %d, octets: %d, used_in_last_octet: %d",
248         s, len, octets, used_in_last_octet);
249
250     SLVAL(toc_buf, *toc_idx * 8, sl_pack_tag(SQ_CPX_TYPE_STRING, (offset + SL_OFFSET_DELTA) / 8, used_in_last_octet));
251     SLVAL(buf, offset, sl_pack_tag(SQ_TYPE_COMPLEX, 1, *toc_idx + 1));
252     *toc_idx += 1;
253     offset += 8;
254
255     SLVAL(buf, offset, sl_pack_tag(SQ_TYPE_DATA, octets + 1, used_in_last_octet));
256     offset += 8;
257
258     memset(buf + offset, 0, octets * 8);
259     strncpy(buf + offset, s, len);
260     offset += octets * 8;
261
262     return offset;
263 }
264
265 static int sl_pack_loop(DALLOC_CTX *query, char *buf, int offset, char *toc_buf, int *toc_idx)
266 {
267     const char *type;
268
269     for (int n = 0; n < talloc_array_length(query->dd_talloc_array); n++) {
270
271         type = talloc_get_name(query->dd_talloc_array[n]);
272
273         if (STRCMP(type, ==, "sl_array_t")) {
274             offset = sl_pack_array(query->dd_talloc_array[n], buf, offset, toc_buf, toc_idx);
275         } else if (STRCMP(type, ==, "sl_dict_t")) {
276             offset = sl_pack_dict(query->dd_talloc_array[n], buf, offset, toc_buf, toc_idx);
277         } else if (STRCMP(type, ==, "uint64_t")) {
278             uint64_t i;
279             memcpy(&i, query->dd_talloc_array[n], sizeof(uint64_t));
280             offset = sl_pack_uint64(i, buf, offset);
281         } else if (STRCMP(type, ==, "char *")) {
282             offset = sl_pack_string(query->dd_talloc_array[n], buf, offset, toc_buf, toc_idx);
283         } else if (STRCMP(type, ==, "sl_bool_t")) {
284             sl_bool_t bl;
285             memcpy(&bl, query->dd_talloc_array[n], sizeof(sl_bool_t));
286             offset = sl_pack_bool(bl, buf, offset);
287         } else if (STRCMP(type, ==, "double")) {
288             double d;
289             memcpy(&d, query->dd_talloc_array[n], sizeof(double));
290             offset = sl_pack_float(d, buf, offset);
291         } else if (STRCMP(type, ==, "sl_nil_t")) {
292             offset = sl_pack_nil(buf, offset);
293         } else if (STRCMP(type, ==, "sl_time_t")) {
294             sl_time_t t;
295             memcpy(&t, query->dd_talloc_array[n], sizeof(sl_time_t));
296             offset = sl_pack_date(t, buf, offset);
297         } else if (STRCMP(type, ==, "sl_uuid_t")) {
298             offset = sl_pack_uuid(query->dd_talloc_array[n], buf, offset);
299         } else if (STRCMP(type, ==, "sl_cnids_t")) {
300             offset = sl_pack_CNID(query->dd_talloc_array[n], buf, offset, toc_buf, toc_idx);
301         }
302     }
303
304     return offset;
305 }
306
307 /**************************************************************************************************
308  * unmarshalling functions
309  **************************************************************************************************/
310
311 static uint64_t sl_unpack_uint64(const char *buf, int offset, uint encoding)
312 {
313     if (encoding == SL_ENC_LITTLE_ENDIAN)
314             return LVAL(buf, offset);
315         else
316             return RLVAL(buf, offset);
317 }
318
319 static int sl_unpack_ints(DALLOC_CTX *query, const char *buf, int offset, uint encoding)
320 {
321     int count, i;
322     uint64_t query_data64;
323
324     query_data64 = sl_unpack_uint64(buf, offset, encoding);
325     count = query_data64 >> 32;
326     offset += 8;
327
328     i = 0;
329     while (i++ < count) {
330         query_data64 = sl_unpack_uint64(buf, offset, encoding);
331         dalloc_add(query, &query_data64, uint64_t);
332         offset += 8;
333     }
334
335     return count;
336 }
337
338 static int sl_unpack_date(DALLOC_CTX *query, const char *buf, int offset, uint encoding)
339 {
340     int count, i;
341     uint64_t query_data64;
342     sl_time_t t;
343
344     query_data64 = sl_unpack_uint64(buf, offset, encoding);
345     count = query_data64 >> 32;
346     offset += 8;
347
348     i = 0;
349     while (i++ < count) {
350         query_data64 = sl_unpack_uint64(buf, offset, encoding) >> 24;
351         t.tv_sec = query_data64 - SPOTLIGHT_TIME_DELTA;
352         t.tv_usec = 0;
353         dalloc_add(query, &t, sl_time_t);
354         offset += 8;
355     }
356
357     return count;
358 }
359
360 static int sl_unpack_uuid(DALLOC_CTX *query, const char *buf, int offset, uint encoding)
361 {
362     int count, i;
363     uint64_t query_data64;
364     sl_uuid_t uuid;
365     query_data64 = sl_unpack_uint64(buf, offset, encoding);
366     count = query_data64 >> 32;
367     offset += 8;
368
369     i = 0;
370     while (i++ < count) {
371         memcpy(uuid.sl_uuid, buf + offset, 16);
372         dalloc_add(query, &uuid, sl_uuid_t);
373         offset += 16;
374     }
375
376     return count;
377 }
378
379 static int sl_unpack_floats(DALLOC_CTX *query, const char *buf, int offset, uint encoding)
380 {
381     int count, i;
382     uint64_t query_data64;
383     double fval;
384     union {
385         double d;
386         uint32_t w[2];
387     } ieee_fp_union;
388
389     query_data64 = sl_unpack_uint64(buf, offset, encoding);
390     count = query_data64 >> 32;
391     offset += 8;
392
393     i = 0;
394     while (i++ < count) {
395         if (encoding == SL_ENC_LITTLE_ENDIAN) {
396 #ifdef WORDS_BIGENDIAN
397             ieee_fp_union.w[0] = IVAL(buf, offset + 4);
398             ieee_fp_union.w[1] = IVAL(buf, offset);
399 #else
400             ieee_fp_union.w[0] = IVAL(buf, offset);
401             ieee_fp_union.w[1] = IVAL(buf, offset + 4);
402 #endif
403         } else {
404 #ifdef WORDS_BIGENDIAN
405             ieee_fp_union.w[0] = RIVAL(buf, offset);
406             ieee_fp_union.w[1] = RIVAL(buf, offset + 4);
407 #else
408             ieee_fp_union.w[0] = RIVAL(buf, offset + 4);
409             ieee_fp_union.w[1] = RIVAL(buf, offset);
410 #endif
411         }
412         dalloc_add(query, &ieee_fp_union.d, double);
413         offset += 8;
414     }
415
416     return count;
417 }
418
419 static int sl_unpack_CNID(DALLOC_CTX *query, const char *buf, int offset, int length, uint encoding)
420 {
421     EC_INIT;
422     int count;
423     uint64_t query_data64;
424     sl_cnids_t cnids;
425
426     EC_NULL( cnids.ca_cnids = talloc_zero(query, DALLOC_CTX) );
427
428     if (length <= 16)
429         /* that's permitted, it's an empty array */
430         goto EC_CLEANUP;
431     
432     query_data64 = sl_unpack_uint64(buf, offset, encoding);
433     count = query_data64 & 0xffff;
434
435     cnids.ca_unkn1 = (query_data64 & 0xffff0000) >> 16;
436     cnids.ca_context = query_data64 >> 32;
437
438     offset += 8;
439
440     while (count --) {
441         query_data64 = sl_unpack_uint64(buf, offset, encoding);
442         dalloc_add(cnids.ca_cnids, &query_data64, uint64_t);
443         offset += 8;
444     }
445
446     dalloc_add(query, &cnids, sl_cnids_t);
447
448 EC_CLEANUP:
449     EC_EXIT;
450 }
451
452 static const char *spotlight_get_qtype_string(uint64_t query_type)
453 {
454     switch (query_type) {
455     case SQ_TYPE_NULL:
456         return "null";
457     case SQ_TYPE_COMPLEX:
458         return "complex";
459     case SQ_TYPE_INT64:
460         return "int64";
461     case SQ_TYPE_BOOL:
462         return "bool";
463     case SQ_TYPE_FLOAT:
464         return "float";
465     case SQ_TYPE_DATA:
466         return "data";
467     case SQ_TYPE_CNIDS:
468         return "CNIDs";
469     default:
470         return "unknown";
471     }
472 }
473
474 static const char *spotlight_get_cpx_qtype_string(uint64_t cpx_query_type)
475 {
476     switch (cpx_query_type) {
477     case SQ_CPX_TYPE_ARRAY:
478         return "array";
479     case SQ_CPX_TYPE_STRING:
480         return "string";
481     case SQ_CPX_TYPE_UTF16_STRING:
482         return "utf-16 string";
483     case SQ_CPX_TYPE_DICT:
484         return "dictionary";
485     case SQ_CPX_TYPE_CNIDS:
486         return "CNIDs";
487     case SQ_CPX_TYPE_FILEMETA:
488         return "FileMeta";
489     default:
490         return "unknown";
491     }
492 }
493
494 static int sl_unpack_cpx(DALLOC_CTX *query,
495                          const char *buf,
496                          const int offset,
497                          uint cpx_query_type,
498                          uint cpx_query_count,
499                          const uint toc_offset,
500                          const uint encoding)
501 {
502     EC_INIT;
503
504     int roffset = offset;
505     uint64_t query_data64;
506     uint unicode_encoding;
507     uint8_t mark_exists;
508     char *p;
509     int qlen, used_in_last_block, slen;
510     sl_array_t *sl_array;
511     sl_dict_t *sl_dict;
512     sl_filemeta_t *sl_fm;
513
514     switch (cpx_query_type) {
515     case SQ_CPX_TYPE_ARRAY:
516         sl_array = talloc_zero(query, sl_array_t);
517         EC_NEG1_LOG( roffset = sl_unpack_loop(sl_array, buf, offset, cpx_query_count, toc_offset, encoding) );
518         dalloc_add(query, sl_array, sl_array_t);
519         break;
520
521     case SQ_CPX_TYPE_DICT:
522         sl_dict = talloc_zero(query, sl_dict_t);
523         EC_NEG1_LOG( roffset = sl_unpack_loop(sl_dict, buf, offset, cpx_query_count, toc_offset, encoding) );
524         dalloc_add(query, sl_dict, sl_dict_t);
525         break;
526
527     case SQ_CPX_TYPE_STRING:
528     case SQ_CPX_TYPE_UTF16_STRING:
529         query_data64 = sl_unpack_uint64(buf, offset, encoding);
530         qlen = (query_data64 & 0xffff) * 8;
531         used_in_last_block = query_data64 >> 32;
532         slen = qlen - 8 + used_in_last_block;
533
534         if (cpx_query_type == SQ_CPX_TYPE_STRING) {
535             p = talloc_strndup(query, buf + offset + 8, slen);
536         } else {
537             unicode_encoding = spotlight_get_utf16_string_encoding(buf, offset + 8, slen, encoding);
538             mark_exists = (unicode_encoding & SL_ENC_UTF_16);
539             unicode_encoding &= ~SL_ENC_UTF_16;
540             EC_NEG1( convert_string_allocate(CH_UCS2, CH_UTF8, buf + offset + (mark_exists ? 18 : 16), slen, &p) );
541         }
542
543         dalloc_add(query, &p, char *);
544         roffset += qlen;
545         break;
546
547     case SQ_CPX_TYPE_FILEMETA:
548         query_data64 = sl_unpack_uint64(buf, offset, encoding);
549         qlen = (query_data64 & 0xffff) * 8;
550         if (qlen <= 8) {
551             EC_FAIL_LOG("SQ_CPX_TYPE_FILEMETA: query_length <= 8: %d", qlen);
552         } else {
553             sl_fm = talloc_zero(query, sl_filemeta_t);
554             EC_NEG1_LOG( sl_unpack(sl_fm, buf + offset + 8) );
555             dalloc_add(query, sl_fm, sl_filemeta_t);
556         }
557         roffset += qlen;
558         break;
559
560     case SQ_CPX_TYPE_CNIDS:
561         query_data64 = sl_unpack_uint64(buf, offset, encoding);
562         qlen = (query_data64 & 0xffff) * 8;
563         EC_NEG1_LOG( sl_unpack_CNID(query, buf, offset + 8, qlen, encoding) );
564         roffset += qlen;
565         break;
566
567     default:
568         EC_FAIL;
569     }
570             
571 EC_CLEANUP:
572     if (ret != 0)
573         roffset = -1;
574     return roffset;
575 }
576
577 static int sl_unpack_loop(DALLOC_CTX *query,
578                           const char *buf,
579                           int offset,
580                           uint count,
581                           const uint toc_offset,
582                           const uint encoding)
583 {
584     EC_INIT;
585     int i, toc_index, query_length;
586     uint subcount;
587     uint64_t query_data64, query_type;
588     uint cpx_query_type, cpx_query_count;
589     sl_nil_t nil;
590     sl_bool_t b;
591
592     while (count > 0 && (offset < toc_offset)) {
593         query_data64 = sl_unpack_uint64(buf, offset, encoding);
594         query_length = (query_data64 & 0xffff) * 8;
595         query_type = (query_data64 & 0xffff0000) >> 16;
596         if (query_length == 0)
597             EC_FAIL;
598
599         switch (query_type) {
600         case SQ_TYPE_COMPLEX:
601             toc_index = (query_data64 >> 32) - 1;
602             query_data64 = sl_unpack_uint64(buf, toc_offset + toc_index * 8, encoding);
603             cpx_query_type = (query_data64 & 0xffff0000) >> 16;
604             cpx_query_count = query_data64 >> 32;
605
606             EC_NEG1_LOG( offset = sl_unpack_cpx(query, buf, offset + 8, cpx_query_type, cpx_query_count, toc_offset, encoding));
607             count--;
608             break;
609         case SQ_TYPE_NULL:
610             subcount = query_data64 >> 32;
611             if (subcount > 64)
612                 EC_FAIL;
613             nil = 0;
614             for (i = 0; i < subcount; i++)
615                 dalloc_add(query, &nil, sl_nil_t);
616             offset += query_length;
617             count -= subcount;
618             break;
619         case SQ_TYPE_BOOL:
620             b = query_data64 >> 32;
621             dalloc_add(query, &b, sl_bool_t);
622             offset += query_length;
623             count--;
624             break;
625         case SQ_TYPE_INT64:
626             EC_NEG1_LOG( subcount = sl_unpack_ints(query, buf, offset, encoding) );
627             offset += query_length;
628             count -= subcount;
629             break;
630         case SQ_TYPE_UUID:
631             EC_NEG1_LOG( subcount = sl_unpack_uuid(query, buf, offset, encoding) );
632             offset += query_length;
633             count -= subcount;
634             break;
635         case SQ_TYPE_FLOAT:
636             EC_NEG1_LOG( subcount = sl_unpack_floats(query, buf, offset, encoding) );
637             offset += query_length;
638             count -= subcount;
639             break;
640         case SQ_TYPE_DATE:
641             EC_NEG1_LOG( subcount = sl_unpack_date(query, buf, offset, encoding) );
642             offset += query_length;
643             count -= subcount;
644             break;
645         default:
646             EC_FAIL;
647         }
648     }
649
650 EC_CLEANUP:
651     if (ret != 0) {
652         offset = -1;
653     }
654     return offset;
655 }
656
657 /**************************************************************************************************
658  * Global functions for packing und unpacking
659  **************************************************************************************************/
660
661 #define MAX_SLQ_DAT 65000
662 #define MAX_SLQ_TOC 2048
663
664 int sl_pack(DALLOC_CTX *query, char *buf)
665 {
666     EC_INIT;
667     char toc_buf[MAX_SLQ_TOC];
668     int toc_index = 0;
669     int len = 0;
670
671     memcpy(buf, "432130dm", 8);
672     EC_NEG1_LOG( len = sl_pack_loop(query, buf + 16, 0, toc_buf + 8, &toc_index) );
673     SIVAL(buf, 8, len / 8 + 1 + toc_index + 1);
674     SIVAL(buf, 12, len / 8 + 1);
675
676     SLVAL(toc_buf, 0, sl_pack_tag(SQ_TYPE_TOC, toc_index + 1, 0));
677     memcpy(buf + 16 + len, toc_buf, (toc_index + 1 ) * 8);
678
679     len += 16 + (toc_index + 1 ) * 8;
680
681 EC_CLEANUP:
682     if (ret != 0)
683         len = -1;
684     return len;
685 }
686
687 int sl_unpack(DALLOC_CTX *query, const char *buf)
688 {
689     EC_INIT;
690     int encoding, i, toc_entries;
691     uint64_t toc_offset, tquerylen, toc_entry;
692
693     if (strncmp(buf, "md031234", 8) == 0)
694         encoding = SL_ENC_BIG_ENDIAN;
695     else
696         encoding = SL_ENC_LITTLE_ENDIAN;
697
698     buf += 8;
699
700     toc_offset = ((sl_unpack_uint64(buf, 0, encoding) >> 32) - 1 ) * 8;
701     if (toc_offset < 0 || (toc_offset > 65000)) {
702         EC_FAIL;
703     }
704
705     buf += 8;
706
707     toc_entries = (int)(sl_unpack_uint64(buf, toc_offset, encoding) & 0xffff);
708
709     EC_NEG1( sl_unpack_loop(query, buf, 0, 1, toc_offset + 8, encoding) );
710
711 EC_CLEANUP:
712     EC_EXIT;
713 }