]> source.dussan.org Git - rspamd.git/commitdiff
Forgot to add.
authorVsevolod Stakhov <vsevolod@highsecure.ru>
Sat, 2 Nov 2013 22:28:19 +0000 (22:28 +0000)
committerVsevolod Stakhov <vsevolod@highsecure.ru>
Sat, 2 Nov 2013 22:28:19 +0000 (22:28 +0000)
src/ucl/src/ucl_hash.c [new file with mode: 0644]
src/ucl/src/ucl_hash.h [new file with mode: 0644]
src/ucl/src/ucl_util.c
src/ucl/src/xxhash.c [new file with mode: 0644]
src/ucl/src/xxhash.h [new file with mode: 0644]

diff --git a/src/ucl/src/ucl_hash.c b/src/ucl/src/ucl_hash.c
new file mode 100644 (file)
index 0000000..a2d0470
--- /dev/null
@@ -0,0 +1,105 @@
+/* Copyright (c) 2013, Vsevolod Stakhov
+ * All rights reserved.
+ *
+ * Redistribution and use in source and binary forms, with or without
+ * modification, are permitted provided that the following conditions are met:
+ *       * Redistributions of source code must retain the above copyright
+ *         notice, this list of conditions and the following disclaimer.
+ *       * Redistributions in binary form must reproduce the above copyright
+ *         notice, this list of conditions and the following disclaimer in the
+ *         documentation and/or other materials provided with the distribution.
+ *
+ * THIS SOFTWARE IS PROVIDED ''AS IS'' AND ANY
+ * EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
+ * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
+ * DISCLAIMED. IN NO EVENT SHALL AUTHOR BE LIABLE FOR ANY
+ * DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES
+ * (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
+ * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND
+ * ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
+ * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
+ * SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
+ */
+
+#include "ucl_hash.h"
+#include "utlist.h"
+
+ucl_hash_t*
+ucl_hash_create (void)
+{
+       ucl_hash_t *new;
+
+       new = UCL_ALLOC (sizeof (ucl_hash_t));
+       if (new != NULL) {
+               new->buckets = NULL;
+       }
+       return new;
+}
+
+void ucl_hash_destroy (ucl_hash_t* hashlin, ucl_hash_free_func *func)
+{
+       ucl_hash_node_t *elt, *tmp;
+
+       HASH_ITER (hh, hashlin->buckets, elt, tmp) {
+               HASH_DELETE (hh, hashlin->buckets, elt);
+               if (func) {
+                       func (elt->data);
+               }
+               UCL_FREE (sizeof (ucl_hash_node_t), elt);
+       }
+       UCL_FREE (sizeof (ucl_hash_t), hashlin);
+}
+
+void
+ucl_hash_insert (ucl_hash_t* hashlin, ucl_object_t *obj, const char *key, unsigned keylen)
+{
+       ucl_hash_node_t *node;
+
+       node = UCL_ALLOC (sizeof (ucl_hash_node_t));
+       node->data = obj;
+       HASH_ADD_KEYPTR (hh, hashlin->buckets, key, keylen, node);
+}
+
+void*
+ucl_hash_iterate (ucl_hash_t *hashlin, ucl_hash_iter_t *iter)
+{
+       ucl_hash_node_t *elt = *iter;
+
+       if (elt == NULL) {
+               if (hashlin->buckets == NULL) {
+                       return NULL;
+               }
+               elt = hashlin->buckets;
+               if (elt == NULL) {
+                       return NULL;
+               }
+       }
+       else if (elt == hashlin->buckets) {
+               return NULL;
+       }
+
+       *iter = elt->hh.next ? elt->hh.next : hashlin->buckets;
+       return elt->data;
+}
+
+bool
+ucl_hash_iter_has_next (ucl_hash_iter_t iter)
+{
+       ucl_hash_node_t *elt = iter;
+
+       return (elt == NULL || elt->hh.prev != NULL);
+}
+
+
+ucl_object_t*
+ucl_hash_search (ucl_hash_t* hashlin, const char *key, unsigned keylen)
+{
+       ucl_hash_node_t *found;
+
+       HASH_FIND (hh, hashlin->buckets, key, keylen, found);
+
+       if (found) {
+               return found->data;
+       }
+       return NULL;
+}
diff --git a/src/ucl/src/ucl_hash.h b/src/ucl/src/ucl_hash.h
new file mode 100644 (file)
index 0000000..8c19382
--- /dev/null
@@ -0,0 +1,86 @@
+/* Copyright (c) 2013, Vsevolod Stakhov
+ * All rights reserved.
+ *
+ * Redistribution and use in source and binary forms, with or without
+ * modification, are permitted provided that the following conditions are met:
+ *       * Redistributions of source code must retain the above copyright
+ *         notice, this list of conditions and the following disclaimer.
+ *       * Redistributions in binary form must reproduce the above copyright
+ *         notice, this list of conditions and the following disclaimer in the
+ *         documentation and/or other materials provided with the distribution.
+ *
+ * THIS SOFTWARE IS PROVIDED ''AS IS'' AND ANY
+ * EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
+ * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
+ * DISCLAIMED. IN NO EVENT SHALL AUTHOR BE LIABLE FOR ANY
+ * DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES
+ * (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
+ * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND
+ * ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
+ * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
+ * SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
+ */
+
+#ifndef __UCL_HASH_H
+#define __UCL_HASH_H
+
+#include "ucl.h"
+#include "uthash.h"
+
+/******************************************************************************/
+
+typedef struct ucl_hash_node_s
+{
+       ucl_object_t *data;
+       UT_hash_handle hh;
+} ucl_hash_node_t;
+
+typedef int ucl_hash_cmp_func (const void* void_a, const void* void_b);
+typedef void ucl_hash_free_func (void *ptr);
+typedef void* ucl_hash_iter_t;
+
+
+/**
+ * Linear chained hashtable.
+ */
+typedef struct ucl_hash_struct
+{
+       ucl_hash_node_t *buckets; /**< array of hash buckets. One list for each hash modulus. */
+} ucl_hash_t;
+
+
+/**
+ * Initializes the hashtable.
+ */
+ucl_hash_t* ucl_hash_create (void);
+
+/**
+ * Deinitializes the hashtable.
+ */
+void ucl_hash_destroy (ucl_hash_t* hashlin, ucl_hash_free_func *func);
+
+/**
+ * Inserts an element in the the hashtable.
+ */
+void ucl_hash_insert (ucl_hash_t* hashlin, ucl_object_t *obj, const char *key, unsigned keylen);
+
+/**
+ * Searches an element in the hashtable.
+ */
+ucl_object_t* ucl_hash_search (ucl_hash_t* hashlin, const char *key, unsigned keylen);
+
+
+/**
+ * Iterate over hash table
+ * @param hashlin hash
+ * @param iter iterator (must be NULL on first iteration)
+ * @return the next object
+ */
+void* ucl_hash_iterate (ucl_hash_t *hashlin, ucl_hash_iter_t *iter);
+
+/**
+ * Check whether an iterator has next element
+ */
+bool ucl_hash_iter_has_next (ucl_hash_iter_t iter);
+
+#endif
index 10377e295c2cdf30deba546c8d1eb98eac1193a0..6f235aee6599f2537422ddb30d31c4c8a9511992 100644 (file)
@@ -61,7 +61,9 @@ ucl_object_free_internal (ucl_object_t *obj, bool allow_rec)
                        }
                }
                else if (obj->type == UCL_OBJECT) {
-                       ucl_hash_destroy (obj->value.ov, (ucl_hash_free_func *)ucl_obj_free);
+                       if (obj->value.ov != NULL) {
+                               ucl_hash_destroy (obj->value.ov, (ucl_hash_free_func *)ucl_obj_free);
+                       }
                }
                tmp = obj->next;
                UCL_FREE (sizeof (ucl_object_t), obj);
diff --git a/src/ucl/src/xxhash.c b/src/ucl/src/xxhash.c
new file mode 100644 (file)
index 0000000..bb4c639
--- /dev/null
@@ -0,0 +1,475 @@
+/*\r
+xxHash - Fast Hash algorithm\r
+Copyright (C) 2012-2013, Yann Collet.\r
+BSD 2-Clause License (http://www.opensource.org/licenses/bsd-license.php)\r
+\r
+Redistribution and use in source and binary forms, with or without\r
+modification, are permitted provided that the following conditions are\r
+met:\r
+\r
+* Redistributions of source code must retain the above copyright\r
+notice, this list of conditions and the following disclaimer.\r
+* Redistributions in binary form must reproduce the above\r
+copyright notice, this list of conditions and the following disclaimer\r
+in the documentation and/or other materials provided with the\r
+distribution.\r
+\r
+THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS\r
+"AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT\r
+LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR\r
+A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT\r
+OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,\r
+SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT\r
+LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,\r
+DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY\r
+THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT\r
+(INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE\r
+OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.\r
+\r
+You can contact the author at :\r
+- xxHash source repository : http://code.google.com/p/xxhash/\r
+*/\r
+\r
+\r
+//**************************************\r
+// Tuning parameters\r
+//**************************************\r
+// Unaligned memory access is automatically enabled for "common" CPU, such as x86.\r
+// For others CPU, the compiler will be more cautious, and insert extra code to ensure aligned access is respected.\r
+// If you know your target CPU supports unaligned memory access, you want to force this option manually to improve performance.\r
+// You can also enable this parameter if you know your input data will always be aligned (boundaries of 4, for U32).\r
+#if defined(__ARM_FEATURE_UNALIGNED) || defined(__i386) || defined(_M_IX86) || defined(__x86_64__) || defined(_M_X64)\r
+#  define XXH_USE_UNALIGNED_ACCESS 1\r
+#endif\r
+\r
+// XXH_ACCEPT_NULL_INPUT_POINTER :\r
+// If the input pointer is a null pointer, xxHash default behavior is to trigger a memory access error, since it is a bad pointer.\r
+// When this option is enabled, xxHash output for null input pointers will be the same as a null-length input.\r
+// This option has a very small performance cost (only measurable on small inputs).\r
+// By default, this option is disabled. To enable it, uncomment below define :\r
+//#define XXH_ACCEPT_NULL_INPUT_POINTER 1\r
+\r
+// XXH_FORCE_NATIVE_FORMAT :\r
+// By default, xxHash library provides endian-independant Hash values, based on little-endian convention.\r
+// Results are therefore identical for little-endian and big-endian CPU.\r
+// This comes at a performance cost for big-endian CPU, since some swapping is required to emulate little-endian format.\r
+// Should endian-independance be of no importance for your application, you may set the #define below to 1.\r
+// It will improve speed for Big-endian CPU.\r
+// This option has no impact on Little_Endian CPU.\r
+#define XXH_FORCE_NATIVE_FORMAT 0\r
+\r
+\r
+//**************************************\r
+// Compiler Specific Options\r
+//**************************************\r
+// Disable some Visual warning messages\r
+#ifdef _MSC_VER  // Visual Studio\r
+#  pragma warning(disable : 4127)      // disable: C4127: conditional expression is constant\r
+#endif\r
+\r
+#ifdef _MSC_VER    // Visual Studio\r
+#  define forceinline static __forceinline\r
+#else \r
+#  ifdef __GNUC__\r
+#    define forceinline static inline __attribute__((always_inline))\r
+#  else\r
+#    define forceinline static inline\r
+#  endif\r
+#endif\r
+\r
+\r
+//**************************************\r
+// Includes & Memory related functions\r
+//**************************************\r
+#include "xxhash.h"\r
+// Modify the local functions below should you wish to use some other memory related routines\r
+// for malloc(), free()\r
+#include <stdlib.h>\r
+forceinline void* XXH_malloc(size_t s) { return malloc(s); }\r
+forceinline void  XXH_free  (void* p)  { free(p); }\r
+// for memcpy()\r
+#include <string.h>\r
+forceinline void* XXH_memcpy(void* dest, const void* src, size_t size) { return memcpy(dest,src,size); }\r
+\r
+\r
+//**************************************\r
+// Basic Types\r
+//**************************************\r
+#if defined (__STDC_VERSION__) && __STDC_VERSION__ >= 199901L   // C99\r
+# include <stdint.h>\r
+  typedef uint8_t  BYTE;\r
+  typedef uint16_t U16;\r
+  typedef uint32_t U32;\r
+  typedef  int32_t S32;\r
+  typedef uint64_t U64;\r
+#else\r
+  typedef unsigned char      BYTE;\r
+  typedef unsigned short     U16;\r
+  typedef unsigned int       U32;\r
+  typedef   signed int       S32;\r
+  typedef unsigned long long U64;\r
+#endif\r
+\r
+#if defined(__GNUC__)  && !defined(XXH_USE_UNALIGNED_ACCESS)\r
+#  define _PACKED __attribute__ ((packed))\r
+#else\r
+#  define _PACKED\r
+#endif\r
+\r
+#if !defined(XXH_USE_UNALIGNED_ACCESS) && !defined(__GNUC__)\r
+#  ifdef __IBMC__\r
+#    pragma pack(1)\r
+#  else\r
+#    pragma pack(push, 1)\r
+#  endif\r
+#endif\r
+\r
+typedef struct _U32_S { U32 v; } _PACKED U32_S;\r
+\r
+#if !defined(XXH_USE_UNALIGNED_ACCESS) && !defined(__GNUC__)\r
+#  pragma pack(pop)\r
+#endif\r
+\r
+#define A32(x) (((U32_S *)(x))->v)\r
+\r
+\r
+//***************************************\r
+// Compiler-specific Functions and Macros\r
+//***************************************\r
+#define GCC_VERSION (__GNUC__ * 100 + __GNUC_MINOR__)\r
+\r
+// Note : although _rotl exists for minGW (GCC under windows), performance seems poor\r
+#if defined(_MSC_VER)\r
+#  define XXH_rotl32(x,r) _rotl(x,r)\r
+#else\r
+#  define XXH_rotl32(x,r) ((x << r) | (x >> (32 - r)))\r
+#endif\r
+\r
+#if defined(_MSC_VER)     // Visual Studio\r
+#  define XXH_swap32 _byteswap_ulong\r
+#elif GCC_VERSION >= 403\r
+#  define XXH_swap32 __builtin_bswap32\r
+#else\r
+static inline U32 XXH_swap32 (U32 x) {\r
+    return  ((x << 24) & 0xff000000 ) |\r
+        ((x <<  8) & 0x00ff0000 ) |\r
+        ((x >>  8) & 0x0000ff00 ) |\r
+        ((x >> 24) & 0x000000ff );}\r
+#endif\r
+\r
+\r
+//**************************************\r
+// Constants\r
+//**************************************\r
+#define PRIME32_1   2654435761U\r
+#define PRIME32_2   2246822519U\r
+#define PRIME32_3   3266489917U\r
+#define PRIME32_4    668265263U\r
+#define PRIME32_5    374761393U\r
+\r
+\r
+//**************************************\r
+// Architecture Macros\r
+//**************************************\r
+typedef enum { XXH_bigEndian=0, XXH_littleEndian=1 } XXH_endianess;\r
+#ifndef XXH_CPU_LITTLE_ENDIAN   // It is possible to define XXH_CPU_LITTLE_ENDIAN externally, for example using a compiler switch\r
+    static const int one = 1;\r
+#   define XXH_CPU_LITTLE_ENDIAN   (*(char*)(&one))\r
+#endif\r
+\r
+\r
+//**************************************\r
+// Macros\r
+//**************************************\r
+#define XXH_STATIC_ASSERT(c)   { enum { XXH_static_assert = 1/(!!(c)) }; }    // use only *after* variable declarations\r
+\r
+\r
+//****************************\r
+// Memory reads\r
+//****************************\r
+typedef enum { XXH_aligned, XXH_unaligned } XXH_alignment;\r
+\r
+forceinline U32 XXH_readLE32_align(const U32* ptr, XXH_endianess endian, XXH_alignment align)\r
+{ \r
+    if (align==XXH_unaligned)\r
+        return endian==XXH_littleEndian ? A32(ptr) : XXH_swap32(A32(ptr)); \r
+    else\r
+        return endian==XXH_littleEndian ? *ptr : XXH_swap32(*ptr); \r
+}\r
+\r
+forceinline U32 XXH_readLE32(const U32* ptr, XXH_endianess endian) { return XXH_readLE32_align(ptr, endian, XXH_unaligned); }\r
+\r
+\r
+//****************************\r
+// Simple Hash Functions\r
+//****************************\r
+forceinline U32 XXH32_endian_align(const void* input, int len, U32 seed, XXH_endianess endian, XXH_alignment align)\r
+{\r
+    const BYTE* p = (const BYTE*)input;\r
+    const BYTE* const bEnd = p + len;\r
+    U32 h32;\r
+\r
+#ifdef XXH_ACCEPT_NULL_INPUT_POINTER\r
+    if (p==NULL) { len=0; p=(const BYTE*)(size_t)16; }\r
+#endif\r
+\r
+    if (len>=16)\r
+    {\r
+        const BYTE* const limit = bEnd - 16;\r
+        U32 v1 = seed + PRIME32_1 + PRIME32_2;\r
+        U32 v2 = seed + PRIME32_2;\r
+        U32 v3 = seed + 0;\r
+        U32 v4 = seed - PRIME32_1;\r
+\r
+        do\r
+        {\r
+            v1 += XXH_readLE32_align((const U32*)p, endian, align) * PRIME32_2; v1 = XXH_rotl32(v1, 13); v1 *= PRIME32_1; p+=4;\r
+            v2 += XXH_readLE32_align((const U32*)p, endian, align) * PRIME32_2; v2 = XXH_rotl32(v2, 13); v2 *= PRIME32_1; p+=4;\r
+            v3 += XXH_readLE32_align((const U32*)p, endian, align) * PRIME32_2; v3 = XXH_rotl32(v3, 13); v3 *= PRIME32_1; p+=4;\r
+            v4 += XXH_readLE32_align((const U32*)p, endian, align) * PRIME32_2; v4 = XXH_rotl32(v4, 13); v4 *= PRIME32_1; p+=4;\r
+        } while (p<=limit);\r
+\r
+        h32 = XXH_rotl32(v1, 1) + XXH_rotl32(v2, 7) + XXH_rotl32(v3, 12) + XXH_rotl32(v4, 18);\r
+    }\r
+    else\r
+    {\r
+        h32  = seed + PRIME32_5;\r
+    }\r
+\r
+    h32 += (U32) len;\r
+\r
+    while (p<=bEnd-4)\r
+    {\r
+        h32 += XXH_readLE32_align((const U32*)p, endian, align) * PRIME32_3;\r
+        h32  = XXH_rotl32(h32, 17) * PRIME32_4 ;\r
+        p+=4;\r
+    }\r
+\r
+    while (p<bEnd)\r
+    {\r
+        h32 += (*p) * PRIME32_5;\r
+        h32 = XXH_rotl32(h32, 11) * PRIME32_1 ;\r
+        p++;\r
+    }\r
+\r
+    h32 ^= h32 >> 15;\r
+    h32 *= PRIME32_2;\r
+    h32 ^= h32 >> 13;\r
+    h32 *= PRIME32_3;\r
+    h32 ^= h32 >> 16;\r
+\r
+    return h32;\r
+}\r
+\r
+\r
+U32 XXH32(const void* input, int len, U32 seed)\r
+{\r
+#if 0\r
+    // Simple version, good for code maintenance, but unfortunately slow for small inputs\r
+    void* state = XXH32_init(seed);\r
+    XXH32_update(state, input, len);\r
+    return XXH32_digest(state);\r
+#else\r
+    XXH_endianess endian_detected = (XXH_endianess)XXH_CPU_LITTLE_ENDIAN;\r
+\r
+#  if !defined(XXH_USE_UNALIGNED_ACCESS)\r
+    if ((((size_t)input) & 3))   // Input is aligned, let's leverage the speed advantage\r
+    {\r
+        if ((endian_detected==XXH_littleEndian) || XXH_FORCE_NATIVE_FORMAT)\r
+            return XXH32_endian_align(input, len, seed, XXH_littleEndian, XXH_aligned);\r
+        else\r
+            return XXH32_endian_align(input, len, seed, XXH_bigEndian, XXH_aligned);\r
+    }\r
+#  endif\r
+\r
+    if ((endian_detected==XXH_littleEndian) || XXH_FORCE_NATIVE_FORMAT)\r
+        return XXH32_endian_align(input, len, seed, XXH_littleEndian, XXH_unaligned);\r
+    else\r
+        return XXH32_endian_align(input, len, seed, XXH_bigEndian, XXH_unaligned);\r
+#endif\r
+}\r
+\r
+\r
+//****************************\r
+// Advanced Hash Functions\r
+//****************************\r
+\r
+struct XXH_state32_t\r
+{\r
+    U64 total_len;\r
+    U32 seed;\r
+    U32 v1;\r
+    U32 v2;\r
+    U32 v3;\r
+    U32 v4;\r
+    int memsize;\r
+    char memory[16];\r
+};\r
+\r
+\r
+int XXH32_sizeofState(void)\r
+{\r
+    XXH_STATIC_ASSERT(XXH32_SIZEOFSTATE >= sizeof(struct XXH_state32_t));   // A compilation error here means XXH32_SIZEOFSTATE is not large enough\r
+    return sizeof(struct XXH_state32_t); \r
+}\r
+\r
+\r
+XXH_errorcode XXH32_resetState(void* state_in, U32 seed)\r
+{ \r
+    struct XXH_state32_t * state = (struct XXH_state32_t *) state_in;\r
+    state->seed = seed;\r
+    state->v1 = seed + PRIME32_1 + PRIME32_2;\r
+    state->v2 = seed + PRIME32_2;\r
+    state->v3 = seed + 0;\r
+    state->v4 = seed - PRIME32_1;\r
+    state->total_len = 0;\r
+    state->memsize = 0;\r
+    return XXH_OK;\r
+}\r
+\r
+\r
+void* XXH32_init (U32 seed)\r
+{\r
+    void* state = XXH_malloc (sizeof(struct XXH_state32_t));\r
+    XXH32_resetState(state, seed);\r
+    return state;\r
+}\r
+\r
+\r
+forceinline XXH_errorcode XXH32_update_endian (void* state_in, const void* input, int len, XXH_endianess endian)\r
+{\r
+    struct XXH_state32_t * state = (struct XXH_state32_t *) state_in;\r
+    const BYTE* p = (const BYTE*)input;\r
+    const BYTE* const bEnd = p + len;\r
+\r
+#ifdef XXH_ACCEPT_NULL_INPUT_POINTER\r
+    if (input==NULL) return XXH_ERROR;\r
+#endif\r
+\r
+    state->total_len += len;\r
+\r
+    if (state->memsize + len < 16)   // fill in tmp buffer\r
+    {\r
+        XXH_memcpy(state->memory + state->memsize, input, len);\r
+        state->memsize +=  len;\r
+        return XXH_OK;\r
+    }\r
+\r
+    if (state->memsize)   // some data left from previous update\r
+    {\r
+        XXH_memcpy(state->memory + state->memsize, input, 16-state->memsize);\r
+        {\r
+            const U32* p32 = (const U32*)state->memory;\r
+            state->v1 += XXH_readLE32(p32, endian) * PRIME32_2; state->v1 = XXH_rotl32(state->v1, 13); state->v1 *= PRIME32_1; p32++;\r
+            state->v2 += XXH_readLE32(p32, endian) * PRIME32_2; state->v2 = XXH_rotl32(state->v2, 13); state->v2 *= PRIME32_1; p32++; \r
+            state->v3 += XXH_readLE32(p32, endian) * PRIME32_2; state->v3 = XXH_rotl32(state->v3, 13); state->v3 *= PRIME32_1; p32++;\r
+            state->v4 += XXH_readLE32(p32, endian) * PRIME32_2; state->v4 = XXH_rotl32(state->v4, 13); state->v4 *= PRIME32_1; p32++;\r
+        }\r
+        p += 16-state->memsize;\r
+        state->memsize = 0;\r
+    }\r
+\r
+    if (p <= bEnd-16)\r
+    {\r
+        const BYTE* const limit = bEnd - 16;\r
+        U32 v1 = state->v1;\r
+        U32 v2 = state->v2;\r
+        U32 v3 = state->v3;\r
+        U32 v4 = state->v4;\r
+\r
+        do\r
+        {\r
+            v1 += XXH_readLE32((const U32*)p, endian) * PRIME32_2; v1 = XXH_rotl32(v1, 13); v1 *= PRIME32_1; p+=4;\r
+            v2 += XXH_readLE32((const U32*)p, endian) * PRIME32_2; v2 = XXH_rotl32(v2, 13); v2 *= PRIME32_1; p+=4;\r
+            v3 += XXH_readLE32((const U32*)p, endian) * PRIME32_2; v3 = XXH_rotl32(v3, 13); v3 *= PRIME32_1; p+=4;\r
+            v4 += XXH_readLE32((const U32*)p, endian) * PRIME32_2; v4 = XXH_rotl32(v4, 13); v4 *= PRIME32_1; p+=4;\r
+        } while (p<=limit);\r
+\r
+        state->v1 = v1;\r
+        state->v2 = v2;\r
+        state->v3 = v3;\r
+        state->v4 = v4;\r
+    }\r
+\r
+    if (p < bEnd)\r
+    {\r
+        XXH_memcpy(state->memory, p, bEnd-p);\r
+        state->memsize = (int)(bEnd-p);\r
+    }\r
+\r
+    return XXH_OK;\r
+}\r
+\r
+XXH_errorcode XXH32_update (void* state_in, const void* input, int len)\r
+{\r
+    XXH_endianess endian_detected = (XXH_endianess)XXH_CPU_LITTLE_ENDIAN;\r
+    \r
+    if ((endian_detected==XXH_littleEndian) || XXH_FORCE_NATIVE_FORMAT)\r
+        return XXH32_update_endian(state_in, input, len, XXH_littleEndian);\r
+    else\r
+        return XXH32_update_endian(state_in, input, len, XXH_bigEndian);\r
+}\r
+\r
+\r
+\r
+forceinline U32 XXH32_intermediateDigest_endian (void* state_in, XXH_endianess endian)\r
+{\r
+    struct XXH_state32_t * state = (struct XXH_state32_t *) state_in;\r
+    const BYTE * p = (const BYTE*)state->memory;\r
+    BYTE* bEnd = (BYTE*)state->memory + state->memsize;\r
+    U32 h32;\r
+\r
+    if (state->total_len >= 16)\r
+    {\r
+        h32 = XXH_rotl32(state->v1, 1) + XXH_rotl32(state->v2, 7) + XXH_rotl32(state->v3, 12) + XXH_rotl32(state->v4, 18);\r
+    }\r
+    else\r
+    {\r
+        h32  = state->seed + PRIME32_5;\r
+    }\r
+\r
+    h32 += (U32) state->total_len;\r
+\r
+    while (p<=bEnd-4)\r
+    {\r
+        h32 += XXH_readLE32((const U32*)p, endian) * PRIME32_3;\r
+        h32  = XXH_rotl32(h32, 17) * PRIME32_4;\r
+        p+=4;\r
+    }\r
+\r
+    while (p<bEnd)\r
+    {\r
+        h32 += (*p) * PRIME32_5;\r
+        h32 = XXH_rotl32(h32, 11) * PRIME32_1;\r
+        p++;\r
+    }\r
+\r
+    h32 ^= h32 >> 15;\r
+    h32 *= PRIME32_2;\r
+    h32 ^= h32 >> 13;\r
+    h32 *= PRIME32_3;\r
+    h32 ^= h32 >> 16;\r
+\r
+    return h32;\r
+}\r
+\r
+\r
+U32 XXH32_intermediateDigest (void* state_in)\r
+{\r
+    XXH_endianess endian_detected = (XXH_endianess)XXH_CPU_LITTLE_ENDIAN;\r
+    \r
+    if ((endian_detected==XXH_littleEndian) || XXH_FORCE_NATIVE_FORMAT)\r
+        return XXH32_intermediateDigest_endian(state_in, XXH_littleEndian);\r
+    else\r
+        return XXH32_intermediateDigest_endian(state_in, XXH_bigEndian);\r
+}\r
+\r
+\r
+U32 XXH32_digest (void* state_in)\r
+{\r
+    U32 h32 = XXH32_intermediateDigest(state_in);\r
+\r
+    XXH_free(state_in);\r
+\r
+    return h32;\r
+}\r
diff --git a/src/ucl/src/xxhash.h b/src/ucl/src/xxhash.h
new file mode 100644 (file)
index 0000000..b9f5288
--- /dev/null
@@ -0,0 +1,164 @@
+/*\r
+   xxHash - Fast Hash algorithm\r
+   Header File\r
+   Copyright (C) 2012-2013, Yann Collet.\r
+   BSD 2-Clause License (http://www.opensource.org/licenses/bsd-license.php)\r
+\r
+   Redistribution and use in source and binary forms, with or without\r
+   modification, are permitted provided that the following conditions are\r
+   met:\r
+  \r
+       * Redistributions of source code must retain the above copyright\r
+   notice, this list of conditions and the following disclaimer.\r
+       * Redistributions in binary form must reproduce the above\r
+   copyright notice, this list of conditions and the following disclaimer\r
+   in the documentation and/or other materials provided with the\r
+   distribution.\r
+  \r
+   THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS\r
+   "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT\r
+   LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR\r
+   A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT\r
+   OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,\r
+   SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT\r
+   LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,\r
+   DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY\r
+   THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT\r
+   (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE\r
+   OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.\r
+\r
+   You can contact the author at :\r
+   - xxHash source repository : http://code.google.com/p/xxhash/\r
+*/\r
+\r
+/* Notice extracted from xxHash homepage :\r
+\r
+xxHash is an extremely fast Hash algorithm, running at RAM speed limits.\r
+It also successfully passes all tests from the SMHasher suite.\r
+\r
+Comparison (single thread, Windows Seven 32 bits, using SMHasher on a Core 2 Duo @3GHz)\r
+\r
+Name            Speed       Q.Score   Author\r
+xxHash          5.4 GB/s     10\r
+CrapWow         3.2 GB/s      2       Andrew\r
+MumurHash 3a    2.7 GB/s     10       Austin Appleby\r
+SpookyHash      2.0 GB/s     10       Bob Jenkins\r
+SBox            1.4 GB/s      9       Bret Mulvey\r
+Lookup3         1.2 GB/s      9       Bob Jenkins\r
+SuperFastHash   1.2 GB/s      1       Paul Hsieh\r
+CityHash64      1.05 GB/s    10       Pike & Alakuijala\r
+FNV             0.55 GB/s     5       Fowler, Noll, Vo\r
+CRC32           0.43 GB/s     9\r
+MD5-32          0.33 GB/s    10       Ronald L. Rivest\r
+SHA1-32         0.28 GB/s    10\r
+\r
+Q.Score is a measure of quality of the hash function. \r
+It depends on successfully passing SMHasher test set. \r
+10 is a perfect score.\r
+*/\r
+\r
+#pragma once\r
+\r
+#if defined (__cplusplus)\r
+extern "C" {\r
+#endif\r
+\r
+\r
+//****************************\r
+// Type\r
+//****************************\r
+typedef enum { XXH_OK=0, XXH_ERROR } XXH_errorcode;\r
+\r
+\r
+\r
+//****************************\r
+// Simple Hash Functions\r
+//****************************\r
+\r
+unsigned int XXH32 (const void* input, int len, unsigned int seed);\r
+\r
+/*\r
+XXH32() :\r
+    Calculate the 32-bits hash of sequence of length "len" stored at memory address "input".\r
+    The memory between input & input+len must be valid (allocated and read-accessible).\r
+    "seed" can be used to alter the result predictably.\r
+    This function successfully passes all SMHasher tests.\r
+    Speed on Core 2 Duo @ 3 GHz (single thread, SMHasher benchmark) : 5.4 GB/s\r
+    Note that "len" is type "int", which means it is limited to 2^31-1.\r
+    If your data is larger, use the advanced functions below.\r
+*/\r
+\r
+\r
+\r
+//****************************\r
+// Advanced Hash Functions\r
+//****************************\r
+\r
+void*         XXH32_init   (unsigned int seed);\r
+XXH_errorcode XXH32_update (void* state, const void* input, int len);\r
+unsigned int  XXH32_digest (void* state);\r
+\r
+/*\r
+These functions calculate the xxhash of an input provided in several small packets,\r
+as opposed to an input provided as a single block.\r
+\r
+It must be started with :\r
+void* XXH32_init()\r
+The function returns a pointer which holds the state of calculation.\r
+\r
+This pointer must be provided as "void* state" parameter for XXH32_update().\r
+XXH32_update() can be called as many times as necessary.\r
+The user must provide a valid (allocated) input.\r
+The function returns an error code, with 0 meaning OK, and any other value meaning there is an error.\r
+Note that "len" is type "int", which means it is limited to 2^31-1. \r
+If your data is larger, it is recommended to chunk your data into blocks \r
+of size for example 2^30 (1GB) to avoid any "int" overflow issue.\r
+\r
+Finally, you can end the calculation anytime, by using XXH32_digest().\r
+This function returns the final 32-bits hash.\r
+You must provide the same "void* state" parameter created by XXH32_init().\r
+Memory will be freed by XXH32_digest().\r
+*/\r
+\r
+\r
+int           XXH32_sizeofState(void);\r
+XXH_errorcode XXH32_resetState(void* state, unsigned int seed);\r
+\r
+#define       XXH32_SIZEOFSTATE 48\r
+typedef struct { long long ll[(XXH32_SIZEOFSTATE+(sizeof(long long)-1))/sizeof(long long)]; } XXH32_stateSpace_t;\r
+/*\r
+These functions allow user application to make its own allocation for state.\r
+\r
+XXH32_sizeofState() is used to know how much space must be allocated for the xxHash 32-bits state.\r
+Note that the state must be aligned to access 'long long' fields. Memory must be allocated and referenced by a pointer.\r
+This pointer must then be provided as 'state' into XXH32_resetState(), which initializes the state.\r
+\r
+For static allocation purposes (such as allocation on stack, or freestanding systems without malloc()),\r
+use the structure XXH32_stateSpace_t, which will ensure that memory space is large enough and correctly aligned to access 'long long' fields.\r
+*/\r
+\r
+\r
+unsigned int XXH32_intermediateDigest (void* state);\r
+/*\r
+This function does the same as XXH32_digest(), generating a 32-bit hash,\r
+but preserve memory context.\r
+This way, it becomes possible to generate intermediate hashes, and then continue feeding data with XXH32_update().\r
+To free memory context, use XXH32_digest(), or free().\r
+*/\r
+\r
+\r
+\r
+//****************************\r
+// Deprecated function names\r
+//****************************\r
+// The following translations are provided to ease code transition\r
+// You are encouraged to no longer this function names\r
+#define XXH32_feed   XXH32_update\r
+#define XXH32_result XXH32_digest\r
+#define XXH32_getIntermediateResult XXH32_intermediateDigest\r
+\r
+\r
+\r
+#if defined (__cplusplus)\r
+}\r
+#endif\r