Update tests suite.

Tune shingles settings.

Add custom targets check and run-test.

Add some tests for shingles.

Add comparision function for shingles.

Allow to allocate shingles without pool.

Link siphash library.

Add preliminary shingles version.

Add siphash contrib code.

Make words from text parts.

Remove direct ucl access.

Add snowball stemmer to the build.

Try to read fuzzy reply even if we have timeout.

Start work on rspamd 0.8

Remove broken whitelist module.

Increase limit for DATE_IN_FUTURE to 2hr.

Suggested by: @citrin

Check DKIM fields length before decoding.

Avoid descriptors leak in lua_http.

Some fixes to lua_http.

Fix url parser invocation.

Validate inet_addr before connecting/listening.

Refactor function names.

Merge pull request #117 from fatalbanana/master

Fix misinformation in RBL module doc

Fix misinformation in RBL module doc

Update manual page.

Tune extended urls output.

Fix some issues with URLs normalization.

Add --extended-urls option to rspamc.

Fill surbl field in struct uri.

Add extended output format for URLs.

Release 0.7.6

* Apply boundary fix for dkim simple canonization
* Fix ping command
* Return nil if header was not found in lua_task
* Fix hang in upstreams revive logic
* Decode entitles when normalizing HTML parts
* Fix logic of finding URLs in HTML parts
* Do not include \0 into length of text when performing conversion to utf8
* Fix raw vs parsed reperesentations
Raw parts are now:
- decoded b64/qp, but *NOT* converted to utf-8
Processed parts are now:
- converted to UTF-8
- normalized if needed (e.g. HTML tags are stripped)
* Rework DKIM canonization to line based
* Fix fuzzy hashes addding
* Use more specific hash function for fuzzy
* Fix leaking of iconv descriptors
* Fix PTR resolving in lua resolver
* Rework spf module.
- Copy data to memory pool as cached record might be destroyed causing
    freed memory being passed to the protocol output (use after free)
- Allow SPF_NEUTRAL policy to be handled separately
- Add R_SPF_NEUTRAL to the default config
* Rework `register_symbols` function
* Allow to disable components of hfilter

Signed-off-by: Vsevolod Stakhov <vsevolod@highsecure.ru>

Update version to 0.7.6.

Fix `register_symbols` lua function.

Allow to disable components of hfilter.

Rework `register_symbols` function.

Rework spf module.

- Copy data to memory pool as cached record might be destroyed causing
  freed memory being passed to the protocol output (use after free).
- Allow SPF_NEUTRAL policy to be handled separately.
- Add R_SPF_NEUTRAL to the default config.

Fix indentation in hfilter.

Fix PTR resolving in lua resolver.

Fix leaking of iconv descriptors.

Another try to fix race condition in the upstreams.

Use more proper hashing for fuzzy.

Add fuzzy hash utilities.

Fix fuzzy hashes addding.

Rework DKIM canonization to line based.

Fix raw vs parsed reperesentations.

Raw parts are now:
- decoded b64/qp, but *NOT* converted to utf-8

Processed parts are now:
- converted to UTF-8
- normalized if needed (e.g. HTML tags are stripped)

One more try to fix dkim border issues.

Do not include \0 into length of text.

Fix logic of finding URLs in HTML parts.

Decode entitles when normalizing HTML parts.

Try to fix hang in upstream events.

Return nil if header was not found in lua_task.

Fix ping command.

Apply boundary fix for dkim simple canonization.

Release 0.7.5

* Fix owner when creating folder /run/rspamd (by @sfirmery)
* Fix IP validity checks
* Decode URLs obtained from HTML tags
* Fix crash with unweighted upstreams
* Stop processing headers in parts
* Set sockaddr.sa_family properly when connectig to upstreams
* Fix reload issues in surbl and fuzzy_check (reported by @citrin)
* Fix timeouts in redirector
* Improve lua errors reporting
* Fix lua closures processing in libucl
* Rework calling of lua functions from regexp module
* Choose raw regexp for raw headers
* Rework conversion to utf since glib one is broken
* Ignore SGML style tags in html
* Fix old bug with non-capturing https urls
* Fix memory corruption on fuzzy reload (reported by @citrin)
* Fix percents display in rspamc
* Fix buffer update for DKIM
* Do not validate utf for raw headers

Signed-off-by: Vsevolod Stakhov <vsevolod@highsecure.ru>

Do not validate utf for raw headers.

Remove unused function.

Improve dkim debug log.

Fix buffer update for DKIM.

Sometimes this procedure was able to split \r\n in messages which in
turn led to DKIM checks failures.

Fix percents display in rspamc.

Fix memory corruption on fuzzy reload.

Reported by: @citrin

Fix old bug with non-capturing https urls.

Ignore SGML style tags in html.

Rework conversion to utf since glib is broken.

Update version to 0.7.5.

Choose raw regexp for raw headers.

Rework calling of lua functions from regexp module.

Sync libucl.

Be more informative about lua errors.

Fix timeouts in redirector.

Fix reload issues in surbl and fuzzy_check.

Set AF properly in one more place.

Set sockaddr.sa_family properly.

Remove unused variable.

Stop processing headers in parts.

Fix crash with unweighted upstreams.

Decode URL obtained from HTML tags.

Fix IP validity checks.

Merge pull request #114 from sfirmery/master

Fix owner when creating folder /run/rspamd in Debian init script

Fix owner when creating folder /run/rspamd

Release 0.7.4

* Fix build under *BSD
* Detect HAN unicode script
* Implement language detection heuristic for text parts
* Fix time output in history
* Improve piechart coloring
* Fix \r\n conversion in DKIM module (reported by @citrin)
* Try to detect systems with no IPv6 support
* Fix multiple/single values in use settings (reported by @citrin)
*  Rework IP addresses in upstreams:
- Select ipv4/unix addresses if they exist and use ipv6 for ipv6 only
    upstreams (since the support of ipv6 is poor in many OSes and
    environments)
- Free IP list on upstream destruction
- Add test cases for addresses selection
- Allow adding of free form IP addresses to upstreams
* Fix endiannes in lua_radix search (reported by @citrin)
* Soft shutdown should also set wanna_die flag (reported by @citrin)
* Stop use-after-free in event loop termination
* Fix processing of very short messages in DKIM (reported by @citrin)
* Detect systems without shared mutexes
* Fix issues with PTR and MX elements in SPF parser (reported by @citrin)

Signed-off-by: Vsevolod Stakhov <vsevolod@highsecure.ru>

Improve coloring.

Update versions.

Update version to 0.7.4.

Merge pull request #113 from citrin/master

Fix typo in symbol description.

Try to detect systems without shared mutexes.

Fix processing of very short messages in DKIM.

Reported by: @citrin

Another fix for PTR records in SPF.

Stop use-after-free in event loop termination.

Soft shutdown should also set wanna_die flag.

Fix endiannes in lua_radix search.

Rework IP addresses in upstreams.

- Select ipv4/unix addresses if they exist and use ipv6 for ipv6 only
  upstreams (since the support of ipv6 is poor in many OSes and
  environments).
- Free IP list on upstream destruction.
- Add test cases for addresses selection.
- Allow adding of free form IP addresses to upstreams.

Fix multiple/single values in use settings.

Reported by: @citrin

Try to detect systems with no IPv6 support.

Fix typo in symbol description.

Disable extra debug.

More fixes to dkim \r\n converting.

Found by: @citrin

Fix \r\n conversion in DKIM module.

Improve piechart coloring.

Fix time output in history.

Detect language heuristic for text parts.