Add server support for forward/back mouse buttons

This commit adds support for the pseudo-encoding ExtendedMouseButtons in
Xvnc and x0vncserver, which makes it possible to use to use the
back/forward mouse buttons.

This commit contains work originally done by
PixelSmith <manny33@frontbuffer.com>.

Filter duplicate server history entries

A server can be specified in many different ways, so it is easy to get
multiple entries in the history for the same thing.

Get rid of these by parsing each entry and comparing with existing
entries.

Move recent server to top of history

It's easier for the user if the most recently used entries are at the
top.

Use std::list for server history

We don't need random access to the entries, so a list fits just as well.
It also has better accessors we need.

Handle server history with '/' in entries

This happens if you've connected to a server using a Unix socket.

Add more usage of SystemException

Prefer this exception for failures involving errno as it gives a better
error description.

Fix reporting of some TLS errors

These functions return a GnuTLS status, so we should use the correct
exception for that so we get the proper error messages.

Correctly handling rejecting server key

This is the user actively rejecting the connection, and should be
signalled as such for correct behaviour.

Add missing config.h includes

Remove ConnFailedException

There were more unclear usage of this exception class, and since nothing
catches it it is very unclear what the purpose is. Go ahead and just
remove it.

Follow-up to bcaaea7.

Update Chinese (simplified) translation

Merge branch 'master' of https://github.com/0-wiz-0/tigervnc

vncviewer: add missing include for struct timeval

Correctly handle ZRLE cursors

Cursor data has a depth of 32 bits and hence cannot use CPIXELs.

This is a regression from baca73d.

Only read first password from file

Read just the first password and ignore anything else in the password
file. This allows you to reuse a password file from the server that also
includes a view-only password.

This fixes a regression introduced in b99daad.

Move getUserPasswd()/showMsgBox() to CConnection

Problems with the original code: A process can only establish one connection.
After modification, multiple connections can be supported.

Improve error messages for base directory creation

Handle failure getting VNC directories

Although rare, there are cases where we might fail to determine our base
directories. Make sure the code can handle it.

Move base directory creation to helper function

This is non-trivial now, so let's modularize this a bit.

Merge pull request #1825 from LMattsson/macos-minimize-fixme

Add FIXME comment regarding macOS minimise fix

Add FIXME comment regarding macOS minimise fix

An issue with minimise not working when in fullscreen on macOS was
workaround in Pull Request #1813. The underlaying issue is currently
unknown.

macOS native fullscreen mode was looked into, but no clear answer was
given. See #1813 for details.

Merge pull request #1813 from rudironsonijr/fix/macos-not-minimizing

Apple only: exit FL_Window fullscreen if active in order to minimize.

Merge branch 'h264-colour-spaces' of https://github.com/any1/tigervnc

H264Libav: Use nearest-neighbour sampling in scaler

sws_getCachedContext will set a default sampling method if 0 is passed
to the flags argument. This means that when it is called again, the
flags argument will not match the flags in the context, so a new one
will be allocated every time.

To get around this problem, we assign an explicit sampling method, one
that also happens to be more efficient and just as good for this
use-case as the default one, which is bicubic interpolation.

H264Libav: Handle colour space conversion

The scaler is now informed of the colour space encoded into the stream
so that it may do the proper conversion.

Apple only: exit FL_Window fullscreen if active in order to minimize.

Merge branch 'h264-buffer-size-fix' of https://github.com/any1/tigervnc

H264Libav: Clean up sws context

This fixes a memory leak

H264Libav: Use AVFrame for pixel format conversion buffer

This ensures that the buffer is allocated with the correct alignment and
padding for use with sws_scale.

This fixes out-of-bounds writes which would in some cases cause
segmentation faults and/or heap corruption.

Handle existing config directory in vncpasswd

This fixes commit a79c33d.

Let pwquality check minimum length

This is a policy decision, so let's not enforce something on our own if
there is a system policy to rely on.

Only show pwquality setting where relevant

It's not used for Windows or macOS builds, so don't show the setting
there.

Merge branch 'master' of https://github.com/prownd/tigervnc

Merge branch 'old-log' of https://github.com/jcpunk/tigervnc

vncsession: Move existing log to log.old if present

Limit the maximum length of a password to 8 characters

Password should not be greater than 8 characters.
Because only 8 valid characters are used.

vncpasswd add password complexity rule check to enhance security

Use the library pwquality to check password complexity and improve security.
Additionally, optional enable support is also set in CMake.

Use proper gnutls_free() on Windows

The underlying issue requiring this hack was fixed ages ago.
Unfortunately, the fixed GnuTLS doesn't consider static linking. So we
need to add a new hack that permits that.

Avoid using excessive namespaces

Try to be more clear about what things are external to the current
context, and what aren't.

Avoid connection failed exception

The usage of this is unclear as it is never caught. Use the general
exception class, to stay consistent with all other protocol handling.

Fix typos

Don't adjust manually sized window

It's unclear why this code was ever added, and it can be very confusing
that the window partially adjusts itself. The code is also in conflict
with the earlier comment that states we'll leave the window size alone
if it didn't perfectly match before the resize.

Remove unused setPixelFormat() callback

This was made obsolete in dd45b44 when we extended the serverInit()
callback.

Remove fake framebuffer update request call

This method should only be called when the client actually sends a
framebuffer update request, otherwise we might send data the client is
not ready for.

It's unclear what the purpose of this call is, so we have no better fix
than to just remove it.

Update processMsg() description

This method is no longer blocking, so the description needed to be
adjusted.

Include key code for fake key events

Let's try to mimic a real event as much as possible to avoid bugs.

Better type for pointer button mask

This is a very limited bit field, so use an 8 bit type to clearly show
how many bits are available.

Remove InputHandler interface

The different uses of this interface are not that closely related and
there is no need for them to have a common interface class.

Remove ScaleFilters

This has been unused since 9fe3479.

Remove IdentityVerifier forward declaration

This class has been removed since ages.

Don't parse empty fence messages

We need to return here or we'll do an out-of-bounds access on the data
array.

Don't ask for login data when reconnecting

Better error message for authentication failure

Don't abuse auth failure exception

This exception is for when the user fails to authenticate, not all
possible errors that might occur during the authentication phase.

Use more appropriate exception types for the various other problems that
might occur, so that we can present things more accurately to the user.

Remove auth exception prefix

This prefix often just added noise, and could sometimes be added
multiple times. It's better that user interface catch the specific
exception type and give a more descriptive presentation to the user.

This is partially a revert of 1922550.

Correctly handle cancelled authentication

We should not be throwing up error messages, or asking to reconnect, if
the user has actively cancelled the authentication attempt.

Improve x0vncserver key allocation log line

Follow the standard XK_ prefix, and also include the hex value for
easier debugging.

Avoid XKeysymToString() conflict with libX11

We implement our own version of this, and because of this we carry our
lookup table generated by the same tool that libX11 uses. Unfortunately,
that table is a global symbol and as such there might be a mismatch of
which table should be used.

Make sure we get our own copy by changing the name of it. We use a
define rather than modifying ks_tables.h as that file is automatically
generated.

Merge branch 'fix-unknown-keysym' of https://github.com/gujjwal00/tigervnc

Merge branch 'min' of https://github.com/KangLin/tigervnc

Add missing comma in default security type list

Otherwise it merges with the next entry, removing both of them from the
default list.

vncsession: use /bin/sh if the user shell is not set

An empty shell field in the password file is valid, although not common.
Use /bin/sh in this case, as documented in the passwd(5) man page, since
the vncserver script requires a non-empty SHELL environment variable.

Fixes issue #1786.

Signed-off-by: Carlos Santos <casantos@redhat.com>

Use std::min replace min

Merge branch 'h264-fix-context-reset' of https://github.com/any1/tigervnc

Generate better (fake) modelines

This is what Xwayland does, so let's try to do the same to avoid any
incompatibilites with applications.

H264Decoder: Fix context reset

This fixes a regression introduced by
12b3f4021641537b90727b23d42de5dff59006cd.

Fix overflow; "Timer: gettimeofday is broken"

The rounding misbehaved when the tv_usec calculation overflows.

Fixes issue #1782.

Be more careful with ComparingUpdateTracker pointer

As of 28c3f12, we might now be running the frame clock even without a
framebuffer present. This means we need to be more careful accessing the
ComparingUpdateTracker, as it might be NULL.

Round up expiration time for timers

Otherwise we won't properly guarantee that we'll wait *at least* as long
as the specified time.

Fix x0vncserver handling of timers

Bug fix for bf28683.

Improve unknown keysym handling

Instead of giving up after all free keycodes have been used, Keycodes from previously added keysyms will be reused.

Re: #93

Update Slovak translation

Merge branch 'c++11' of github.com:CendioOssman/tigervnc

Enforce not shadowing variables

Shadowing variable can easily lead to bugs, so let's enforce that this
is not allowed.

Avoid shadowing variables

It's a source of confusion and possibly bugs to reuse the same variable
name for multiple things.

Use "static" for helper functions

These functions act only on the input parameters, so let's make them
static to more clearly indicate that they do not act upon any object.

Simplify RandR output name handling

Store the name in a std::string to make things less complex as we don't
need to be as careful about making sure the data is free():d.

Avoid redundant arguments

Remove redundant arguments where the method already has access to the
relevant variable as an object attribute.

Simplify code using range-based for loops

These are often more readable as they avoid a lot of the boilerplate of
iterating over fixed arrays or STL containers.

Note that this change is very conservative to avoid noise in "git
blame". Only loops where this is a clear improvement have been
converted.

Remove careful client iteratation

Clients cannot remove themselves from the list as we are iterating, so
we don't need this complexity. If a client encounters a problem, it will
only mark it self as closed and will be removed from the list at a later
time.

Prefer std::find() over manual search

Let's avoid reimplementing something basic that's available in the
standard library. It also makes the code easier to read.

Remove unnecessary headers from Security.cxx

Enforce using "override"

Make sure developers don't miss marking methods correctly.

Mark overridden virtual functions

Use the new "override" keyword to properly differentiate between new
virtual methods, and existing virtual methods being overridden.

Enforce using nullptr for C++ code

The compiler can help out in making sure we are consistent in our use of
nullptr rather than NULL.

Disable gcc NULL warning for context menu

We use the pointer to just store an identifier for the menu, but this is
enough for gcc to think we are using 0 instead of nullptr and complain.
Even an explicit cast isn't enough to silence it here for some reason.

Use nullptr in all C++ code

It's more readable than 0, and a bit safer than NULL, so let's try to
follow modern norms.

Make sure we use C++ 11

It's rare we use a compiler that has anything older as a default, but it
does happen sometimes. So make sure to guarantee this so we can start
using more modern constructs.

Fix Windows installer dependencies

Make sure the dependencies point to the correct files, even if an out of
tree build is used.

Update Swedish translation

Update Finnish translation

Update Czech translation

Update Indonesian translation

Update Bulgarian translation

Update Swedish translation

Update Hebrew translation

Update Romanian translation

Update Spanish translation

Update Ukrainian translation

Change development version to 1.14.80