vncserver: Display check should confirm UNIX domain socket is still valid

If the X server is not shut down cleanly, it can leave UNIX domain
sockets around that "vncserver" has previously mis-identified as
evidence that the display number is still in use.

Instead of checking for existence of /tmp/.X11-unix/X<n>, the code
will now attempt to connect to the socket to confirm that there is a
server process listening on this UNIX domain socket. This will
eliminate false positives in the case the UNIX domain socket still
exists but is not associated with a listening Xorg server. The Xorg
server does not have a problem with fixing this file when it next
starts up. It is only important to avoid using the port if it is still
in use.

vncserver: Display check should be re-factored for Perl 5

The display check and related setup code was complex due to
compatibility with Perl 4. This included different ways of obtaining
system constants and building system data structures. Perl 5 provides
direct constants and utility methods to abstract this out of the
vncserver code.

vncserver: Display check should confirm lock file is still valid

If the X server is not shut down cleanly, it may leave lock files
around that "vncserver" has previously mis-identified as evidence that
the display number is still in use.

Instead of checking for existence of /tmp/.X<n>-lock, the code will
now extract the PID from the lock file and confirm that a process
exists with the same PID. This will eliminate false positives in the
case that this file references a PID that no longer exists. The Xorg
server does not have a problem with fixing this file when it next
starts up. It is only important to avoid using the port if it is still
in use.

vncserver: Display check should avoid duplicate code

The display check had duplicate code to first check if the X11 port is
not in use, and then check that the RFB port is not in use. Eliminate
the duplicate code by using a for-loop.

vncserver: Display check should use named variables

Several calculated values such as file paths and port numbers were
hard coded within strings or expressions, sometimes multiple
times. These values should be extracted into named variables to
improve self-documentation and avoid accidental divergence.

vncserver: Display check should check for lock file first

Checking for the existence of `/tmp/.X<n>-lock` is a fast read-only
operation, while calls to bind() or connect() are more expensive and
may have side effects. Perform the fast operation first.

vncserver: Remove legacy HP-UX support

The check for existence of `/usr/spool/sockets/X11/<n>` has been
removed. This file is only relevant on HP-UX, and TigerVNC dropped
support for HP-UX in commit 31e5aa3.

Merge branch 'master' of https://github.com/ayoder770/tigervnc

Merge branch 'master-Fix-division-by-zero-exception-in-SSecurityPlain' of https://github.com/MarkMielke/tigervnc

Correction to socket error connection message

Merge branch 'user-trailing-spaces' of https://github.com/grulja/tigervnc

Fix division by zero exception in SSecurityPlain.

If using SSecurityPlain and the user specifies an empty username
and password, it will invoke InStream::checkNoWait(0) which will
cause a division by zero when calculating the number of available
items.

Enhance InStream::check() to behave properly when asked for
zero items, or zero sized items.

Add comments to InStream::check(), InStream::checkNoWait(),
and InStream::readBytes() to document expected behaviour
when requested to check or read zero items, or an item with
zero size.

Remove trailing spaces in user name

It's quite easy to make a mistake and add an additional space when configuring
users in the vncserver.users config file. You will then get an error that the
user doesn't exist and it's hard to spot the mistake. Same applies for a space
before the display number.

Fix some inappropriate format specifiers

A "0x" prefix suggest hexadecimal values, not decimal.

Fix non-functional MaxDisconnectionTime

Since 8e09912 this wasn't triggered properly as we checked if all
clients were gone before we actually removed the last client from our
list.

Update gesture unit test to cover angle cornercase

If the difference in angle is larger than 180 degrees we hit a corner
case. This commit modifies the coordinates of an existing test to cover
this.

Use hypot(x,y) instead of sqrt(x*x + y*y)

Merge branch 'regions' of https://github.com/CendioOssman/tigervnc

Improve names of many gesturehandler unit tests

Makes it easier to understand what the tests do.

Fix typos in comments

Remove unnecessary touchEnd from unit tests

Add proper spacing to if statements

Add constant for TWOTOUCH_TIMEOUT

Update Info.plist copyright, added recommended key.

Automatically pick the correct X.org patch

Update RPM package build process to automatically detect and apply
the correct X.org patch.

Merge branch 'travis' of https://github.com/CendioOssman/tigervnc

Set up Windows and macOS travis builds

Use mingw's stdio routines where needed

It allows us to use the more standard format specifiers.

Don't catch exceptions by value

Don't clear complex objects using memset()

This is fine for simple structs but not class based objects.

Silence clang deprecated warnings on macOS

We still target a very old version of macOS, which tends to make clang
very upset, so we need to turn off depercation warnings.

Move pgettext_aux() declaration earlier

Some compilers get upset if a declaration comes after the definition.

Remove unused variable

Fix JpegCompressor::overrun() type change

The method it overloads got tweaked some time ago, so we need to make
sure this method follows suit.

Merge branch 'ack-set-desktop-size' of https://github.com/matt335672/tigervnc

Send response for refused SetDesktopSize

Sends response for SetDesktopSize as per the community wiki
specification

Merge branch 'gesture_handler_v3' of https://github.com/aeneby/tigervnc

Support touch gestures on Windows

This adds the same touch gesture support for Windows as already added
for Unix. Note that it uses Windows gesture detection instead of our own
here though to give the user a familiar experience. Unfortunately that
means we lose the three finger tap.

This also raises the base requirements to Windows 7 as that's when
Windows got proper touch support.

Implement touch gesture handling on Unix

Allows the user to perform certain important mouse operations using
touch gestures instead.

Cancel AltGr timeout on mouse events as well

We have a timer after Ctrl is pressed in order to see if an Alt will
come right after. Ctrl + Alt is what windows sends for AltGr.
If a key other than Alt was pressed we knew that we could cancel this
timer, this commit extends that to mouse events too.

Since this detection breaks the true order of events we want to make
a decision as fast as possible.

Implement X Input pointer handling for Unix

Switch from using Core events to using X Input events for pointer
devices in order to differentiate between mouse events and touch events.

Because FLTK doesn't understand X Input 2, we intercept these events and
translate them to core events where possible.

Ignore bogus FL_MOVE events from FLTK

Fix position for click and drag with EmulateMB

If you have the setting "Emulate middle mouse button" turned on, a click
and drag can fail if it is done very quickly. The position of the
initial click will be incorrect in such a case because the timeout will
delay events.

Add unit tests for EmulateMB

Open X11 display properly

We need to make sure everything happens in the correct order during
startup for the X11 display to open correctly. Primarily it means
we need to parse the arguments and open the display before anything
might make any X11 calls, as we may have a -display argument.

Remove default config alert

We don't exit here, so it's not a fatal error. It's also a fairly common
scenario, so remove the alert completely.

Reject too large screen resize requests

We'll just crash later if we try to use such a large screen, so reject
the request from the client instead and keep the server running.

Catch errors resizing framebuffer

Add final line break to FatalError() calls

It expects the callers to include this, so make sure we're consistently
providing one.

Update Indonesian translation

Use exit_vncviewer() for early errors

Makes things more consistent and avoids surprises.

Bump up Windows version from Vista to Windows 7

Get rid of magical assignment to Region

Might as well make these explicit so the cost is apparent.

Update French translation

[SELinux] Allow vnc_session_t type execute itself

vncsession-start is running in SELinux vnc_session_t domain because of
"SELinuxContext=system_u:system_r:vnc_session_t:s0" option in systemd
vncserver@.service unit file. vncsession-start executing binary
vncsession with SELinux label/type vnc_session_t. This access was not
allowed in vncsession policy.

Switch region code to pixman

This is the current upstream so let's make use of it to get the latest
in features and fixes.

Also link in math library in static build

It's included by default in dynamic builds so we need to make sure it
isn't lost when switching to static.

Don't ignore .cmake files

They are new modules and not generated files.

Avoid using RegionInit() because of empty rects

It creates an invalid region if given an empty rect. Fortunately
RegionInitBoxes() handles that just fine, so use that instead.

Stop using legacy region macros

We no longer support such old X servers so start using the current
functions.

Handle empty changes for every operation

It seems like many of the X11 operations can end up with no pixels
actually changing. So instead of discovering and adding workarounds for
each individually we'll just check very region added if it's empty.

Update Serbian translation

Update Ubuntu patches for current code

Update apt cache before running builds

Otherwise it might fail if the repositories have changed since the image
was generated.

Remove legacy Xorg code

We now require at least 1.16, so remove all code that handled older
versions than that.

Remove 8-bit support from documentation

We removed support in the code ages ago, but overlooked this part of the
documentation. Also remove some dead code in Xvnc on the same theme.

Merge branch 'systemd' of https://github.com/CendioOssman/tigervnc

Do maximize more properly on macOS

Don't resize viewer window when maximized

Most window managers won't like this, and it tends to provoke bugs in
FLTK, so let's avoid it. It's probably not what the user wants anyway.

Include error code in getaddrinfo() exceptions

Avoid using insecure variable length arrays

Merge branch 'unicode_translation' of https://github.com/CendioAlex/tigervnc

Throw GAIException() for getaddrinfo errors

Created a new subclass of Exception called GAIException() that will
handle error messages from getaddrinfo() instead of letting Exception()
handle it. GAIException() will make use of gai_strerror() to map the
error code to text. On Windows, gai_strerrorW() must be used if the text
is encoded with UTF-8.

Fix typo in SocketException message

Make system error messeges in Windows 10 use UTF-8

The previous error messages did not support Unicode characters. This
commit will use UTF-8 encoding to be able to display error messages in
every language.

Remove support for old Xorg versions

No current distribution ship anything this ancient anyway.

Use standard install dir variable names

This makes our builds directly compatible with most distributions
without packagers/users having to specify extra flags.

Add SELinux policy file for vncsession

Running as a service on a SELinux system requires rules so we can
transition to our own context. We also need the proper permissions
to start new user sessions.

Start sessions via PAM

This sets up a more correct session as there are key tasks that
need to be performed by PAM. E.g. systemd will allocate cgroups
and start base services.

In order to easily handle this as a system service the mapping of
displays is now done via a configuration file.

Fix C linking when doing static builds

Make PAM mandatory

It is present on all UNIX systems anyway, so let's simplify things.
We will need it for more proper session startup anyway.

Stop searching for Xvnc

Assume we are part of a complete and proper installation and encode the
full expected path in to the vncserver script.

Start the sessions using xinit

It keeps much better track of the X server and startup files than
we can do.

Make vncserver always run in the foreground

We need to be started as a system service for things to work correctly
anyway, so delegate the work of starting and stopping things to the
system service manager (e.g. systemd).

Start sessions using session desktop file

This is how display managers (e.g. gdm or lightdm) start sessions
and is necessary to get the proper set of environment variables.

Don't create a default user config

We don't want to create files in the users home directory unless we
have to. Users can read about how this file works in our man pages.

Don't accept arbitrary arguments to vncserver

We now have config files for more fine grained control of these
things, so avoid duplicating the functionality.

Stop unsetting environment variables

These might contain values we want if we are start from a proper
environment.

Always install systemd services

It is the most common init system these days so it should not be
hidden in the contrib/ directory.

This also removes all old SysV files from the contrib packages.

Add default configuration files

Install some example files to make things more easily discoverable.

Remove old distribution packaging

These are EOL (or soon to be) and we want to start relying on things
present in current distributions.

Merge branch 'xorg-server-1.20.7' of https://github.com/lheckemann/tigervnc

Fix error check for zlib calls

There are multiple "okay" return values, not just Z_OK. Make sure we
don't bail out needlessly.

Fix framebuffer setup in encperf

We adapted to the wrong new callback in a previous commit.

Provide dummy output for dummy client connections

The CConnection base class wants to be able to write things these days,
so we need to provide it a place to do so.

Merge pull request #958 from sequencer/env_userpass

Read username and passwrod from env.

bug fix for user is NULL

add man

implement username/password from env.

xserver: add no-op input thread init function

This allows Xvnc to build with xorg-server 1.20.7, which requires OS
layers to implement a ddxInputThreadInit function when configured with
--enable-input-thread (the default).

relevant xorg-server commit: e3f26605d85d987da434640f52646d728f1fe919