Calculate overlay position from window size

Previously, it was assumed that all monitors (and especially the primary
monitor, index 0) was inside the window when we calculate the position
of the overlay.

That might not always be the case, for example when using fullscreen
mode over a narrower set of monitors. This commit does so the overlay is
positioned correctly based on the actual window size, instead of what we
expect it to be.

Release displays not enclosed by the window

cocoa_capture_displays it captures all displays enclosed by the
window_rect. If a set of displays were captured, but the configuration of
what monitors to use changed, a second call would only add to the set
of captured displays. Therefore, if the user enabled
FullScreenAllMonitors (all displays captured) and then disabled it (only
one display captured) they would get into a state were monitors not used
for the VNC session still were captured (which on macOS for example,
results in displays being unusable for other things).

This has now been fixed, resulting in monitors outside the window_rect
not being unnecessarily captured.

Capture all displays inside the viewport (macOS)

It was only possible to capture either the current, or all displays
previously. This could become an issue if you want to show a vnc session
over only a selected set of displays, because then we only want to
capture those displays.

The solution in the commit was chosen because it handles all cases - by
looking at what monitors are enclosed by the viewport the implementation
is independent on any configuration, but instead captures the monitors
actually being used.

Merge branch 'utilize-system-wide-crypto' of https://github.com/grulja/tigervnc

Utilize system-wide crypto policies

Merge branch 'xvfb' of https://github.com/CendioOssman/tigervnc

Remove vfb references from symbol names

Xvnc was originally based on Xvfb, but it's just confusing to keep the
names. So change all prefix to "vnc" instead to clearly mark things as
part of TigerVNC.

Remove zaphod mode from Xvnc

It isn't really useful as it behaves just like starting multiple
servers, so remove it in favour of keeping things simple.

Remove undocumented -linebias argument

This is a development flag with no real use, so remove it to clean up
the code.

Clean up Xvnc screen struct

Remove stuff we don't use, and get it more in sync with Xvfb for easier
comparison.

Remove unused headers

Remove obsolete AIX hack

Remove obsolete comment about backing store

This was removed years ago.

Remove CloseScreen() wrapper

The memory leak this worked around was fixed in X.org 1.16.

Do all RandR init in vncRandRInit()

Keep everything in one place to make it easier to read.

This also removes the call to RRInit() as that is done implicitly
anyway.

Use central SetRootClip()

There's been a common one since X.org 1.11, so use that instead of our
own copy.

Remove Darwin code from Xvnc

We don't build for that platform anyway, so this is just a remnant from
Xvfb.

Handle X.org patch level features

With the 1.20.x releases there has been features and API changes even on
patch level versions, so we need to update our macros to handle these as
well.

Remove shared memory framebuffer option

This is a pointless remnant of Xvfb. We never print the id of the shared
memory, so no other application can access this memory anyway.

Remove more color map code from Xvnc

This hasn't been supported or used in many years, so clean out the final
remnants.

Remove DDXTIME code

This hasn't been used since xorg-server 1.1 so get rid of it.

Call FatalError() on bad Xvnc arguments

This is consistent with other ddx behaviour.

Use CHECK_FOR_REQUIRED_ARGUMENTS() for arg check

This is what all the other ddx variants use, so do the same in Xvnc to
be consistent.

Apply Xorg coding style to xvnc.c

Makes it easier to compare with upstream files as the formatting will be
the same.

Remove #ifdef RENDER

RENDER has been mandatory since xorg-server 1.9, so remove these
checks.

Move ddxInputThreadInit() to xvnc.c

This should only be in the ddx parts of an X server, and Input.c is used
by libvnc.so as well and can cause conflicts there.

Remove Ubuntu rethrow signals patch

This was removed from Ubunut's X.org packages years ago, so drop it from
our packing as well.

Correctly handle screen layout with offset

We miscalculated the screen layout if the geometry had an offset as we
adjusted the real screen layout to account for the offset, but compared
it to the unadjusted geometry.

Merge branch 'smooth-edge-scrolling' of https://github.com/ToyKeeper/tigervnc

Merge branch 'master' of https://github.com/jasonsikes/tigervnc

Avoid some variable aliasing

Remove unnecessary header include

Use <user>@<hostname> as the default desktop name

Is a lot more useful default than the previous "x11", or "x0vncserver".
At the same time give x0vncserver a parameter to change the name.

Clean up default value for X509 parameters

Let's avoid making this too complex and force every user to know about
magical functions.

Use RFC7919-2048 group in GnuTLS for FIPS compliance.

Keep own memory for duplicate config value

Allows the default value to be dynamically generated in a buffer that is
reused.

Remove unused LogParameter::setDefault()

Don't list clipboard parameters for x0vncserver

Better to just hide these parameters rather than stating that they are
unused in the man page.

Merge branch 'tls' of https://github.com/CendioOssman/tigervnc

Don't wait for TLS close response

Our current architecture doesn't support waiting for a response here, so
don't even try or we'll just get an error.

Handle GnuTLS shutdown on dead session

The session might have died, or failed to initialise properly, so be
prepared for gnutls_bye() to be unable to do its job.

Properly clean up client VeNCrypt handling

We would leak the security module below the top client VeNCrypt module,
meaning that those modules would not get a chance to shut down
gracefully.

Remove unneeded NULL checks

It's perfectly safe to delete NULL pointers, so simplify things by
removing these checks.

Propagate exceptions from GnuTLS push/pull functions

Gives us a more meaningful error rather than just "Error in push/pull
function".

Remove early data check for TLSInStream

Having this early check means that we somewhat randomly get different
exception behaviours on errors in deeper layers as some exceptions are
allowed to propagate unhindered and some are not (since they are thrown
in the pull function).

Propagate errno to GnuTLS

Give GnuTLS the correct errno from deeper layers, in the cases where we
know it. In most cases GnuTLS doesn't care, but just in case...

Merge branch 'actions' of https://github.com/CendioOssman/tigervnc

Convert CI to GitHub Actions

Travis has unfortunately been severely rate limited by Docker Hub so we
have to switch to GitHub, which has an agreement with Docker to avoid
the rate limiting.

Don't run container builds with a TTY

No TTY is provided in GitHub's environment, so we cannot have this flag.

Force update of libarchive in CentOS 8 image

Otherwise cmake breaks as it requires a newer version without properly
listing that in its dependencies.

Disable nonliteral format warnings on clang

These are incompatible with functions such as gettext() as clang hasn't
implemented the function attribute function_arg.

Boot strap github actions

A initial workflow needs to be defined for actions to trigger on pull
requests, so just add a minimal, dummy one.

CharArray: pre-fill empty array with zeroes

CharArray should always be null-terminated. There is a potential
scenario where this all might lead to crash. In Password we call
memset(), passing length of the array we get with strlen(), but
this won't return correct value when the array is not properly
null-terminated.

Merge branch 'view-only-password' of https://github.com/grulja/tigervnc

Refer to HOWTO.md from config comments

Give people a chance to know about the documentation.

Include "session" in examples instead of "desktop"

It's almost mandatory to specify "session", but fairly rare to need to
set "desktop", so let's tweak the examples to avoid confusion and
mistakes.

Let user know that a view-only password is not used

Update RHEL package spec files

SELinux: Add missing compression and install policy to correct directory

Avoid absolute path for vncserver.users

Build flags control where this file ends up, so avoid assuming a
specific path in the HOWTO.

Reflow HOWTO.md to 72 columns

The line width was very inconsitent in this file, so standardise on the
common 72 characters.

made full-screen edge scrolling smoother and faster

The old method used a very slow frame rate with small steps,
which made it obnoxious during use.  The new method has a few
improvements:

- Calculates "edge" region width automatically, as a ratio of
  the viewport size.  Default is 1/16th.

- Uses a different edge width for x and y, which works better
  on very wide or very tall screens.

- Increased default frame rate from 10 fps to 60 fps.

- Replaced hardcoded frame rate with a #define.

- Reduced maximum movement per frame slightly, because the
  frame rate is so much faster.  The overall result is still much
  faster, but also easier to do small adjustments with.

- Fixed off-by-one error in scroll rate calculation formula.  Left/up
  scrolls were faster than down/right, but this is fixed.

This makes it more comfortable to use TigerVNC on a small screen
to work on a larger screen for hours at a time.

Validate translations during build

Incorrect format strings can cause crashes, so we want to catch those
early.

Update Greek translation

Maintain static screen DPI on resize

Trying to dynamically track the DPI did not really work as we'd
start accumulating errors and eventually the DPI would start to
drift. Instead maintain a fixed, sensible DPI at all times.

Update Finnish translation

Fix typo in README

Thanks @Raulkumar for finding this in #1118

Create VNC homedir if it doesn't already exist

Fix for issue 1215

Fix for issue 1216

Merge branches 'vmware-cursor-position' and 'vmware-cursor-position-vncviewer' of https://github.com/lhchavez/tigervnc

Support the VMware Cursor Position extension on vncviewer

This change makes it possible for re-synchronizing the remote cursor on
the vncviewer when in fullscreen mode. This is done by locally moving
the cursor position to what the server thinks it should be.

Now SDL games should work!

Fix logging in daemonized tl-session

stderr has been redirected to /dev/null so all logging needs to go to
syslog.

Add support for notifying clients about pointer movements

This change adds support for the VMware Mouse Position
pseudo-encoding[1], which is used to notify VNC clients when X11 clients
call `XWarpPointer()`[2]. This function is called by SDL (and other
similar libraries)  when they detect that the server does not support
native relative motion, like some RFB clients.

With this, RFB clients can choose to adjust the local cursor position
under certain circumstances to match what the server has set. For
instance, if pointer lock has been enabled on the client's machine and
the cursor is not being drawn locally, the local position of the cursor
is irrelevant, so the RFB client can use what the server sends as the
canonical absolute position of the cursor. This ultimately enables the
possibility of games (especially FPS games) to behave how users expect
(if the clients implement the corresponding change).

Part of: #619

1: https://github.com/rfbproto/rfbproto/blob/master/rfbproto.rst#vmware-cursor-position-pseudo-encoding
2: https://tronche.com/gui/x/xlib/input/XWarpPointer.html
3: https://hg.libsdl.org/SDL/file/28e3b60e2131/src/events/SDL_mouse.c#l804

Specify HOWTO.md in spec files

Or rpmbuild gets grumpy.

Revert "Support TCP_NOPUSH as alternative to TCP_CORK"

This reverts commit d6e39658ae105fca2cfe37ba736dbf0e8d8356af. Apparently
this is broken on macOS so it's not something we can make use of.

Merge branch 'documentation' of https://github.com/grulja/tigervnc

Fix some incorrect data waits

Some of these were incorrectly calculated so the server or client would
wait too long before proceeding with decoding.

Change all of these to be a more explicit calculation to avoid such
issues in the future.

Support TCP_NOPUSH as alternative to TCP_CORK

TCP_CORK is a Linux thing and BSD has TCP_NOPUSH instead.

Add missing headers for TCP_CORK

We didn't include the proper headers to get the correct define, so
corking was never enabled.

Add documentation to the new systemd support

Drop other selection on ownership change

Otherwise we might end up owners of something we cannot deliver data on,
which can hang applications.

Add Hebrew translation

Merge branch 'allow-tcp-and-unix' of https://github.com/jlesage/tigervnc

Added the ability to listen on both Unix socket and TCP port.

Setting `rfbport` to `-1` disables TCP port listening.

Merge branch 'autoclip' of https://github.com/CendioOssman/tigervnc

Fix overloaded function signature

Remove unused attributes

Update copyright year to 2021

Heavily reduce window for bandwidth estimate

It took way too long to converge on a sane value, so reduce the window
by a factor of ten. This seems to work smoothly.

Merge branch 'noblock' of https://github.com/CendioOssman/tigervnc

Add link to discussion groups from issues

So that people can easily find them and not file bug reports for
things that are just questions.

Hide link to create blank issues

We want users to use the templates so we don't miss any relevant
information.

Fix handling of bad update requests

We computed a safe area if a client gave us a bogus one, but we didn't
actually use it. Fix this properly and make sure we don't pass on bad
coordinates further.

Merge branch 'master' of https://github.com/johahauf/tigervnc

Have a history of used vnc servers to select from in the vncviewer

Update desktop if clipboard client goes away

So the current clipboard state is properly reflected in the desktop
session.

Add debug logging for ignored clipboard events

Fix clipboard state tracking in server

This was out of sync with the client handling for no good reason.

Handle clipboard peek with missing data

The peer expects a response, so we should also be able to respond that
there is no clipboard data currently available.