Properly store certificate exceptions

The previous method stored the certificates as authorities, meaning that
the owner of that certificate could impersonate any server it wanted
after a client had added an exception.

Handle this more properly by only storing exceptions for specific
hostname/certificate combinations, the same way browsers or SSH does
things.

(cherry picked from commit b30f10c681ec87720cff85d490f67098568a9cba)

Remove incorrect umask change

Not sure why this got in there, but it is incorrect as it results in
creating files with too liberal permissions.

(cherry picked from commit 68f5097fd531b7c3429bc41e982e939c455f0c81)

[java] don't show password field for secTypes that don't use it

Fix size of 16x16 icon

For some reason it got generated at an incorrect 20x20 size last time.

(cherry picked from commit ac76a87b7feaf2bab0e5db693ef68004f5e3b545)

Call correct wrappers for clipboard handling

We incorrectly called the underlying functions instead of the safe
wrappers for the new clipboard functions. This had the effect of a)
crashing the entire server if one of these functions failed, and b) not
respecting the settings disabling the clipboard.

(cherry picked from commit 331a27addf46d39635fb4d195ae2f94058689832)

TigerVNC 1.10.90 (1.11.0 beta)

Update translation template file

Merge branch 'master-improve-ComparingUpdateTracker' of https://github.com/MarkMielke/tigervnc

Comment on SELinux rule affect other commands

This line affects every command run by the user, unlike everything else
in our policy which is just for vncserver/vncsession. It's easy to miss
this so add a comment pointing it out.

Merge branch 'vnc_home' of https://github.com/wrabcak/tigervnc

Merge branch 'master-fix-vncserver-display-selector' of https://github.com/MarkMielke/tigervnc

Free memory from getaddrinfo()

We handled this in the failure scenario, but not in the vastly more
common successful case.

Merge branch 'winvnc' of https://github.com/CendioOssman/tigervnc

Fix capitalisation of LICENCE.TXT

If InnoSetup is run on a case sensitive system then the configuration
files must match what the file is actually called.

Fixes for Java 11. SocketDescriptor change was a workaround for a previous java problem that no longer seems necessary

[SELinux] Allow vnc session create ~/.vnc

Allow vnc session labeled with SELinux vnc_session_t domain to create
directory in user homedir ~/.vnc labeled with SELinux label xdm_home_t.

Because also process vncpasswd creates ~/.vnc directory, file transition that
userdomain attribute SELinux domain (label for the process) can create the
directory with the same label needs to be added.

userdomain attribute contains following SELinux types:
    auditadm_t
    dbadm_t
    guest_t
    logadm_t
    secadm_t
    staff_t
    staff_wine_t
    sysadm_t
    unconfined_t
    user_t
    user_wine_t
    webadm_t
    xguest_t

Signed-off-by: Lukas Vrabec <lvrabec@redhat.com>

Merge pull request #1069 from MarkMielke/master-tigervnc-rpm-spec-updates

EL 7 tigervnc.spec updates

vncserver: Display check should confirm UNIX domain socket is still valid

If the X server is not shut down cleanly, it can leave UNIX domain
sockets around that "vncserver" has previously mis-identified as
evidence that the display number is still in use.

Instead of checking for existence of /tmp/.X11-unix/X<n>, the code
will now attempt to connect to the socket to confirm that there is a
server process listening on this UNIX domain socket. This will
eliminate false positives in the case the UNIX domain socket still
exists but is not associated with a listening Xorg server. The Xorg
server does not have a problem with fixing this file when it next
starts up. It is only important to avoid using the port if it is still
in use.

vncserver: Display check should be re-factored for Perl 5

The display check and related setup code was complex due to
compatibility with Perl 4. This included different ways of obtaining
system constants and building system data structures. Perl 5 provides
direct constants and utility methods to abstract this out of the
vncserver code.

vncserver: Display check should confirm lock file is still valid

If the X server is not shut down cleanly, it may leave lock files
around that "vncserver" has previously mis-identified as evidence that
the display number is still in use.

Instead of checking for existence of /tmp/.X<n>-lock, the code will
now extract the PID from the lock file and confirm that a process
exists with the same PID. This will eliminate false positives in the
case that this file references a PID that no longer exists. The Xorg
server does not have a problem with fixing this file when it next
starts up. It is only important to avoid using the port if it is still
in use.

vncserver: Display check should avoid duplicate code

The display check had duplicate code to first check if the X11 port is
not in use, and then check that the RFB port is not in use. Eliminate
the duplicate code by using a for-loop.

vncserver: Display check should use named variables

Several calculated values such as file paths and port numbers were
hard coded within strings or expressions, sometimes multiple
times. These values should be extracted into named variables to
improve self-documentation and avoid accidental divergence.

vncserver: Display check should check for lock file first

Checking for the existence of `/tmp/.X<n>-lock` is a fast read-only
operation, while calls to bind() or connect() are more expensive and
may have side effects. Perform the fast operation first.

vncserver: Remove legacy HP-UX support

The check for existence of `/usr/spool/sockets/X11/<n>` has been
removed. This file is only relevant on HP-UX, and TigerVNC dropped
support for HP-UX in commit 31e5aa3.

EL 7 tigervnc.spec updates

Add missing build requirements: libpng-devel, zlib-devel

Remove obsolete build requirements: libXfont-devel

Fix unexpected rpm macro expansion `%{VERSION}` which is supposed
to be passed through as literal to `rpm -q --qf`. This hasn't
caused problems before, but it was found to cause problems when
built from EL 8 when it expanded to "1.10.1".

Enhanced ComparingUpdateTracker to crop changed blocks

64x64 changed block can be large for fine changes such as cursor
movement and typing in terminal windows, or an update to a clock.

If the block can be efficiently cropped, this will reduce latency
and bandwidth. Every pixel cropped is a pixel less to analyze, encode,
transmit, and decode.

The previous code already detected the top of the change in order
to determine if the block had changed. However, it did not use
this information to reduce the size of the change rectangle, nor
did it calculate any of the other edges.

The new code introduces detection of the other edges, and uses
the information to build a reduced area change rectangle. This
has the additional effect of reducing the number of discrete pixel
values in the change block which may allow a more efficient
encoding algorithm to be selected.

As this section of code is performance sensitive, the method
of detecting the edges has been optimized to quickly fall back
to pessimistic values as soon as a single comparison fails on
each edge. In the case that full 64x64 block are changing,
there will be three extra comparisons per block.

In cases where the change rectangle can be reduced from 64x64,
the reduced size of the change rectangle represents reduced
effort to encode, transfer, and decode the contained pixels.

In the case of images with high frequency changes, which
specifically includes text, the lossy JPEG encoding can be
highly distorted, especially with JPEG level 6 or less. The
quick flash from a distorted JPEG to a lossless JPEG can
appear as a flickering to some people. This effect was more
obvious when the surrounding area is not expected to change,
but is being distorted anyways due to being part of the 64x64
blocking algorithm.

In the case of a user typing in a terminal window, this change
may commonly reduce the number of pixels updated with every
character typed from 4096 pixels (64x64) to 640 pixels (32x20)
or less.

Warn that WinVNC is unmaintained

Split WinVNC to a separate installer

It doesn't work very well so it shouldn't be included by default.

Run maketarball through bash

It uses bash-isms so a POSIX shell will not work correctly.

Move release cmake stuff to release directory

It's just confusing when this is split over two directories.

Test packaging on Travis

Don't just build things, also test the various packaging.

Merge branch 'master' of https://github.com/ayoder770/tigervnc

Merge branch 'master-Fix-division-by-zero-exception-in-SSecurityPlain' of https://github.com/MarkMielke/tigervnc

Correction to socket error connection message

Merge branch 'user-trailing-spaces' of https://github.com/grulja/tigervnc

Fix division by zero exception in SSecurityPlain.

If using SSecurityPlain and the user specifies an empty username
and password, it will invoke InStream::checkNoWait(0) which will
cause a division by zero when calculating the number of available
items.

Enhance InStream::check() to behave properly when asked for
zero items, or zero sized items.

Add comments to InStream::check(), InStream::checkNoWait(),
and InStream::readBytes() to document expected behaviour
when requested to check or read zero items, or an item with
zero size.

Remove trailing spaces in user name

It's quite easy to make a mistake and add an additional space when configuring
users in the vncserver.users config file. You will then get an error that the
user doesn't exist and it's hard to spot the mistake. Same applies for a space
before the display number.

Fix some inappropriate format specifiers

A "0x" prefix suggest hexadecimal values, not decimal.

Fix non-functional MaxDisconnectionTime

Since 8e09912 this wasn't triggered properly as we checked if all
clients were gone before we actually removed the last client from our
list.

Update gesture unit test to cover angle cornercase

If the difference in angle is larger than 180 degrees we hit a corner
case. This commit modifies the coordinates of an existing test to cover
this.

Use hypot(x,y) instead of sqrt(x*x + y*y)

Merge branch 'regions' of https://github.com/CendioOssman/tigervnc

Improve names of many gesturehandler unit tests

Makes it easier to understand what the tests do.

Fix typos in comments

Remove unnecessary touchEnd from unit tests

Add proper spacing to if statements

Add constant for TWOTOUCH_TIMEOUT

Update Info.plist copyright, added recommended key.

Automatically pick the correct X.org patch

Update RPM package build process to automatically detect and apply
the correct X.org patch.

Merge branch 'travis' of https://github.com/CendioOssman/tigervnc

Set up Windows and macOS travis builds

Use mingw's stdio routines where needed

It allows us to use the more standard format specifiers.

Don't catch exceptions by value

Don't clear complex objects using memset()

This is fine for simple structs but not class based objects.

Silence clang deprecated warnings on macOS

We still target a very old version of macOS, which tends to make clang
very upset, so we need to turn off depercation warnings.

Move pgettext_aux() declaration earlier

Some compilers get upset if a declaration comes after the definition.

Remove unused variable

Fix JpegCompressor::overrun() type change

The method it overloads got tweaked some time ago, so we need to make
sure this method follows suit.

Merge branch 'ack-set-desktop-size' of https://github.com/matt335672/tigervnc

Send response for refused SetDesktopSize

Sends response for SetDesktopSize as per the community wiki
specification

Merge branch 'gesture_handler_v3' of https://github.com/aeneby/tigervnc

Support touch gestures on Windows

This adds the same touch gesture support for Windows as already added
for Unix. Note that it uses Windows gesture detection instead of our own
here though to give the user a familiar experience. Unfortunately that
means we lose the three finger tap.

This also raises the base requirements to Windows 7 as that's when
Windows got proper touch support.

Implement touch gesture handling on Unix

Allows the user to perform certain important mouse operations using
touch gestures instead.

Cancel AltGr timeout on mouse events as well

We have a timer after Ctrl is pressed in order to see if an Alt will
come right after. Ctrl + Alt is what windows sends for AltGr.
If a key other than Alt was pressed we knew that we could cancel this
timer, this commit extends that to mouse events too.

Since this detection breaks the true order of events we want to make
a decision as fast as possible.

Implement X Input pointer handling for Unix

Switch from using Core events to using X Input events for pointer
devices in order to differentiate between mouse events and touch events.

Because FLTK doesn't understand X Input 2, we intercept these events and
translate them to core events where possible.

Ignore bogus FL_MOVE events from FLTK

Fix position for click and drag with EmulateMB

If you have the setting "Emulate middle mouse button" turned on, a click
and drag can fail if it is done very quickly. The position of the
initial click will be incorrect in such a case because the timeout will
delay events.

Add unit tests for EmulateMB

Open X11 display properly

We need to make sure everything happens in the correct order during
startup for the X11 display to open correctly. Primarily it means
we need to parse the arguments and open the display before anything
might make any X11 calls, as we may have a -display argument.

Remove default config alert

We don't exit here, so it's not a fatal error. It's also a fairly common
scenario, so remove the alert completely.

Reject too large screen resize requests

We'll just crash later if we try to use such a large screen, so reject
the request from the client instead and keep the server running.

Catch errors resizing framebuffer

Add final line break to FatalError() calls

It expects the callers to include this, so make sure we're consistently
providing one.

Update Indonesian translation

Use exit_vncviewer() for early errors

Makes things more consistent and avoids surprises.

Bump up Windows version from Vista to Windows 7

Get rid of magical assignment to Region

Might as well make these explicit so the cost is apparent.

Update French translation

[SELinux] Allow vnc_session_t type execute itself

vncsession-start is running in SELinux vnc_session_t domain because of
"SELinuxContext=system_u:system_r:vnc_session_t:s0" option in systemd
vncserver@.service unit file. vncsession-start executing binary
vncsession with SELinux label/type vnc_session_t. This access was not
allowed in vncsession policy.

Switch region code to pixman

This is the current upstream so let's make use of it to get the latest
in features and fixes.

Also link in math library in static build

It's included by default in dynamic builds so we need to make sure it
isn't lost when switching to static.

Don't ignore .cmake files

They are new modules and not generated files.

Avoid using RegionInit() because of empty rects

It creates an invalid region if given an empty rect. Fortunately
RegionInitBoxes() handles that just fine, so use that instead.

Stop using legacy region macros

We no longer support such old X servers so start using the current
functions.

Handle empty changes for every operation

It seems like many of the X11 operations can end up with no pixels
actually changing. So instead of discovering and adding workarounds for
each individually we'll just check very region added if it's empty.

Update Serbian translation

Update Ubuntu patches for current code

Update apt cache before running builds

Otherwise it might fail if the repositories have changed since the image
was generated.

Remove legacy Xorg code

We now require at least 1.16, so remove all code that handled older
versions than that.

Remove 8-bit support from documentation

We removed support in the code ages ago, but overlooked this part of the
documentation. Also remove some dead code in Xvnc on the same theme.

Merge branch 'systemd' of https://github.com/CendioOssman/tigervnc

Do maximize more properly on macOS

Don't resize viewer window when maximized

Most window managers won't like this, and it tends to provoke bugs in
FLTK, so let's avoid it. It's probably not what the user wants anyway.

Include error code in getaddrinfo() exceptions

Avoid using insecure variable length arrays

Merge branch 'unicode_translation' of https://github.com/CendioAlex/tigervnc

Throw GAIException() for getaddrinfo errors

Created a new subclass of Exception called GAIException() that will
handle error messages from getaddrinfo() instead of letting Exception()
handle it. GAIException() will make use of gai_strerror() to map the
error code to text. On Windows, gai_strerrorW() must be used if the text
is encoded with UTF-8.

Fix typo in SocketException message

Make system error messeges in Windows 10 use UTF-8

The previous error messages did not support Unicode characters. This
commit will use UTF-8 encoding to be able to display error messages in
every language.

Remove support for old Xorg versions

No current distribution ship anything this ancient anyway.