Check invalid RRE rects

Fix buffer overflow in ModifiablePixelBuffer::fillRect.

It can be triggered by RRE message with subrectangle out of framebuffer
boundaries. It may prevent the same kind of issue caused by evil message
from another encoding too.

Do explict sync after XShmPutImage()

The complex logic waiting for events didn't result in any added
performance, so use the simpler approach.

Fix -inetd not working with xserver >= 1.19

xserver 1.19's OsInit will create a pollfd, followed by checking if fd 2 /
stderr is writable and if it is not, replacing fd 2 with /dev/null.

Since we close stderr in inetd mode to avoid xserver messages being send
to the client as vnc data, the pollfd becomes fd 2, only to be replaced
by /dev/null since a pollfd is not writable.

This commit fixes this by opening /dev/null directly after the close(2),
avoiding that the pollfd becomes fd 2.

Alan Coopersmith: Change to use dup2() for atomic switch of fd

Signed-off-by: Hans de Goede <hdegoede@redhat.com>

Add Fltk and Gettext include dirs when compiling tests

Improve graphics performance on macOS

Use the APIs the way Apple wants us to, in order to avoid slow
fallback code paths in Quartz.

Add test to measure framebuffer performance

Remove unused declarations from Viewport.h

Avoid translating simple error exceptions

These are very rare and very low level. Might as well just print
the offending call to keep things easily maintained.

More robust event and close handling

There were still some circumstances where we could get stuck reading
data and not respect close events properly. Move that logic to a more
central place in order to make it more reliable.

Respect SendClipboard setting

Disable checkboxes for primary selection when relevant

Update French translation

Use dixChangeWindowProperty() instead of ChangeWindowProperty()

ChangeWindowProperty() was removed upstream because it was redundant,
and dixChangeWindowProperty() has been around since 1.5 so we can
safely use that.

Update .la files on each build

This makes sure other build systems trigger properly, e.g. when
building Xvnc.

Merge pull request #390 from bphinz/static-viewer

Java viewer refresh

Complete rewrite of pixel buffer & decoder implementation.

Adds multi-threading, more robust support for different pixel formats,
and several new runtime options.

Whitespace cleanup

Delete unecessary files

Method cleanup.

Sync various methods and filenames with C++ versions

Whitespace cleanup

Update version

Merge branch 'master' of https://github.com/atalax/tigervnc

Log statistics from ComparingUpdateTracker

Update Ubuntu package dependencies.

Fixes #360

Update package build dependecies.

Fixes #349

hextileDecode.h: Fix buffer overflow

The hextileDecodexx functions do not properly check for out-of-bounds writes,
which allows a malicious server to overwrite parts of the stack.

MacOS package: Added NSHighResolutionCapable tag to Info.plist

With the flag the application will start enable the high resolution
display. I tested this on a Macbook Pro with a High Resolution Display.
The fonts are better to read.

Added a method for copying between streams

Added a method for reading into a ByteBuffer

Cosmetic change (increased border spacing)

Update Esperanto translation

Fix busy loop in FdOutStream::flush()

This bug was introduced in c6df31db. A non-blocking socket that did
not have any more space would busy loop until the write succeeded.
Instead now it returns without any action, just as it did before
the bug was introduced.

Handle select() errors

Merge X server block handling code paths

Use the new X server API as the reference system and emulate it on
the older API. Avoids a lot of code duplication.

Move getSockets() to SocketServer interface

Any caller using add or remove should also be able to list the
sockets.

Add xorg-xserver 1.19 support

Fix temporary decoder buffer sizes

Some of these were excessively large because of redundant factors
in the size calculation.

Do not depends on mcookie command

for operating systems other than GNU/Linux.

mcookie is a part of util-linux. Usually only GNU/Linux systems have it.
Do not die even if mcookie is not found. Use the previous pure perl code
to generate cookie as fallback.

remove trailing space

Apply -fPIC on all compilers

Remove INITARGS from recent xserver patches

INITARGS isn't used since Xorg 1.13, so remove it from our patches.

Fix minor typo in framebuffer initialization

Merge pull request #332 from xiaoshaaming/master

Added missing dependency for Complie error on RHEL7

Added filename filters to file chooser dialogs

Make all viewer parameters static. Viewer instances are isolated from each other by spawning a completely new process for each viewer, rather than simply starting a new thread.  All dialogs were redesigned to better match the look of the native viewer, and also to be more tolerant of sizing differences between platforms.

Proper global init/deinit of GnuTLS

These are reference counted so it is important to retain symmetry
between the calls. Failure to do so will result in bad memory access
and crashes.

Merge branch 'system-wide-config' of https://github.com/jblaine/tigervnc

Support both defaults and mandatory system config files

This commit introduces support for optional basic system-wide
configuration of vncserver.

The format and syntax of /etc/tigervnc/vncserver* match
that of $HOME/.vnc/config exactly.

Allows /etc/tigervnc/vncserver-config-defaults as well as
/etc/tigervnc/vncserver-config-mandatory. The former is optional
and sets user-overrideable vncserver settings. The latter is
optional, but if it exists takes precedence over all user
$HOME/.vnc/config settings of the same setting name. In the
case where /etc/tigervnc/vncserver-config-mandatory overrides
a setting in $HOME/.vnc/config, the user will be warned that
it has happened.

WARNING: Settings in /etc/tigervnc/vncserver-config-mandatory
are easily subverted by passing args to vncserver on the CLI.
The man page indicates this warning.

This commit also introduces (should have been separate) examination
of all config file settings (not just @ARGV!) when determining
whether or not $HOME/.vnc/passwd needs to be created. That is,
if /etc/tigervnc/vncserver* or $HOME/.vnc/config indicate that
we are NOT using VNC-native authentication, then we don't need
a $HOME/.vnc/passwd created.

Code cleanup:

$xstartup was renamed $xstartupFile for consistency with other
"file" variable names.

For VNC-auth checking, to determine if $HOME/.vnc/passwd needed
creation, the 3-string check against lc($arg2) was in 2 places
and was changed to a simple grep against the new @vncAuthStrings

Update URL for java timestamp authority

OpenJDK 7u111 on el6 now throws an exception if the TSA URL scheme
is https.

Don't fail old service cleanup

Proper multi-screen support in Xvnc

Xvnc didn't handle multiple screens properly as it forgot to place
them without overlap and didn't handle cursor movement between them.

Set cursor sprite globally

Pointer are global, not screen specific. Hence so is also the cursor
sprite.

Adjust client pointer coordinates to absolute

The client is not aware of where the screen is placed so it will give
us screen relative coordinates. Convert to and from these and absolute
coordinates before interacting with the input layer.

Convert pointer coordinates to absolute

It is possible to set pointer coordinate using absolute numbers, but
getting them back will always give us screen relative ones. Do the
necessary calculations manually so we return sane values to the caller.

Update Serbian translation

Update Dutch translation

Major overhaul of java viewer.

This is the first of several large commits intended to resolve a
number of problems and add new capabilities to the java viewer.
Among the most significant changes are a complete re-design of
the options dialog, which has been converted to a callback style
interface.  The look & feel of all dialogs are now similar to
the style of the native viewer now.  Also, the process by which
new viewers are spawned has changed and each viewer is a completely
separate process, allowing for runtime arguments to be handled
statically.

Merge pull request #322 from klusark/patch-1

Check CMake version for MinGW RC file handling

Added missing dependency for Complie error on RHEL7

Complie error on RHEL7 for missing depency libos.

Update Swedish translation

Check CMake version for MinGW RC file handling

Add unit tests for getHostAndPort()

Fix display/port switch at display 100

168b92c broke the handling that assumes display 100 and above are
actually a port number.

Restore UI for PRIMARY behaviour

They were lost when the mechanism moved from vncconfig in to Xvnc.
Restore the UI by having them reconfigure Xvnc instead.

Allow control of PRIMARY behaviour by default

It was previously controlled by vncconfig which had no restrictions,
so at least include the relevant settings in the default list of
overrides.

Merge branch 'clipboard'

Update German translation

Replace Windows specific thread handling

Use the platform independent primitives instead.

Include stddef.h to get access to size_t

Fix typo in include protector

Update Russian translation

Update Danish translation

Add Vietnamese translation

Update Brazilian Portoguese translation

Update Ukrainian translation

Change development version to 1.7.80

Update translation template file

Clean up getHostAndPort()

It now does more validation, and handles unescaped IPv6 addresses
better.

Bump version of Xorg source patch to match distro update

Clean up old WinVNC services

We've changed the service name a couple of times for various
reasons. Make sure the old versions are removed when the new one
is registered.

Clarify some keyboard tests

Update keyboard test routine with known issues

Separate out OS X specific keys

Improve list of dead keys

Add some more dead keys that we've noticed, and clarify the naming
on some existing ones.

Make sure we test for Meta

We now treat Meta as an independent key, so make sure our test
routines actually verify that it works.

Put all numpad tests in the same section

Add useful tips to keyboard test routine

Merge branches 'patch-1' and 'patch-2' of https://github.com/jblaine/tigervnc

Documents $HOME/.vnc/default.tigervnc format

Fixes #270

Properly name filehandle based on context of code

Old harmless copy/paste from code above left code confusing as it was reusing the filehandle "XSTARTUP" to write out $vncUserDir/config. This new small change uses a more topical filehandle name for the task at hand.

Handle parameter without value in libvnc.so

Merge branch 'fix_desc_ptr' of https://github.com/uglym8/tigervnc

Avoid symbol clash for Xregion functions

We might be linking our Xregion and libX11 into the same binary,
causing a clash between the symbols. In theory they should be
compatible, but that's not guaranteed. Avoid the issue by adding
a "vnc" prefix to our version.

Update Xregion to latest upstream

Split Xregion headers according to upstream

We've stolen the Xregion code from libX11, so let's keep the same
header naming so that it is easier to keep things in sync.

Don't reference Xregion unless used directly

Specify TigerVNC Project as the vendor/company

Fix to workaround non-default libtool on debian

Debian patches libtool so that the default value of
link_all_deplibs is set to 'no' rather than 'unknown',
causing transitive dependencies in shared objects to
be lost.

Fix ptr usage