Avoid using insecure variable length arrays

Merge branch 'unicode_translation' of https://github.com/CendioAlex/tigervnc

Throw GAIException() for getaddrinfo errors

Created a new subclass of Exception called GAIException() that will
handle error messages from getaddrinfo() instead of letting Exception()
handle it. GAIException() will make use of gai_strerror() to map the
error code to text. On Windows, gai_strerrorW() must be used if the text
is encoded with UTF-8.

Fix typo in SocketException message

Make system error messeges in Windows 10 use UTF-8

The previous error messages did not support Unicode characters. This
commit will use UTF-8 encoding to be able to display error messages in
every language.

Merge branch 'xorg-server-1.20.7' of https://github.com/lheckemann/tigervnc

Fix error check for zlib calls

There are multiple "okay" return values, not just Z_OK. Make sure we
don't bail out needlessly.

Fix framebuffer setup in encperf

We adapted to the wrong new callback in a previous commit.

Provide dummy output for dummy client connections

The CConnection base class wants to be able to write things these days,
so we need to provide it a place to do so.

Merge pull request #958 from sequencer/env_userpass

Read username and passwrod from env.

bug fix for user is NULL

add man

implement username/password from env.

xserver: add no-op input thread init function

This allows Xvnc to build with xorg-server 1.20.7, which requires OS
layers to implement a ddxInputThreadInit function when configured with
--enable-input-thread (the default).

relevant xorg-server commit: e3f26605d85d987da434640f52646d728f1fe919

Include Carbon when statically linking gettext on macOS

As gettext needs some stuff from Carbon and we don't want to rely on it
being pulled in as a side effect.

Update copyright year to 2020

Merge branch 'emulateMB' of https://github.com/CendioAlex/tigervnc

Use sys/time.h on Windows as well

Modern MinGW seems to provide this, so simplify things a bit. This also
side steps some of the issue of the windows.h/winsock2.h include
ordering.

Add emulated middle mouse button

Not every mouse has three buttons e.g. laptops. Some OS might not
have support for middle mouse button emulation.

This commit adds emulation for middle mouse button when pressing both
left and right mouse button simultaneously.

Remove "Dismiss menu" from context menu

This was not necessary since you could use ESC key or simply just
clicking outside of the context menu to close the menu.

Allow XK_Scroll_Lock when LED state isn't supported

Otherwise such clients cannot use Scroll Lock at all, and that is
probably worse than any effects we might get from getting out of sync.

Clean up initialization of DIBSectionBuffer

We had an unintentional conflict with PixelBuffer::setSize() here.
But we can simplify this further as this initialization is only used
by the subclass DeviceFrameBuffer, and only once.

Provide correct dimensions for XShm setup

Since 53f913a we initialize the underlying PixelBuffer with 0x0
dimensions, which means we need to keep more explicit track of what
we are trying to allocate in the setup methods.

Remove unneeded memory checks

new throws an exception on allocation errors rather than return NULL.

Fix saving of bad server certificates

This check is completely backwards and it is currently unknown how
this ever worked.

el6 build improvements. dependency updates, link order fixes

Update Esperanto translation

Set initial blank cursor

If the server doesn't support local cursors and want to render them
itself then we need to make sure the local cursor is invisible.

This also makes sure we always have some cursor allocated, so we can
remove the checks in some places.

Update source URLs in el6 spec file

Remove hard coded source URLs from travis-ci build script

Allow non-interactive installs for bionic (travis-ci)

Add ubuntu-bionic to travis-ci builds

Make sure travis-ci builds java viewer with latest openjdk 8

Mostly stylistic changes to java viewer to match recent changes to native viewer

Fix travis-ci build scripts broken by c59f195

Fix maximum compress lvl in parameter list

Commit 4e61f8dbc51f83b1d71319b763fbd4d916d13e98 fixed the GUI but forgot
to change the other places in the code.

Use the correct minimum value for compression lvl

There was even some confusion in the RFB protocol regarding this, but
the zlib implementation confirms that accepted values for compression
level is 0-9.

Use the correct maximum value for compression lvl

The GUI incorrectly noted the max level to be 6 while it in fact is 9.

Remove confusing note about compression level

Even if this note is true it just adds confusion.

Simplify color level descriptions

The number of colors used isn't something the end-users should have to
concern themselves with. I intentionally left the information in the
man-pages.

Merge branch 'secfix' of https://github.com/CendioOssman/tigervnc

Remove support for ubuntu trusty since it's been EoL for 6 months

Check the correct stream if there is more data pending

The input stream might no longer be the raw socket, so we need to
query what's currently active. That wrapping stream might have its
own buffering and may have more data even if the socket is drained.

Handle pending data in TLS buffers

There might be more bytes left in the current TLS record, even if
there is nothing on the underlying stream. Make sure we properly
return this when we aren't being requested to block.

Correctly calculate rects with no CopyRect support

The copied rects have already been merged in to the changed rects
at this point if the client doesn't support the CopyRect encoding.

Don't background the main session command

When used with -fg we expect the startup script to remain running until
the session is over. This will not happen if the session command is put
in the background using &.

Fix link order of nettle and hogweed

Hogweed needs nettle, not the other way around. So make sure they
are specified in the correct order for the static link to succeed.

Update Hungarian translation

Add Korean translation

Use openjdk-8 to build java viewer for bionic

Update build deps for Ubuntu Bionic packages

Add support for VMwareCursor pseudo encoding to Java client

Remove old Java applet support

RFB refactoring to sync with native client

Invalidate duplicate screens

Handle pixel formats with odd shift values

Our fast paths assume that each channel fits in to a separate byte.
That means the shift needs to be a multiple of 8. Start actually
checking this so that a client cannot trip us up and possibly cause
incorrect code exection.

Issue found by Pavel Cheremushkin from Kaspersky Lab.

Add unit tests for PixelFormat.is888() detection

Be defensive about overflows in stream objects

We use a lot of lengths given to us over the network, so be more
paranoid about them causing an overflow as otherwise an attacker
might trick us in to overwriting other memory.

This primarily affects the client which often gets lengths from the
server, but there are also some scenarios where the server might
theoretically be vulnerable.

Issue found by Pavel Cheremushkin from Kaspersky Lab.

Use size_t for lengths in stream objects

Provides safety against them accidentally becoming negative because
of bugs in the calculations.

Also does the same to CharArray and friends as they were strongly
connection to the stream objects.

Remove unused FixedMemOutStream

Add sanity checks for PixelFormat shift values

Otherwise we might be tricked in to reading and writing things at
incorrect offsets for pixels which ultimately could result in an
attacker writing things to the stack or heap and executing things
they shouldn't.

This only affects the server as the client never uses the pixel
format suggested by th server.

Issue found by Pavel Cheremushkin from Kaspersky Lab.

Fix depth sanity test in PixelFormat

Add unit test for PixelFormat sanity checks

Handle empty Tight gradient rects

We always assumed there would be one pixel per row so a rect with
a zero width would result in us writing to unknown memory.

This could theoretically be used by a malicious server to inject
code in to the viewer process.

Issue found by Pavel Cheremushkin from Kaspersky Lab.

Add write protection to OffsetPixelBuffer

No one should every try to write to this buffer. Enforce that by
throwing an exception if any one tries to get a writeable pointer
to the data.

Restrict PixelBuffer dimensions to safe values

We do a lot of calculations based on pixel coordinates and we need
to make sure they do not overflow. Restrict the maximum dimensions
we support rather than try to switch over all calculations to use
64 bit integers.

This prevents attackers from from injecting code by specifying a
huge framebuffer size and relying on the values overflowing to
access invalid areas of the heap.

This primarily affects the client which gets both the screen
dimensions and the pixel contents from the remote side. But the
server might also be affected as a client can adjust the screen
dimensions, as can applications inside the session.

Issue found by Pavel Cheremushkin from Kaspersky Lab.

Encapsulate PixelBuffer internal details

Don't allow subclasses to just override dimensions or buffer details
directly and instead force them to go via methods. This allows us
to do sanity checks on the new values and catch bugs and attacks.

Make ZlibInStream more robust against failures

Move the checks around to avoid missing cases where we might access
memory that is no longer valid. Also avoid touching the underlying
stream implicitly (e.g. via the destructor) as it might also no
longer be valid.

A malicious server could theoretically use this for remote code
execution in the client.

Issue found by Pavel Cheremushkin from Kaspersky Lab

Update Swedish translation

Update Czech translation

Set explicit connect timeout on socket and use timer instead of counting iterations

Poll local socket to make sure SSH tunnel is ready before connecting

Fix external SSH arguments dialog

Fix for dialog modality on Mac OS X

Fix for issue #796

Using socket.getPeerName() causes DNS lookup and noticable UI stall

Update Russian translation

Add build scripts for ubunto 18.04 (bionic)

Update Brazilian Portuguese translation

Update Bulgarian translation

Update German translation

Update Ukrainian translation

Update Chinese (traditional) translation

Merge pull request #894 from samhed/master

Don't show the context menu hint when no hotkey is chosen

Don't show the context menu hint when no hotkey

[java] Add support for java 9+ (removes support for java 7). Fixes #708,#771

[java] Trim any leading/trailing whitespace from servername

Change development version to 1.10.80

Update translation template file

Merge branch 'fix-mistake' of https://github.com/gschwind/tigervnc

Fix bad PixelBuffer reference in VNCServerST::setPixelBuffer()

We need to examine the incoming PixelBuffer, not the previous one
(which might not even be valid).

Merge pull request #866 from gschwind/fix-wrong-test-order

fix test order in convertLF and convertCRLF

Fix length checks in string conversion functions

We need to check the buffer length before accessing the incoming
string. Probably not a problem in practice as there should be a
final null in most incoming strings.

Issue found by Pavel Cheremushkin from Kaspersky Lab.

Add unit tests for convertLF() and convertCRLF()

Split test programs to benchmarking and unit tests

They have very different purpose, so make things easier to work
with by having multiple directories.

Use display polling by default in WinVNC

Window hooks aren't working well on modern systems so switch the
default to polling until we can fix things.

fix test order in convertLF and convertCRLF

The new order of test avoid ready invalid memory address in ca.buf

fix to early remove of iterator in VNCServerST::removeSocket

Merge pull request #849 from grulja/master

Do not return returncode indicating error when listing sessions

Do not return returncode indicating error when listing sessions