Add nettle to build documentation

Explicitly require nettle for builds

It is generally pulled in as a requirement from GnuTLS, but let's be
explicitly now that we make use of nettle directly.

Add fallback for finding gmp

pkg-config support was added very recently to gmp, so a lot of platforms
we want to support won't find gmp this way.

Split gmp detection to separate module

It is a (weird) dependency of nettle, and not part of nettle itself. So
split it to a separate module for clarity.

Fix incorrect nettle library references

Fix SecurityTypes default value in man pages

The order is important in the servers, so make sure the man pages follow
the code properly.

Add support for RSA-AES security types

Re-enable lock key sync in viewer

This was accidentally disabled in 81e114f.

Merge branch 'rsaaesfix' of https://github.com/CendioOssman/tigervnc

Fix stream check for InStream::getptr()

This call should have been preceeded by hasData() or avail(), just like
all other accessor functions.

Move include_directories() to proper places

We should scope these as narrowely as possible to avoid side effects.

Use BufferedOutStream in more streams

Avoid duplicating all the memory mangement, and instead use the
BufferedOutStream as a base clase for all out streams that need an
intermediate buffer.

Remove unused CSecurity::description()

Make BufferedInStream allocation more available

Allow subclasses to call it, instead of it being strictly internal. This
is useful when a subclass can only provide data in minimum sized chunks.

Fix encoding group for H.264 choice

It might not be compiled in, so the height needs to be dynamic.

Fix "grave" and "ISO" keys on macOS

We lacked an entry for one of these, and the magical swap that macOS
does for unknown reasons.

Sync RHEL packaging with Fedora

Makes it easier to compare changes with what people normally run.

Add missing FLTK include statements

Add also missing <stdlib.h> where required.

Merge pull request #1492 from krystof1119/javaCursorFix

Fix edge of dot cursor in Java vncviewer

Fix edge of dot cursor in Java vncviewer

This commit changes the color of the edges of the dot cursor in the Java
version of vncviewer from fully transparent to white, bringing it in
line with the C++ native version.

Merge branch 'artifacts' of https://github.com/CendioOssman/tigervnc

Fix typo in previous commit

Store artifacts from Github actions

Might be useful for testing in some cases. Note that the Windows and
Linux binaries will depend on libraries from the build environment. So
the user will need to match those manually.

Fix Xvnc dependency list (again)

The previous commit was incorrect in that it overrides automake's
dependency list, rather than adding to it. So we need to make sure
things are duplicated between Xvnc_DEPENDENCIES and Xvnc_LDADD as
appropriate.

Use the same approach as the Xorg binary to keep things familiar.

Add missing dependencies for Xvnc

These aren't crucial for a clean build, but must be set for Xvnc to be
properly rebuilt if anything in the Xorg tree changes. automake doesn't
properly deduce these automatically from Xvnc_LDADD, unfortunately.

Merge branch 'cork' of https://github.com/CendioOssman/tigervnc

Cork the proper output stream in the client

The socket might not be the stream actually used, e.g. when we are using
TLS. Make sure we cork the proper stream to get all the benefits of
corking.

Safely discard large (extended) clipboard contents

Avoid having to buffer everything we want to discard, and instead do it
piece by piece. This is more efficient, and avoids hitting any limits on
the buffering.

Note that this is safe here because we already know we have all the
compressed data. It would not be safe for a general input stream.

Properly restore cork state when changed

These streams both need to change the corking state temporarily, but it
is important it is restored to the previous state or things might get
messed up.

For the zlib stream it would just leave things uncorked, which still
works but is less efficient.

But for the TLS stream it might make things very unresponsive as the
corking might be left on permanently, delaying packets indefinitely.

Remove unnecessary flush

Uncorking implicitly flushes, so we don't need this.

Only implicitly flush on uncorking

There is no point flushing when corking was enabled, as we might then
push out a small buffer that the corking otherwise would have preserved.

Merge branch 'mft-crop-fix' of https://github.com/mmozeiko/tigervnc

Workaround for MFT cropping in H264 decoding

It seems MFT h264 decoder does not support frame cropping. Which
means that if frame width or height is not multiple of 16 then
decoded output can potentially be used with wrong offset. This
code adds explicit parsing of SPS to extract cropping information
to use, and will apply cropping if reported size differs from
expected.

Add Romanian translation

Merge branch 'pkgconfig' of https://github.com/CendioOssman/tigervnc

Find FFMPEG using pkg-config

This is the standard method of finding it on Unix systems, so make sure
we use it. Still keep a fallback, though, for other systems, e.g.
Windows.

Fix up ffmpeg header and library handling

FFMPEG is needed by the RFB library, so all the details about it should
only be applied there and not for other components.

Use pkg-config for pixman

This is the standard method of finding it on Unix systems, so make sure
we use it. Still keep a fallback, though, for other systems, e.g.
Windows.

Add target_link_directory() compat function

We need this function to deal with pkgconfig files properly, but
unfortunately it doesn't exist until CMake 3.13, and we need to support
CMake 3.10. So add a hacky compatibility function for older systems.

Avoid temporary cmake variables

Modern cmake has better support for adding source files and libraries
incrementally, so let's use that to clean things up.

Remove zlib copyright notice

Our embedded zlib got removed way back in cc8c6a2.

Merge branch 'icons' of https://github.com/CendioOssman/tigervnc

Adjust icon margins and rounding

Reduce the icon margins a bit to conform better with other icons. Also
dial back the rounding a bit, again to fit better with other programs.

Automatically generate macOS icon file

Automatically generate Windows icon file

Add more Unix icon sizes

Some desktop environment, like KDE, need more rastered sizes and cannot
make use of the SVG.

Avoid duplicating list of icon sizes

Remove redundant icon installation

This is already done by vncviewer, so we don't need any rule here.

Simplify icon generation

Have the padding included in the SVGs to make the rules less complex.

Remove dead code

This code is never used on Windows, so remove it.

Safer allocation of icon array

Avoid the risk of the list of sizes and the list of icons getting out of
sync and causing memory corruption.

Merge pull request #1463 from TigerVNC/accessRightsFixes

Minor fixes/future-proofing for SConnection::accessCheck() and 'accessRights'

Assert that accessCheck isn't called too early

These checks depend on accessRights being set up, this has only happened
if we have done the QUERYING steps.

Initialize SConnection's accessRights

Properties should be initialized in order to avoid random values in
case they are used earlier than expected.

Add Georgian translation

Update Spanish translation

Fix bad indentation in CConn::socketEvent()

Ignore socket whilst processing data

FLTK has a lot of synchronous stuff (like dialogs), which mean that the
main loop might be run recursively in some cases. If there is data
available on our socket then CConn::socketEvent() will be called
constantly in a busy loop.

Avoid this by removing socket notifications whilst we are processing
data.

Enable stream sanity checks in debug builds

Enable this automatically for developers so we increase the chance of
these problems getting caught. There is a risk of overhead though so
keep them disabled for release builds.

Don't trust GNUTLS_E_AGAIN

Unfortunately this error can be given by GnuTLS even though the
underlying stream still has data available. So stop trusting this value
and keep track of the underlying stream explicitly.

Print GnuTLS certificate status as hex

It's a bit field so it's easier to decode in hex.

Allow exceptions for expired certificates

The browsers allow users to make an exception for expired certificates,
so we should probably also.

Make sure server name is always a valid string

Otherwise we can get crashes on NULL dereference. This should only
happen on reverse connections where we don't have a server address.

Change vncsession startup error message

We need to get to the point of starting the session script before we
consider things a success. So this can fail in many different ways, not
just the daemonization. Adjust the error message to something more
generic to reflect this.

Merge branch 'feature/appstream-vncviewer' of https://github.com/JoachimFalk/tigervnc

Added AppStream meta info file for the vncviewer

Fix compilation issue.

Ubuntu 20.04
gcc (Ubuntu 9.3.0-17ubuntu1~20.04) 9.3.0
libx264-dev:amd64 2:0.155.2917+git0a84d98-2

[ 11%] Building CXX object common/rfb/CMakeFiles/rfb.dir/H264LibavDecoderContext.cxx.o
tigervnc/common/rfb/H264LibavDecoderContext.cxx: In member function ‘virtual bool rfb::H264LibavDecoderContext::initCodec()’:
tigervnc/common/rfb/H264LibavDecoderContext.cxx:50:40: error: invalid conversion from ‘const AVCodec*’ to ‘AVCodec*’ [-fpermissive]
   50 |   AVCodec *codec = avcodec_find_decoder(AV_CODEC_ID_H264);
      |                    ~~~~~~~~~~~~~~~~~~~~^~~~~~~~~~~~~~~~~~
      |                                        |
      |                                        const AVCodec*
make[2]: *** [common/rfb/CMakeFiles/rfb.dir/build.make:895: common/rfb/CMakeFiles/rfb.dir/H264LibavDecoderContext.cxx.o] Error 1
make[1]: *** [CMakeFiles/Makefile2:597: common/rfb/CMakeFiles/rfb.dir/all] Error 2
make: *** [Makefile:130: all] Error 2

Switch to CentOS Stream 8 for builds

CentOS 8 is EOL and is now replaced with CentOS Stream 8.

This images isn't available on Docker Hub unfortunately, so we grab it
from Quay.

SELinux: use /root/.vnc in file context specification

Instead of HOME_ROOT/.vnc, /root/.vnc should be used
for user root's home to specify default file context
as HOME_ROOT actually means base for home dirs (usually /home).

Fix for reflection warnings for strongly encapsulated Desktop methods in Java > 9

Fix for #1414

Added screenshots for AppStream meta info file for vncviewer

get rid of c++11 stuff

Improve logging around screen resizing

Avoid duplication, and add logging for some more error conditions so
it's possible to see in the logs why a resize has failed or produced
unexpected results.

Remove 32-/64-bit distinctions

The migration from 32-bit to 64-bit has long passed. Let's get rid of
all distinctions as native applications it the norm now.

Update packaging section of BUILDING.txt

This is obviously not maintained, so let's be more generic in the
document.

Merge branch 'h264dec' of https://github.com/xornet-sl/tigervnc

Log objects should be local

Otherwise things might be logged under the wrong label.

support H264 decoding with MediaFoundation on Windows

H264 Decoder

Linux implementation using ffmpeg

Always log screen layout if validation fails

Unconditionally log the erroneous screen layout if it fails to
validate to simplify debugging.

Fix session resize after mirroring on Linux vncviewer

If monitor mirroring was enabled while in a session with vncviewer
running on Linux, the session would not be properly resized on the
server. This was a consequence of only looking at the size and
coordinates of each screen when matching against existing screens after
the screen layout was changed, when in fact we have two (or more)
monitors with the same coordinates and size (but differing ids). This
led to the same monitor being added twice to the layout which would
later fail layout validation, resulting in no resize request being sent
to the server.

When matching, we now also check if the existing screen is not already
present in the layout before considering it a match.

Fix handling of VMware cursors

This is a regression from ad0f061. If a VMware cursor rect was split up
over multiple read()s then the stream would become corrupted as we set
the restore point at the wrong place.

Merge branch 'selinux-restorecon' of https://github.com/grulja/tigervnc

SELinux: restore SELinux context in case of different policies

Improve full-screen workaround on connect

If we've explicitly requested a position (using -geometry) then we were
still triggering legacy full-screen request logic. This is very counter
intuitive as having a position that doesn't align with a monitor should
disqualify us for that.

It turns out that at least marco (and probably everything
metacity-derived) ends up ignoring the requested position and we go back
to triggering the legacy logic again.

Work around this by assuming that the window manager will adjust our
initial position and don't consider that in the workaround logic.

Merge pull request #1405 from TigerVNC/monitorArrangementSync

Update MonitorArrangement widget to match parameter settings after screen configuration change

Update MonitorArrangement widget after change

If the options dialog was open when a screen configuration happened the
widget could get out of sync from the settings. A scenario when this
happened was:

 1) 3 monitors, fullscreen selected on the two right-most screens
 2) disconnect the left-most screen (the one not selected)

In this case, using GNOME, vncviewer would appear in fullscreen on the
right of the two remaining monitors, but the widget would show both
monitors selected. The reason was that the MonitorArragement index
doesn't work the same way as FLTK's screen index.

It's debatable how vncviewer should behave here, but the GUI should at
least match the actual setting.

Properly set XDG_CURRENT_DESKTOP

There is no such thing as XDG_DESKTOP_NAMES.

Update copyright year to 2022

Don't add . to error message string

The norm is to have error strings without punctiation, so avoid adding
one as it just confuses the translators.

Avoid creating windows larger than current monitor

Many window managers don't have proper logic to restrict the window size
to something sane, so we have to take care of that ourselves.

Don't move window in full-screen workaround

If this is done before the window is shown then it can accidentally
override the window manager's placement of the window. Reducing the size
should be sufficient to avoid trigger a full-screen request.

Be consistent in including config.h

The generally recommended way is to include it from source files, not
headers. We had a mix of both. Let's try to be consistent and follow the
recommended way.

Only restore level if it is wrong

Tweak the workaround from 9023a2e so that it only triggers if there
actually is a problem to fix. This is important since changing levels
also has the side effect of raising the window to the top of the level.

Relicense MonitorArrangement widget

This was designed as a general FLTK widget and we want to encourage
others to use it and improve it. So relicense these particular files in
a way that allows it to be used by anyone using FLTK.

As part of this we need to stop using other parts of TigerVNC as that
code is still covered by the GPL.

Avoid leaking overlay memory

Fl_RGB_Image doesn't take ownership of the pixel data, so we have to
explicitly free this as well once we are done.

Handle empty lines in server history

Fix typo in mirror monitor detection

Bug introduced in fb561eb but still somehow passed manual testing.
Resulted in some stray reads off the end of the stack, which were
hopefully harmless.

Be more paranoid about monitor info

These function are not guaranteed to succeed, and we've had reports that
they fail on ARM. So make sure we more properly check return values.