Use compressionLevel in ZRLEEncoder

This change makes the ZRLEEncoder respect a client's desired
compressionLevel. The ZlibLevel option is marked deprecated and removed
from the manpages.

Don't tag up gettext's *wprintf() functions

gcc doesn't support -Wformat for the wide format versions of printf()
and friends yet:

https://gcc.gnu.org/bugzilla/show_bug.cgi?id=38308

Do what glibc does and have some commented out tags to show future
intent.

Unbreak -Wformat warnings when gettext is used

gettext replaces all *printf() functions on platforms that don't fully
conform to the POSIX behaviour. Unfortunately, gettext fails to tag
these replacement functions properly so that -Wformat can still do its
thing.

Resolve this by adding a redudant declaration of the relevant functions,
with the attribute tagging in place.

Use smaller, stable, int for history index

The size of size_t depends on the architecture, so we need to have
different conversion to and from strings. But we don't really need that
range, so avoid the issue by using a standard integer size.

Merge branch 'hostexception' of https://github.com/CendioOssman/tigervnc

More logging for server cert exceptions

Let's log a bit more details when we need to deal with certificate
exceptions to make it easier to debug things.

Allow exception for cert hostname mismatch

The browsers let you add an exception for this case, so we should as
well.

Improve reporting of certificate errors

GnuTLS can help use translate certificate issues in to user presentable
strings, so let's clean up that reporting.

Allow exception for weak certificate algorithms

The browsers let you add an exception for this case, so we should as
well.

Remove double expired certificate prompts

This should have been done in 5f46d55.

Allow exception for not yet activated certificates

The browsers let you add an exception for this case, so we should as
well.

Make sure we handle all certificate issues

We don't want to proceed unless we've made sure the user has approved
the issues with the certificate. So add an extra check that all status
flags have been dealt with.

Handle GNUTLS_CERT_INVALID in TOFU code

GnuTLS should hopefully never set just this flag, but let's be fully
prepared for all scenarios.

Remove old GnuTLS compatibility code

We've required GnuTLS 3.x for a long time, so this code has been dead
for a while.

Fix WM_CLASS in desktop file

The WM_CLASS we set on all windows is just "vncviewer", so that it
matches the name of the .desktop file, which is what GNOME expects.

Merge branch 'types2' of https://github.com/CendioOssman/tigervnc

Don't allow surrugate code points in UTF-8

These are not valid outside of UTF-16 so seeing them in a UTF-8 sequence
means that something is wrong with that sequence. Best to filter them
out rather than letting them propagate and have unknown effects.

Clean up string encoding handling

We should handle this in the low-level protocol code as much as possible
to avoid mistakes. This way the rest of the code can assume that strings
are always UTF-8 with \n line endings.

Emulate corking when TCP_CORK is missing

If we can't rely on the OS to handle corking for us, then we need to
enable our own handling of it.

Move where -nodefaultlibs is specified

The previous method isn't compatible with CMake's try_compile() as it
will respect CMAKE_EXE_LINKER_FLAGS, but not CMAKE_C_LINK_EXECUTABLE and
friends. This results in the default libraries being completely missing,
and the compile test failing.

Drop xorg-x11-font-utils requirement for RHEL 9

They've patched their Xorg sources to no longer require this package.

Merge branch 'noxtest' of https://github.com/CendioOssman/tigervnc

Fix missing XRandR build

Make sure we can actually build without XRandR libraries.

Fix missing XFixes build

Make sure we can actually build without XFixes libraries.

Fix missing XTest build

Make sure we can actually build without XTest libraries.

Remove unneeded "using namespace"

The need for these must have got lost somewhere in the type cleanup.

Avoid wildcards in cmake rules

They are not fully supported and break with some backends, like Ninja.

Handle REQUIRED in our CMake "find" modules

These are expected to abort if they fail to find the relevant software
and "REQUIRED" is specified.

Prefer target_include_directories()

It is more specific, and it properly sets up propagation when include
directories also need to be used further down a dependency chain.

Add all common inter-dependencies

This is important in case there are build flags that need to propagate
between libraries for things to build correctly.

Include Debian debug files in artefacts

Raise Debian packaging version

Get in sync with what's recommended these days.

Don't prompt when installing dependencies

This is fully automated, so we can't let anything wait for user input or
the job will just hang.

Remove unnecessary ; from build scripts

The newlines aren't stripped, so they are quite sufficient separators
for the commands.

Limit GitHub action run times

We don't want a broken job to consume our entire quota, so make sure
things are killed if the stray too far from a normal runtime.

Update copyright year in README

Consistently use uint8_t for data buffers

These will always be byte streams at heart, so let's try to keep them
with a proper type. Should make it clearer how they will be used.

Detect leaving window on zaphod systems

The coordinates we get are relative the root window of each screen, so
we can only trust them if we are on the same screen. So let's explicitly
check that we are still getting events from the expected screen by
checking the root window field of the event.

Merge branch 'types' of https://github.com/CendioOssman/tigervnc

Merge branch 'vncsession-create-homedir' of https://github.com/zpytela/tigervnc

Merge branch 'master-clipboard-check-state-before-access' of https://github.com/MarkMielke/tigervnc

Throw exception instead on bad access check

An assert will kill the entire server, which is overly harsh when there
is a problem with a single connection. Instead, throw an exception which
will just disconnect that specific client.

Update Serbian translation

SELinux: Allow vncsession create ~/.vnc directory

Addresses the following AVC denial:

type=PROCTITLE msg=audit(01/12/2023 02:58:12.648:696) : proctitle=/usr/sbin/vncsession fedora :1
type=PATH msg=audit(01/12/2023 02:58:12.648:696) : item=1 name=/home/fedora/.vnc nametype=CREATE cap_fp=none cap_fi=none cap_fe=0 cap_fver=0 cap_frootid=0
type=PATH msg=audit(01/12/2023 02:58:12.648:696) : item=0 name=/home/fedora/ inode=262145 dev=fc:02 mode=dir,700 ouid=fedora ogid=fedora rdev=00:00 obj=unconfined_u:object_r:user_home_dir_t:s0 nametype=PARENT cap_fp=none cap_fi=none cap_fe=0 cap_fver=0 cap_frootid=0
type=CWD msg=audit(01/12/2023 02:58:12.648:696) : cwd=/home/fedora
type=SYSCALL msg=audit(01/12/2023 02:58:12.648:696) : arch=x86_64 syscall=mkdir success=no exit=EACCES(Permission denied) a0=0x7fff47d52540 a1=0755 a2=0x0 a3=0x0 items=2 ppid=2869 pid=2880 auid=fedora uid=fedora gid=fedora euid=fedora suid=fedora fsuid=fedora egid=fedora sgid=fedora fsgid=fedora tty=(none) ses=8 comm=vncsession exe=/usr/sbin/vncsession subj=system_u:system_r:vnc_session_t:s0 key=(null)
type=AVC msg=audit(01/12/2023 02:58:12.648:696) : avc:  denied  { create } for  pid=2880 comm=vncsession name=.vnc scontext=system_u:system_r:vnc_session_t:s0 tcontext=system_u:object_r:vnc_home_t:s0 tclass=dir permissive=0

Resolves: rhbz#2143704

VNCSConnectionST clipboard functions should check state before access.

Clipboard functions may run on connections that are not yet at
RFBSTATE_NORMAL. Due to recent hardening of the accessCheck() function,
it is important to validate that the state is RFBSTATE_NORMAL before
calling accessCheck().

Fixes #1599.

Merge "Pixel" type in to PixelFormat header

It's a type specific to that class, so let's keep them close for
clarity.

Sanity check when cleaning up keymap changes

Make sure we don't send a bogus request to the X server in the (common)
case that we don't actually have anything to restore.

Use operator overloading for comparison

It is much more natural than custom methods for this very common
operation.

Warn if Point/Rect/Region methods are used wrong

It is easy to get confused if these methods modify the existing object,
or return a new one. So let's mark the return value as critical so the
compiler can help out if someone gets it wrong.

Avoid redefining errno

This can have unexpected consequences as some code may rely on it being
a simple variable. Instead to what we do in Socket, which is to define a
unique name for getting socket error numbers.

Remove unneeded header from SDesktop.h

It doesn't use any exceptions, so stop including the header for it.

Remove unused rfb/util.h includes

These files don't use anything from this header, so remove the include.

This exposes some missing includes in other places, though. So add an
explicit include in the files that were relying on an indirect
inclusion.

Remove "str" prefix from string helpers

This matches the naming in STL, which is what we are mostly mimicing now
that we are using std::string for these functions.

Use standard C string functions

It's just confusing that we have our own variety that isn't compatible.

Remove custom CharArray type

It has now been replaced, mostly by std::string, so remove the actual
type definition.

Use std::string for string memory management

Avoids a bit of complexity by delegating that handling to a string
object.

Use std::string instead of CharArray

Let's use a more common type instead of something homegrown. Should be
more familiar to new developers.

Use std::vector for temporary char arrays

It's more standard and familiar than our custom CharArray type, and it
still gives us automatic freeing of the buffer.

We could probably have used std::unique_ptr instead, but we are
currently targeting older compilers where C++11 isn't standard yet.

Free char buffer directly

It's extreme overkill to inherit from CharArray just to get the
automatic freeing of the buffer when the object is destroyed.

Make strSplit() simpler and safer

Get rid of all the magical re-allocation and shuffling and instead just
return a new set of strings that is fully splitted. Will consume a bit
more memory, but is a lot safer to use as there is less confusion about
ownership of memory.

Return std::string instead of dynamic allocations

We mostly use classical C strings, but the memory management around them
can get confusing and error prone. Let's use std::string for the cases
where we need to return a newly allocated string.

Specify expected array size in arguments

The compiler doesn't enforce this, but it at least documents the
expected array size.

Use fixed size character buffer

We know the needed space here, so let's keep it simple with a constant
size string buffer.

Remove trailing slash from getvnchomedir()

It should return a path to the directory itself, just like its sister
function getuserhomedir().

Namespace directory functions

All library functions should be in a proper namespace.

Better fallback for missing peer address

A blank string might be very confusing, depending on where this will be
used. Let's give something more visible back in the cases where we
cannot get the proper name for the peer.

Return static char buffer from some methods

This mimics how some system functions (like inet_ntop()) work, and
avoids complexity around ownership of the returned string buffer.

The downside is that the string must be consumed directly as it will be
overwritten on the next call, but that is not an issue with the current
usage.

Replace tabs with spaces

Use the same indentation we use in all other files.

Use string literal instead of dynamic buffer

These don't need to be changed, so let's just keep it simple with a
constant string literal.

Remove unneded string duplication

It's unclear why this was initially added. The function takes string
constants, so it is not going to modify these.

Remove unneeded CharArray:s

Avoid complicating things by moving things in to a second buffer here as
there is no need for it.

Use StringParameters directly

We don't need to make extra copies of the string in most cases, so let's
simplify the code and access the string directly when we can.

Get rid of TCHAR magic

We never use Windows' "UNICODE" mode anyway, so let's get rid of this
complexity.

Return std::vector instead of dynamic allocation

This makes memory management more clear and robust when using these
helper functions.

Avoid duplicating configuration setting

Let the string helpers call the more fancy setParam(). This makes sure
we can avoid duplicating things.

Make sure length is reset on assignment

Otherwise the old length is preserved, which will result in NULL pointer
dereferencing if the parameter is ever accessed.

Clean up BinaryParameter typing

This is explicitly a byte sequence, so let's try to keep a consistent
typing.

Move hex conversion helpers to util

These are used here and there so let's make them more general rather
than hiding them in the stream classes.

Update Friulian translation

Use std::vector for basic data arrays

Avoid our own custom types in favour of what's already included with
C++.

Use stdint types

Avoid having our own custom stuff and instead use the modern, standard
types, for familiarity.

Use templates for optimized code

Avoid preprocessor magic and instead rely on templating to generate
optimized functions for performance critical code.

Remove old mingw CMake checks

This should have been removed with the code using these defines in
03ca975.

Fix CRLF line endings

Everything else uses LF line endings, so fix up the few stray ones.

Merge branch 'libtool' of https://github.com/CendioOssman/tigervnc

Create .la files at the end of the cmake run

We might not have all the necessary information, e.g. all targets might
not exist yet, until we're done going through all CMakeLists.

Bail on missing libraries

They may be crucial, so refuse to continue if this happens.

Fall back to dynamic libraries in .la files

This is what the linker does, so we should do the same for correct
behaviour.

Respect library search paths

Things might be in odd places, so make sure we respect where we're told
to look for libraries.

Include other targets in .la files

We have internal dependencies that should be respected, as otherwise it
will be up to the user of the .la file to figure out the correct order
of the libraries.

Handle alternative library suffixes

I think this only affects macOS at the moment where they also have .tbd
files for linking.

Make sure frameworks are included in .la files

We don't really use the .la files for macOS at the moment, but let's try
to be prepared.

Remove unnecessary regexp \\

This serves no useful purpose as we have no reason to suspect there will
be a dangerous first character in these variables.

Fix static library check regexp

Not sure how the old one ever worked as it incorrectly just tried to
match last character and nothing else.

Get target libraries from INTERFACE_LINK_LIBRARIES

<target>_LIB_DEPENDS is an internal variable that contains lots of other
weird stuff.

Use correct FATAL_ERROR CMake option

Merge branch 'wextra' of https://github.com/CendioOssman/tigervnc

Use __attribute__:s directly

These are supported by gcc and clang, and I don't think MSVC works well
with our code anyway, so let's keep things simple and use these
directly.

Enable more warnings by default

These are also useful warnings that tend to find real bugs, so let's
enable then.

The downside is they require us to mark certain things so the compiler
knows if they were on purpose or not.

Work around -Wcast-function-type

That warning doesn't play well with Windows' GetProcAddress(), so add
some extra casting to work around it.