Clean up string encoding handling

We should handle this in the low-level protocol code as much as possible
to avoid mistakes. This way the rest of the code can assume that strings
are always UTF-8 with \n line endings.

Consistently use uint8_t for data buffers

These will always be byte streams at heart, so let's try to keep them
with a proper type. Should make it clearer how they will be used.

Merge branch 'types' of https://github.com/CendioOssman/tigervnc

Merge branch 'vncsession-create-homedir' of https://github.com/zpytela/tigervnc

Merge branch 'master-clipboard-check-state-before-access' of https://github.com/MarkMielke/tigervnc

Throw exception instead on bad access check

An assert will kill the entire server, which is overly harsh when there
is a problem with a single connection. Instead, throw an exception which
will just disconnect that specific client.

Update Serbian translation

SELinux: Allow vncsession create ~/.vnc directory

Addresses the following AVC denial:

type=PROCTITLE msg=audit(01/12/2023 02:58:12.648:696) : proctitle=/usr/sbin/vncsession fedora :1
type=PATH msg=audit(01/12/2023 02:58:12.648:696) : item=1 name=/home/fedora/.vnc nametype=CREATE cap_fp=none cap_fi=none cap_fe=0 cap_fver=0 cap_frootid=0
type=PATH msg=audit(01/12/2023 02:58:12.648:696) : item=0 name=/home/fedora/ inode=262145 dev=fc:02 mode=dir,700 ouid=fedora ogid=fedora rdev=00:00 obj=unconfined_u:object_r:user_home_dir_t:s0 nametype=PARENT cap_fp=none cap_fi=none cap_fe=0 cap_fver=0 cap_frootid=0
type=CWD msg=audit(01/12/2023 02:58:12.648:696) : cwd=/home/fedora
type=SYSCALL msg=audit(01/12/2023 02:58:12.648:696) : arch=x86_64 syscall=mkdir success=no exit=EACCES(Permission denied) a0=0x7fff47d52540 a1=0755 a2=0x0 a3=0x0 items=2 ppid=2869 pid=2880 auid=fedora uid=fedora gid=fedora euid=fedora suid=fedora fsuid=fedora egid=fedora sgid=fedora fsgid=fedora tty=(none) ses=8 comm=vncsession exe=/usr/sbin/vncsession subj=system_u:system_r:vnc_session_t:s0 key=(null)
type=AVC msg=audit(01/12/2023 02:58:12.648:696) : avc:  denied  { create } for  pid=2880 comm=vncsession name=.vnc scontext=system_u:system_r:vnc_session_t:s0 tcontext=system_u:object_r:vnc_home_t:s0 tclass=dir permissive=0

Resolves: rhbz#2143704

VNCSConnectionST clipboard functions should check state before access.

Clipboard functions may run on connections that are not yet at
RFBSTATE_NORMAL. Due to recent hardening of the accessCheck() function,
it is important to validate that the state is RFBSTATE_NORMAL before
calling accessCheck().

Fixes #1599.

Merge "Pixel" type in to PixelFormat header

It's a type specific to that class, so let's keep them close for
clarity.

Sanity check when cleaning up keymap changes

Make sure we don't send a bogus request to the X server in the (common)
case that we don't actually have anything to restore.

Use operator overloading for comparison

It is much more natural than custom methods for this very common
operation.

Warn if Point/Rect/Region methods are used wrong

It is easy to get confused if these methods modify the existing object,
or return a new one. So let's mark the return value as critical so the
compiler can help out if someone gets it wrong.

Avoid redefining errno

This can have unexpected consequences as some code may rely on it being
a simple variable. Instead to what we do in Socket, which is to define a
unique name for getting socket error numbers.

Remove unneeded header from SDesktop.h

It doesn't use any exceptions, so stop including the header for it.

Remove unused rfb/util.h includes

These files don't use anything from this header, so remove the include.

This exposes some missing includes in other places, though. So add an
explicit include in the files that were relying on an indirect
inclusion.

Remove "str" prefix from string helpers

This matches the naming in STL, which is what we are mostly mimicing now
that we are using std::string for these functions.

Use standard C string functions

It's just confusing that we have our own variety that isn't compatible.

Remove custom CharArray type

It has now been replaced, mostly by std::string, so remove the actual
type definition.

Use std::string for string memory management

Avoids a bit of complexity by delegating that handling to a string
object.

Use std::string instead of CharArray

Let's use a more common type instead of something homegrown. Should be
more familiar to new developers.

Use std::vector for temporary char arrays

It's more standard and familiar than our custom CharArray type, and it
still gives us automatic freeing of the buffer.

We could probably have used std::unique_ptr instead, but we are
currently targeting older compilers where C++11 isn't standard yet.

Free char buffer directly

It's extreme overkill to inherit from CharArray just to get the
automatic freeing of the buffer when the object is destroyed.

Make strSplit() simpler and safer

Get rid of all the magical re-allocation and shuffling and instead just
return a new set of strings that is fully splitted. Will consume a bit
more memory, but is a lot safer to use as there is less confusion about
ownership of memory.

Return std::string instead of dynamic allocations

We mostly use classical C strings, but the memory management around them
can get confusing and error prone. Let's use std::string for the cases
where we need to return a newly allocated string.

Specify expected array size in arguments

The compiler doesn't enforce this, but it at least documents the
expected array size.

Use fixed size character buffer

We know the needed space here, so let's keep it simple with a constant
size string buffer.

Remove trailing slash from getvnchomedir()

It should return a path to the directory itself, just like its sister
function getuserhomedir().

Namespace directory functions

All library functions should be in a proper namespace.

Better fallback for missing peer address

A blank string might be very confusing, depending on where this will be
used. Let's give something more visible back in the cases where we
cannot get the proper name for the peer.

Return static char buffer from some methods

This mimics how some system functions (like inet_ntop()) work, and
avoids complexity around ownership of the returned string buffer.

The downside is that the string must be consumed directly as it will be
overwritten on the next call, but that is not an issue with the current
usage.

Replace tabs with spaces

Use the same indentation we use in all other files.

Use string literal instead of dynamic buffer

These don't need to be changed, so let's just keep it simple with a
constant string literal.

Remove unneded string duplication

It's unclear why this was initially added. The function takes string
constants, so it is not going to modify these.

Remove unneeded CharArray:s

Avoid complicating things by moving things in to a second buffer here as
there is no need for it.

Use StringParameters directly

We don't need to make extra copies of the string in most cases, so let's
simplify the code and access the string directly when we can.

Get rid of TCHAR magic

We never use Windows' "UNICODE" mode anyway, so let's get rid of this
complexity.

Return std::vector instead of dynamic allocation

This makes memory management more clear and robust when using these
helper functions.

Avoid duplicating configuration setting

Let the string helpers call the more fancy setParam(). This makes sure
we can avoid duplicating things.

Make sure length is reset on assignment

Otherwise the old length is preserved, which will result in NULL pointer
dereferencing if the parameter is ever accessed.

Clean up BinaryParameter typing

This is explicitly a byte sequence, so let's try to keep a consistent
typing.

Move hex conversion helpers to util

These are used here and there so let's make them more general rather
than hiding them in the stream classes.

Update Friulian translation

Use std::vector for basic data arrays

Avoid our own custom types in favour of what's already included with
C++.

Use stdint types

Avoid having our own custom stuff and instead use the modern, standard
types, for familiarity.

Use templates for optimized code

Avoid preprocessor magic and instead rely on templating to generate
optimized functions for performance critical code.

Remove old mingw CMake checks

This should have been removed with the code using these defines in
03ca975.

Fix CRLF line endings

Everything else uses LF line endings, so fix up the few stray ones.

Merge branch 'libtool' of https://github.com/CendioOssman/tigervnc

Create .la files at the end of the cmake run

We might not have all the necessary information, e.g. all targets might
not exist yet, until we're done going through all CMakeLists.

Bail on missing libraries

They may be crucial, so refuse to continue if this happens.

Fall back to dynamic libraries in .la files

This is what the linker does, so we should do the same for correct
behaviour.

Respect library search paths

Things might be in odd places, so make sure we respect where we're told
to look for libraries.

Include other targets in .la files

We have internal dependencies that should be respected, as otherwise it
will be up to the user of the .la file to figure out the correct order
of the libraries.

Handle alternative library suffixes

I think this only affects macOS at the moment where they also have .tbd
files for linking.

Make sure frameworks are included in .la files

We don't really use the .la files for macOS at the moment, but let's try
to be prepared.

Remove unnecessary regexp \\

This serves no useful purpose as we have no reason to suspect there will
be a dangerous first character in these variables.

Fix static library check regexp

Not sure how the old one ever worked as it incorrectly just tried to
match last character and nothing else.

Get target libraries from INTERFACE_LINK_LIBRARIES

<target>_LIB_DEPENDS is an internal variable that contains lots of other
weird stuff.

Use correct FATAL_ERROR CMake option

Merge branch 'wextra' of https://github.com/CendioOssman/tigervnc

Use __attribute__:s directly

These are supported by gcc and clang, and I don't think MSVC works well
with our code anyway, so let's keep things simple and use these
directly.

Enable more warnings by default

These are also useful warnings that tend to find real bugs, so let's
enable then.

The downside is they require us to mark certain things so the compiler
knows if they were on purpose or not.

Work around -Wcast-function-type

That warning doesn't play well with Windows' GetProcAddress(), so add
some extra casting to work around it.

Remove old mingw compatibility code

This isn't needed with modern build environments, and can even conflict
with them.

Don't partially init monitor information

gcc will complain, and we will fill out all fields later anyway.

Fix incorrect types

These types caused an incorrect signed/unsigned behaviour, so let's make
sure we use the appropriate type.

Fix order of qualifiers

gcc can get upset if they aren't in this order.

Protect key variables from setjmp()

If we don't mark these as volatile then they might get reset on
longjmp() and the code will misbehave.

Remove useless const specifiers

These are just values, so setting const on them has no effect as the
caller will get a copy.

Remove useless checks

These are all truisms because of the valid range of the types.

Explicitly mark switch case fall through

This allows us to separate accidental fall through from explicit ones,
which allows us to turn on such checks in the compiler.

Fix RSA-AES state machines

If there isn't enough data, then the client reading the hash will fall
down and try to read the subtype instead, which isn't correct.

Invert the logic so we get a more consistent way through where we only
break out when there is insufficient data.

Do the same for the server code, for consistency.

Update Russian translation

Add missing breaks to Windows key grab code

These were not meant to fall through. Likely didn't have any adverse
effects, but let's fix it anyway.

Explicitly mark unused parameters

This allows us to separate accidentally unused, from explicitly unused
parameters, which allows us to turn on such checks in the compiler.

Respect given server name

No practical difference currently, but let's respect what this API was
supposed to do.

Don't include unused file path parameter

Don't include palette to full color methods

They have no need for it, so let's simplify things.

Remove unused flags to decoder contexts

Everything in flags is already handled at a higher level.

Stop supplying flags to clipboard peek handler

The flags should always be empty anyway.

Mark system include paths correctly

This makes sure the compiler doesn't complain about problems in those
files.

Always enable -Wvla

It's only the -Werror part we want to be conditional on being debug
builds.

Remove debugging strdup()

This was not meant to be included in the previous commit. The static
storage for the font string is more than enough.

Keep font name in permanent memory

Fl::set_font() doesn't keep its own copy, so we need to make sure the
font string doesn't get freed or overwritten at a later point.

Use Rocky Linux for RHEL builds

CentOS Stream isn't fully compatible with RHEL, and there are no useful
RHEL images available, so that leaves us with one of the new RHEL forks.

Merge branch 'add-ard-mslogonii' of https://github.com/pdlan/tigervnc

Add client-side support for the MSLogonII security type.

Add client-side support for the DH security type.

Update Swedish translation

Merge pull request #1525 from pdlan/add-ra2-java

Add support for RSA-AES security types (Java version)

Update Swedish translation

Update Finnish translation

Update Czech translation

Merge branch 'newoptions' of https://github.com/CendioOssman/tigervnc

Respect system UI font

Use the font specified by the system for UI elements. For Windows and
macOS this is straight forward, but Linux is more complex as there is no
single source for this information.

Fix up padding for radio/check buttons

Try to follow the actual padding that FLTK adds to these widgets.

The extra one pixel on each is because of a bug in FLTK's focus drawing
code, where the box is always one pixel too small in both dimensions.

Reduce indent to same as a normal margin

This is how GNOME does things, so let's do the same so things look
similar.

Wider margin around window edges

To conform with how e.g. GNOME sets its margins.

Dynamically size Fl_Group:s

This makes the code much cleaner, and easier to update.